EL NUEVO DIARIO, SANTO DOMINGO.  – La directora ejecutiva del Observatorio Datalawrd, Emely García, advirtió que la incorporación de la inteligencia artificial (IA) en las instituciones del Estado debe estar acompañada de mecanismos efectivos que garanticen la protección de los datos personales, la privacidad y los derechos fundamentales de los ciudadanos, a fin de evitar que las decisiones automatizadas comprometan las garantías democráticas.

La especialista intervino en el panel “Gobernanza tridimensional de la IA pública: modelo, seguridad y derechos”, en el marco del XXXI Congreso Internacional del CLAD, celebrado en Santo Domingo, donde desarrolló la ponencia titulada “Gobernanza tridimensional de la IA pública: dimensión de derechos, privacidad y garantías ciudadanas”, centrada en los desafíos jurídicos, institucionales y democráticos que representa la utilización de sistemas inteligentes en la gestión gubernamental.

Durante su exposición, García sostuvo que, aunque la inteligencia artificial constituye una oportunidad para modernizar el Estado, optimizar procesos administrativos, mejorar los servicios públicos y fortalecer la relación con la ciudadanía, su implementación no puede limitarse exclusivamente a criterios de eficiencia tecnológica.

En ese sentido, explicó que cuando estos sistemas intervienen en decisiones relacionadas con derechos, beneficios, obligaciones o acceso a servicios públicos, su utilización debe responder a principios de legalidad, proporcionalidad, transparencia, seguridad y responsabilidad institucional.

“La legitimidad de la IA pública comienza antes del algoritmo: comienza en los datos”, expresó García, al destacar que las instituciones deben garantizar que la información utilizada por estas tecnologías haya sido obtenida legítimamente y procesada conforme a las disposiciones jurídicas aplicables.

La especialista señaló que el hecho de que una institución pública tenga acceso a determinada información no significa que pueda utilizarla indiscriminadamente para alimentar sistemas de inteligencia artificial, realizar perfiles ciudadanos o generar decisiones automatizadas.

Advierte sobre riesgos de decisiones automatizadas en el Estado

Durante su intervención en el congreso internacional, García también alertó sobre los riesgos asociados a la confianza excesiva en los resultados producidos por herramientas de inteligencia artificial, fenómeno conocido como sesgo de automatización.

Explicó que este comportamiento puede provocar que los servidores públicos acepten recomendaciones generadas por algoritmos sin cuestionar su precisión, posibles errores, sesgos o consecuencias sobre los derechos de las personas.

En ese contexto, enfatizó que la supervisión humana constituye una garantía indispensable para evitar que las decisiones administrativas queden subordinadas exclusivamente a sistemas tecnológicos.

“La inteligencia artificial puede asistir al Estado, pero la responsabilidad jurídica y democrática de decidir sigue siendo humana”, sostuvo la directora ejecutiva del Observatorio Datalawrd.

Plantea capacitación permanente de los servidores públicos

Otro de los aspectos abordados por García durante el XXXI Congreso Internacional del CLAD fue la necesidad de desarrollar programas permanentes de capacitación dirigidos a los servidores públicos, especialmente aquellos responsables de diseñar, contratar, implementar, utilizar o supervisar sistemas de inteligencia artificial.

La especialista explicó que la formación de los funcionarios no debe limitarse al manejo técnico de las herramientas, sino que debe incorporar conocimientos sobre protección de datos personales, derechos fundamentales, transparencia, responsabilidad administrativa y prevención de sesgos algorítmicos.

Advirtió que la falta de preparación del personal estatal podría provocar que las instituciones dependan excesivamente de las recomendaciones automatizadas, sin contar con las capacidades necesarias para identificar errores o posibles vulneraciones de derechos.

Propone auditorías y mecanismos de protección de datos

García también planteó la necesidad de que las instituciones públicas establezcan marcos de gobernanza de inteligencia artificial y datos, con responsabilidades claramente definidas, evaluaciones de impacto, mecanismos de auditoría, trazabilidad y rendición de cuentas.

Explicó que estas herramientas permitirían identificar qué datos fueron utilizados, cómo intervino el sistema tecnológico, quién supervisó sus resultados y quién debe asumir la responsabilidad por las decisiones adoptadas.

Sostuvo que una inteligencia artificial responsable no debe evaluarse únicamente por su capacidad para producir resultados precisos o agilizar procedimientos administrativos, sino también por la posibilidad de que sus decisiones sean explicadas, supervisadas, auditadas y cuestionadas.

ENV/

La entrada Emely García advierte sobre riesgos del uso indiscriminado de datos ciudadanos por parte del Gobierno  se publicó primero en El Nuevo Diario (República Dominicana).

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

You May Also Like

Digesett inaugura nueva sede en Moca, provincia Espaillat

EL NUEVO DIARIO, ESPAILLAT.- La Dirección General de Seguridad de Tránsito y…

Hombre lleva 13 años postrado tras un accidente y clama por ayuda para sobrevivir en Jimaní

Jimaní, Independencia.– Tras trece años de un accidente que lo dejó con…

Autobús de la OMSA impacta motociclista en la avenida George Washington – El Nuevo Diario (República Dominicana)

Ambulancia del 9-1-1 dando asistencia al motociclista herido. (Foto: Vladimir Santos) EL…

Mesa de Diálogo por el Autismo denuncia incumplimiento de Ley 34-23 a tres años de promulgación – El Nuevo Diario (República Dominicana)

Fernando Gabriel Quiroz Flavia. (Foto: Comunicaciones Mesa de Diálogo por el Autismo)…