Costa Rica | Un investigador del Observatorio Nacional de Investigación en Ciencias Económicas de la Universidad Hispanoamericana ha propuesto un Modelo Nacional de Gobernanza Responsable de Inteligencia Artificial para el país. Esta iniciativa busca establecer reglas, controles y mecanismos de supervisión para el uso de la inteligencia artificial (IA) tanto en instituciones públicas como privadas.
La propuesta, desarrollada por Alexander Cordero Céspedes, surge ante la preocupación por el crecimiento del uso de sistemas de IA sin políticas formales, controles de riesgos claros o procedimientos de supervisión humana que prevengan posibles afectaciones a los usuarios. El análisis subraya que el desafío principal reside en determinar bajo qué condiciones una organización puede emplear IA sin comprometer la privacidad, seguridad, equidad, transparencia y confianza de las personas.
El documento advierte que una adopción desorganizada puede generar problemas como sesgos algorítmicos, uso indebido de datos personales, decisiones automatizadas sin revisión humana, dependencia de proveedores tecnológicos, vulnerabilidades de ciberseguridad, errores en sistemas generativos y daños reputacionales o regulatorios.
Uno de los pilares del modelo es la clasificación de los usos de la inteligencia artificial en cuatro niveles de riesgo: bajo, medio, alto e inaceptable. Los sistemas de bajo riesgo operarían con controles básicos, mientras que los de riesgo medio requerirían mayor monitoreo y transparencia. Para los de alto riesgo, especialmente en áreas como crédito, seguros, salud, educación, empleo o beneficios públicos, se plantean medidas más estrictas, incluyendo evaluaciones de impacto, validación independiente, supervisión humana y auditorías periódicas. Los usos catalogados como inaceptables, como el puntaje social o la vigilancia masiva injustificada, serían directamente prohibidos o no implementados.
Cordero Céspedes destacó que no todos los usos de la IA demandan el mismo nivel de control, señalando la diferencia entre un sistema de recomendación interna y un modelo que aprueba créditos. El investigador sugiere que las entidades clasifiquen sus sistemas considerando factores como la materialidad, el impacto en los derechos, la criticidad operativa, la autonomía, la sensibilidad de los datos, la explicabilidad, la dependencia de terceros y el potencial de daño.
El modelo incluye diez componentes clave para la gobernanza de la IA. Estos abarcan desde el establecimiento de una política formal de IA con responsabilidades claras y comités, hasta la creación de un inventario de casos de uso que documente sistemas, herramientas, proveedores y riesgos. Otros elementos esenciales son la gestión del ciclo de vida de cada sistema, desde el diseño hasta el retiro, y una gobernanza de datos que asegure la precisión, seguridad y trazabilidad de la información, respetando la Ley de Protección de la Persona frente al Tratamiento de sus Datos Personales.
También se enfatiza la transparencia y explicabilidad, la supervisión humana significativa, la ciberseguridad y resiliencia, la gestión de proveedores externos y la capacitación constante del personal. Entre los riesgos tecnológicos a abordar se mencionan ataques adversariales, inyección de instrucciones, fuga de datos, deepfakes, phishing, envenenamiento de datos y fallos operativos.
La propuesta dedica especial atención al sistema financiero, donde la IA puede usarse para evaluación de crédito y detección de fraudes, pero también implica riesgos de discriminación y tratamiento indebido de datos. Se recomienda que bancos y cooperativas integren los riesgos de la IA en sus estructuras de gestión y definan responsabilidades claras. Este modelo busca complementar, no sustituir, los marcos regulatorios financieros existentes.
Para las pequeñas y medianas empresas, se contempla una versión simplificada del modelo, que incluiría una política breve de uso de IA, una lista de herramientas autorizadas, normas para proteger datos sensibles, mecanismos de revisión humana y capacitación básica. Para empresas de mayor tamaño y entidades reguladas, se sugieren controles más robustos, como auditorías y validaciones independientes.
Se plantea una implementación gradual del modelo en un plazo de 12 meses. Los primeros tres meses se enfocarían en aprobar políticas, definir responsables e identificar usos prohibidos. Entre los tres y seis meses, se desarrollarían clasificaciones de riesgo y se reforzarían controles. Los siguientes seis meses permitirían incorporar evaluaciones de impacto y sistemas de monitoreo. Después del primer año, se recomendarían auditorías y actualizaciones continuas.
Cordero Céspedes sostiene que una gobernanza sólida no debe ser un obstáculo para la innovación, sino una condición para una adopción responsable que mejore la productividad, modernice servicios, amplíe la inclusión y fortalezca la confianza digital. Concluyó que Costa Rica tiene la oportunidad de ser un referente regional al combinar innovación, competitividad, protección de derechos, sostenibilidad y confianza digital.
Fuente: Infobae
Apoya el periodismo independiente
Sinpe 6334-5121 | Donar Aquí