Desde el TicTac y AnalyTICs vemos la necesidad de compartir información sobre temas relevantes al sector TIC ya que es de suma importancia que las empresas del gremio y la sociedad tenga acceso a aquellas actualizaciones que puedan tener influencia sobre sus decisiones de negocio.

Dicho esto, en el año 2021 el Gobierno Nacional lanzó el Marco Ético para la Inteligencia Artificial (IA) en Colombia el cual tiene como objetivo “brindar una guía de recomendaciones y sugerencias a las Entidades Públicas, para abordar la formulación y gestión de los proyectos que incluyan el uso de Inteligencia Artificial (IA)” [1].

El documento presenta las bases para la adopción de principios éticos para la IA en Colombia, herramientas para la implementación de los principios y algunas recomendaciones para el sector público colombiano. 

En cuanto a los principios éticos para la IA en Colombia, se destacan los siguientes: 

1. Transparencia y explicación: La información suministrada en los proyectos debe ser de fácil acceso y entendible, con el objetivo de impulsar la participación de los ciudadanos en la creación, implementación y evaluación de los sistemas de IA.
2. Privacidad: El uso de los datos debe ser autorizado por las personas garantizando siempre su confidencialidad. 
3. Control humano de las decisiones propias de un sistema de IA: Debe existir control humano en las aplicaciones de IA que presenten una mayor probabilidad de riesgo. 
4. Seguridad: La implementación de los proyectos de IA no debe atentar contra la seguridad y confidencialidad de los datos personales para así garantizar el bienestar de las personas.
5. Responsabilidad: Todos los actores involucrados en los proyectos de IA deben responder por los resultados que produzcan estos y las afectaciones que puedan llegar a generar.
6. No discriminación: “Los sistemas de IA deben adoptar un enfoque de neutralidad de género y se debe garantizar que el parámetro de género no sea utilizado como factor de discriminación” [2].
7. Inclusión: Se debe garantizar que toda la población participe activamente en los proyectos de IA sin ningún tipo de discriminación.
8. Prevalencia de los derechos de los niños, niñas y adolescentes:  Es necesario crear lineamientos que protejan los derechos de los niños, niñas y adolescentes para así garantizar su bienestar. 
9. Beneficio social: La implementación de los proyectos de IA deben permitir o estar directamente relacionados a una actividad que genere un beneficio social claro. 

En segundo lugar, se señalan herramientas para la implementación de los anteriores principios. El principal instrumento será un tablero (dashboard) de seguimiento al marco ético para la IA el cual incluirá proyectos de Transformación Digital e Inteligencia Artificial que estén en diferentes etapas de desarrollo ya sea en diseño, implementación, o despliegue. Además, el gobierno recomienda que las entidades realicen actividades como: 

1. Evaluación de algoritmos
2. Limpieza de datos 
   1. Monitorear los errores:
   2. Estandarizar los procesos
   3. Validar la precisión
   4. Buscar datos duplicados
   5. Analizar
   6. Comunicarse en equipo
3. Explicación inteligente
4. Evaluación de la legitimidad 
5. Definición y gestión de riesgos éticos
6. Códigos internos de conducta y/o ética 
7. Análisis de impacto en privacidad
8. Modelos de gobernanza para asegurar la ética de la IA

Finalmente, se presentan algunas recomendaciones para el sector público donde se destacan: 

1. Estrategias de educación e investigación en ética de la inteligencia artificial: Las cuales deben fomentar la educación de todos los actores involucrados en cadenas de algoritmos (diseñadores, profesionales, ciudadanos) en materia de ética de IA. 
2. Diseño de sistemas sostenibles y confiables: Acá es importante inspeccionar y monitorear continuamente el sistema de IA, para que su comportamiento pueda ser entendido. Además se deben priorizar los objetivos técnicos de confiabilidad, seguridad y solidez.  (Leslie, 2019). 

Consulte el documento completo acá: https://bit.ly/3IJ6E7j 

[1] y [2] Departamento Administrativo de la Presidencia de la República. 2021. Marco Ético para la Inteligencia Artificial (IA). Disponible en https://dapre.presidencia.gov.co/TD/MARCO-ETICO-PARA-LA-INTELIGENCIA-ARTIFICIAL-EN-COLOMBIA-2021.pdf

Leslie, D. 2019. Understanding artificial intelligence ethics and safety A guide for the responsible design and implementation of AI systems in the public sector. Disponible en: https://www.turing.ac.uk/sites/default/files/2019-06/understanding_artificial_intelligence_ethics_and_safety.pdf

Por: Paula Tatiana Hernández