Vector de Ilustración creado por pikisuperstar - www.freepik.es
En la entrada pasada de este blog dejamos planteados algunos de los principales retos en materia de uso responsable y ético que suscita la Inteligencia Artificial (IA). A continuación, desarrollaremos a profundidad estos desafíos:
Pese a que el robo de información mediante ciberataques no es un problema exclusivo de la IA, el aumento significativo de los servicios digitales ha aumentado la exposición de los datos personales de los ciudadanos. Esto plantea la necesidad de que los gobiernos avancen en la implementación y adopción de estándares y protocolos de seguridad de la información.
Los desarrollos en redes neuronales han ampliado los trabajos en clasificación de imágenes y visión computacional. Sin embargo, ha abierto un campo de riesgo para, la penetración ilegal, sobre todo con el avance del reconocimiento facial, que, si bien ha permitido avances importantes en seguridad y sobre todo en la biometría, supone esfuerzos dobles en seguridad y transparencia en su utilización.
Por ejemplo, el software deepfake, utiliza el rostro de una persona existente en un video pregrabado con un cuerpo diferente, de modo que esta persona parece hacer o decir cosas que nunca hizo. Si bien, la técnica se ha hecho popular por el impacto negativo que ha tenido en la proliferación de noticias y videos falsos de políticos y personajes del espectáculo. Este puede tener aplicaciones útiles en diferentes ámbitos, entre ellos el empresarial, donde se puede utilizar esta técnica en el sector de la moda, permitiendo a los clientes cambiar su rostro por modelos digitales, proporcionando vestuarios virtuales que se adaptan a su tipo de cuerpo[1].
Estos desafíos se presentan debido a que, en la resolución de problemas, los datos utilizados en el entrenamiento de la IA pueden presentar sesgos, como la discriminación y desbalance, creando algoritmos injustos y privilegiando a un grupo o perjudicar a otro. Por ejemplo, en los algoritmos de evaluación del riesgo delictivo, se ha avanzado en la integración, dentro de su enseñanza, de conceptos como el de paridad demográfica, Sin embargo, este sigue arrojando efectos muy marcados para ciertos grupos, manteniendo una condición de marginación.
Otro ejemplo, fue en 2015, cuando Amazon se dio cuenta de que su nuevo sistema de reclutamiento no calificaba a los candidatos para trabajos de desarrollador de software y otros puestos técnicos de una manera neutral al género. Esto debido a que los modelos fueron entrenados para examinar a los solicitantes mediante la observación de patrones en los currículos enviados a la empresa durante un período de 10 años, donde la mayoría fue enviada por hombres[2].
Si bien, en toda América Latina ha incrementado el nivel de digitalización y la mayoría de los gobiernos tienen una estrategia de transformación digital para el cierre de brechas, estas implican un trabajo activo y suponen retos mayores en la región para su adopción. Reto que se incrementa al revisar la cantidad y disponibilidad de datos en zonas rurales donde los niveles e indicadores sociales son más preocupantes.
Asimismo, la formación de capacidades en términos de capital humano es fundamental para absorber y aprovechar estas nuevas tecnologías. Se necesita incentivar la formación de capital humano, integrando, no sólo las competencias requeridas, sino también para permitir que un gran número de personas puedan convivir y trabajar con los sistemas de IA.
De esta forma, se necesita desarrollar sistemas robustos para que la información relevante se encuentre disponible para los hacedores de política pública y su grupo de expertos, asegurando que la información englobe datos exactos, completos, necesarios y suficientes[3].
Esto expone el reto, de trabajar conjuntamente desde el punto de vista de la IA con el problema social particular. Es decir, aprovechar las soluciones tecnológicas solo como una herramienta de refinamiento y mejoramiento de las acciones en política pública.
En la próxima entrada, discutiremos otros desafíos transversales y las estrategias generales para abordarlo.
[1] Add to Cart: Why deepfakes are good for retail
[2] Amazon scraps secret AI recruiting tool that showed bias against women
[3] Adopción ética y responsable de la inteligencia artificial en América Latina y el Caribe
