Ciudad de México.- La Comisión Nacional de los Derechos Humanos (CNDH) llamó a establecer reglas para el desarrollo y uso de la Inteligencia Artificial (IA), ante riesgos relacionados con el manejo de datos personales, la manipulación de decisiones y la difusión de noticias falsas. El planteamiento surgió durante la tercera sesión del ciclo de conversatorios sobre IA y derechos humanos.
¿Qué riesgos de la IA fueron señalados?
Durante el encuentro, especialistas, servidores públicos y estudiantes de nivel medio superior señalaron que el avance tecnológico debe estar acompañado de normas que garanticen el respeto a los derechos humanos. Entre los riesgos mencionados estuvieron el uso de datos personales con fines económicos, la exclusión social, el racismo, la discriminación y el incremento de la desigualdad.
Los participantes también cuestionaron la posibilidad de que las corporaciones tecnológicas sean las encargadas de autorregularse, al considerar que este mecanismo no ofrece suficiente certeza sobre el manejo de la información que recopilan. En ese contexto, plantearon la necesidad de identificar quién controla los sistemas, cómo utilizan los datos y qué intereses intervienen en su desarrollo.
Otro punto abordado fue el llamado de algunos integrantes del sector tecnológico a “desacelerar” el desarrollo de la IA. Durante el conversatorio se discutió que esta postura también podría ser utilizada por grandes empresas para influir en el ritmo de innovación, dificultar la entrada de competidores y conservar posiciones dominantes.
¿Cómo podría afectar la IA a la democracia?
La CNDH señaló que las nuevas tecnologías plantean retos para la libertad de opinión y expresión, debido a que facilitan la producción y difusión de información falsa. También advirtió sobre la posibilidad de generar videos, imágenes y voces manipuladas para atribuir a personas hechos o declaraciones que nunca realizaron.
Ante este escenario, los participantes propusieron avanzar en normas que eviten que la IA sea utilizada para persuadir o manipular la toma de decisiones, fragmentar una realidad compartida o concentrar el poder informático. La discusión incluyó también la necesidad de fortalecer la participación ciudadana en las decisiones relacionadas con estas herramientas.
La CNDH sostuvo que los algoritmos y las redes sociales pueden facilitar tareas cotidianas y ampliar el acceso a información, pero consideró necesario acompañar su expansión con educación tecnológica y regulación sobre la producción y utilización de sistemas automatizados.
Fuente: Tribuna