Ginebra, Suiza.-  El alto comisionado de la Organización de las Naciones Unidas (ONU) para los Derechos Humanos, Volker Türk, advirtió que el acelerado desarrollo de la Inteligencia Artificial (IA) puede poner en riesgo todos los derechos humanos, incluidos los relacionados con la vida, alimentación, privacidad, salud y seguridad. Además, alertó sobre fallos en sistemas capaces de tomar decisiones autónomas.

¿Por qué la ONU alerta sobre el avance de la IA?

En un comunicado difundido este lunes, Türk cuestionó la velocidad con la que empresas y desarrolladores buscan incrementar las capacidades de los sistemas de IA. El funcionario sostuvo que esta carrera tecnológica puede generar riesgos que todavía no cuentan con mecanismos suficientes para ser controlados.

“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”, afirmó el jefe de derechos humanos de Naciones Unidas.

La advertencia ocurre después de que empleados del sector tecnológico también hayan planteado la necesidad de ralentizar el desarrollo de estos sistemas para contar con más tiempo para evaluarlos y reforzar sus mecanismos de seguridad.

¿Qué riesgos tiene la IA agéntica?

Türk puso especial atención en la llamada IA agéntica, una categoría de sistemas que puede ir más allá de ejecutar instrucciones convencionales y tomar determinadas decisiones de manera autónoma. De acuerdo con el alto comisionado, este tipo de tecnología ya está mostrando fallos que podrían tener consecuencias en sistemas fundamentales.

El funcionario advirtió que errores o comportamientos no previstos podrían “paralizar servicios esenciales, fracturar las comunicaciones” y afectar infraestructura crítica. También señaló que estos riesgos podrían alcanzar directamente a las instituciones democráticas.

La preocupación no se limita a un solo derecho o sector, ya que, según Türk, las consecuencias potenciales abarcan ámbitos como la privacidad, salud, alimentación y seguridad, además del derecho a la vida.

¿Qué pide la ONU ante el desarrollo de la Inteligencia Artificial?

La advertencia de Naciones Unidas coloca la seguridad y los derechos humanos en el centro del debate sobre la velocidad con la que evolucionan los modelos de IA. La preocupación expresada por Türk coincide con llamados provenientes del propio sector tecnológico para evaluar con mayor cuidado las capacidades que están adquiriendo estos sistemas.

El alto comisionado consideró que los posibles efectos sobre servicios esenciales, infraestructura y democracia requieren especial atención conforme aumenta la autonomía de las herramientas de inteligencia artificial. La discusión plantea así el desafío de desarrollar tecnología avanzada sin dejar atrás los mecanismos destinados a proteger a las personas.

Mientras continúa la carrera por crear sistemas de IA más potentes, la ONU advierte que los riesgos podrían extenderse a todos los aspectos de la vida, desde la protección de datos personales hasta el funcionamiento de servicios e instituciones fundamentales.

Fuente: Tribuna