Estados Unidos.- El director ejecutivo de OpenAI, Sam Altman, instó este miércoles 23 de septiembre al Consejo de Seguridad de la ONU a impulsar una cooperación internacional urgente para orientar a las empresas tecnológicas ante el rápido avance de la Inteligencia Artificial (IA).
Durante una sesión de alto nivel convocada por la presidencia francesa del Consejo, Altman advirtió que el desarrollo acelerado de esta tecnología exige un “extremo cuidado” para evitar que los seres humanos pierdan el control sobre los modelos más avanzados.
¿Qué pide Altman para controlar los riesgos sobre la IA?
El ejecutivo sostuvo que el sector se encuentra en una encrucijada y pidió no asumir “demasiado riesgo tecnológico” bajo el argumento de que los beneficios potenciales de la IA son demasiado importantes como para frenar su desarrollo.
Altman señaló que la Inteligencia Artificial podría abrir una nueva era similar a un “Renacimiento” si se utiliza para ampliar las capacidades de las personas. Sin embargo, advirtió que también podría reproducir algunas fracturas de la Revolución Industrial si los sistemas terminan sustituyendo la agencia humana.
Uno de los principales riesgos que destacó es el desarrollo de modelos capaces de programarse y mejorarse de manera recursiva. Según explicó, un avance de este tipo podría llegar a un punto en el que los seres humanos ya no comprendan plenamente el funcionamiento o las decisiones de estos sistemas.
Por ello, pidió establecer marcos técnicos rigurosos que permitan medir las capacidades de los modelos, evaluar amenazas, verificar salvaguardas y habilitar canales internacionales seguros para compartir información sobre vulnerabilidades críticas.
¿Por qué Anthropic reclama medidas contra riesgos globales?
Altman defendió además el consenso multilateral y sostuvo que incluso países con intereses contrapuestos pueden cooperar ante tecnologías de gran impacto. “A nivel internacional, esto significa cooperación”, afirmó, al considerar que la IA debe convertirse en uno de esos ámbitos de interés común.
El ejecutivo resumió los principios de OpenAI en mantener a las personas “en el centro de la toma de decisiones”, orientar el progreso científico y económico “por y para las personas” y empoderar a cada individuo. “Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia”, sostuvo.
En la misma reunión, el consejero delegado de Anthropic, Dario Amodei, pidió una respuesta internacional coordinada y calificó los riesgos de los modelos más avanzados como “el problema de seguridad global más importante” al que se enfrenta el mundo.
Amodei reclamó al Consejo de Seguridad respaldar medidas concretas, entre ellas prohibir expresamente el uso de IA para la proliferación o fabricación de armas biológicas y desarrollar sistemas de evaluación y verificación capaces de avanzar al mismo ritmo que el desarrollo tecnológico.
Fuente: Tribuna