Estados Unidos.- La empresa de Inteligencia Artificial (IA) Anthropic informó este jueves 10 de septiembre que ha frustrado varios posibles complots en los que sus modelos fueron utilizados para realizar investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
La compañía explicó en un informe que detectó y bloqueó estos usos indebidos durante este año, aunque no pudo establecer si las investigaciones tenían objetivos legítimos o maliciosos.
¿Por qué Anthropic decidió bloquear estas investigaciones?
Ante la incertidumbre y el riesgo de que sus modelos pudieran contribuir al desarrollo de patógenos peligrosos, la empresa optó por impedir el acceso a determinadas capacidades relacionadas con investigaciones biológicas.
Anthropic aclaró que las evaluaciones de sus modelos permiten demostrar determinadas capacidades, pero no constituyen evidencia de que estas vayan a utilizarse para desarrollar armas biológicas en el mundo real.
Hasta ahora, la compañía con sede en California aseguró que no tiene conocimiento de que alguna empresa privada haya hecho pública evidencia sobre un posible uso indebido de sus plataformas para el desarrollo de armas biológicas.
¿En qué otros países detectó usos indebidos de sus modelos?
En otro comunicado, Anthropic presentó una amplia lista de casos detectados durante los últimos ocho meses en los que sus sistemas de IA, incluido el chatbot Claude, habrían sido utilizados de manera indebida en países como China, Rusia y Yemen.
El reporte se conoce en medio de una creciente preocupación entre especialistas del sector tecnológico por el llamado uso dual de la Inteligencia Artificial, debido a que herramientas capaces de apoyar investigaciones biológicas también podrían emplearse con fines peligrosos.
A esta preocupación se suman las advertencias sobre los riesgos asociados con el aumento de la autonomía de los modelos de inteligencia artificial y su capacidad para realizar tareas cada vez más complejas.
Anthropic aseguró que ha desarrollado sistemas de detección destinados a identificar y bloquear los usos de sus modelos que puedan representar un riesgo, como parte de sus medidas para evitar que sus tecnologías sean utilizadas con fines dañinos.
Fuente: Tribuna