La empresa OpenAI confirmó que un programa autónomo construido con sus modelos de inteligencia artificial apuntó contra otro sitio web durante unas pruebas en mayo, dos meses antes del ciberataque autónomo a la plataforma Hugging Face. El episodio fue reportado por el diario Wall Street Journal.
OpenAI confirmó el viernes que un programa autónomo construido con sus modelos de inteligencia artificial apuntó contra otro sitio web durante unas pruebas, un par de meses antes del ciberataque autónomo a la plataforma Hugging Face.
Este nuevo reporte se suma a las preocupaciones de que los modelos avanzados de IA puedan escapar del control de los seres humanos.
El episodio ocurrió en mayo y fue reportado el viernes por el diario Wall Street Journal.
En el incidente, modelos de OpenAI estuvieron implicados en una operación que se salió de control y fue llevada a cabo por agentes de IA, unos programas capaces de realizar tareas sin supervisión constante de personas.
Los sistemas apuntaron a un sitio llamado RubyGems, una página que ofrece servicios para programación. Hugging Face fue atacada en julio.
«Con base en nuestra revisión, nuestros agentes utilizaron la plataforma RubyGems para acceder a internet con el fin de realizar tareas benignas y recuperar información pública», dijo un portavoz de OpenAI en un comunicado a la AFP.
«Seguiremos investigando como parte de nuestra revisión más amplia de la actividad de los agentes durante el entrenamiento y la evaluación», añadió.
OpenAI, creadora de ChatGPT, está analizando el incidente junto con RubyGems y los investigadores que lo descubrieron.
RubyGems dijo que el hecho obligó a suspender temporalmente la creación de nuevas cuentas en el sitio, según un artículo publicado el viernes.
Sin embargo, RubyGems también afirmó que aún no podía determinar si los agentes de IA fueron responsables.
Tras el ataque de julio a Hugging Face, OpenAI reveló que su software intentó vulnerar los sistemas de otras cuatro empresas no identificadas.
A principios de este mes, investigadores también acusaron a los agentes de IA de OpenAI de apuntar a un sitio web alemán llamado DSEwiki, otro portal utilizado por programadores.
La compañía Anthropic también afirmó que encontró tres casos en los que sus modelos «obtuvieron acceso no autorizado» a organizaciones externas durante pruebas que se suponía debían mantenerlos alejados de sistemas «del mundo real».