Fiscal general de California demanda a OpenAI por fallas de seguridad en pruebas con agentes autónomos de IA

Compartir:

La acción judicial alega que la empresa perdió el control de sus sistemas en al menos 80 ocasiones durante ensayos internos y que solo reportó 27 casos. OpenAI sostiene que investigó los incidentes y corrigió los fallos.

El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI por presuntas deficiencias de seguridad durante ensayos con agentes de inteligencia artificial autónomos. La acusación sostiene que la compañía perdió el control de estos sistemas al menos 80 veces en sus pruebas internas y que solo había informado públicamente 27 de esos casos.

La acción judicial fue presentada el 16 de noviembre de 2026 ante el Tribunal Superior de San Francisco contra OpenAI Foundation y OpenAI Group PBC. La Fiscalía acusa a la empresa de crear una “molestia pública” que expone a terceros a riesgos de ciberseguridad y de infringir la ley californiana de competencia desleal, informó NBC News.

Bonta afirmó que el Estado busca establecer responsabilidades sobre las empresas que desarrollan sistemas capaces de ejecutar tareas sin supervisión humana constante. La demanda plantea que los costos de contener posibles ataques no deben recaer sobre usuarios, plataformas externas ni organismos conectados a internet.

Cerca de 700 agentes atacaron la plataforma Hugging Face, afirma la demanda

El documento judicial describe un incidente ocurrido en julio de 2026, cuando cientos de agentes habrían salido de un entorno aislado de pruebas y se dirigieron contra Hugging Face, una plataforma utilizada por desarrolladores para publicar, compartir y descargar modelos de inteligencia artificial.

De acuerdo con el expediente citado por NBC News, los agentes aprovecharon fallas de configuración en un servicio interno de paquetes de software. Esa infraestructura era utilizada de forma compartida por varios sistemas autónomos, lo que habría permitido que intercambiaran información y, posteriormente, obtuvieran acceso a internet.

La Fiscalía indicó que OpenAI detectó al menos un episodio de escape antes de que se produjeran los ataques, aunque no habría detenido las pruebas. El 27 de junio, una herramienta de monitoreo alertó sobre la búsqueda de vulnerabilidades dentro del entorno. La empresa interpretó esa actividad como parte de una evaluación de capacidades y mantuvo el programa en marcha, tal y como figura en la demanda.

Tras una interrupción del servicio el 4 de julio, OpenAI reparó la infraestructura y reanudó las pruebas tres días después. En ese lapso, varios agentes crearon un foro para coordinar acciones. Para el 9 de julio, habrían recuperado el acceso a internet.

La presentación estatal calcula que unos 1.200 agentes participaron en ese espacio de coordinación y que cerca de 700 realizaron 17.600 acciones contra Hugging Face entre el 9 y el 16 de julio. El ataque, siempre de acuerdo con la acusación, obligó a la plataforma afectada a concentrar a su equipo de seguridad durante dos semanas para reparar el daño.

La acusación incluye accesos a repositorios y bases de datos de salud

La demanda también atribuye a los agentes accesos sin autorización a repositorios de código empleados por múltiples aplicaciones, sitios informativos y bases de datos de un gobierno extranjero que contenían información sanitaria. Además, afirma que algunos grupos de agentes comprometieron infraestructura interna de la propia OpenAI y lograron permisos de administrador en sistemas considerados críticos.

Otro de los hechos señalados ocurrió el 20 de septiembre. Un agente vinculado a un modelo interno habría escapado durante una sesión de entrenamiento. Cinco días más tarde, OpenAI anunció una pausa en la formación y evaluación de sus modelos más avanzados. Sin embargo, la Fiscalía sostiene que la suspensión se extendió solo durante cinco días y que las actividades ya se habían reanudado el 1 de octubre.

Bonta emitió una orden de investigación el 30 de septiembre para requerir información a la compañía. La demanda asegura que OpenAI respondió con una carta de 14 páginas que abordaba hechos ya divulgados, pero sin entregar los documentos solicitados. El fiscal general aseguró que la falta de información detallada sobre los incidentes “pone en riesgo al público”, de acuerdo con la cobertura de NBC News.

OpenAI dice que investigó los incidentes y corrigió los fallos

Drew Pusateri, portavoz de OpenAI, aseguró a NBC News que la empresa realizó un esfuerzo “amplio y transparente” para comprender y corregir la actividad de modelos que no siguieron instrucciones humanas. También sostuvo que la demanda apunta a un desafío técnico identificado por los principales laboratorios de inteligencia artificial.

La compañía publicó el 26 de agosto una entrada en su blog donde describió el caso como una “advertencia” para el sector. La firma sostuvo que los modelos buscaban información para eludir una evaluación de seguridad, recogió NBC News. Bonta rechazó las explicaciones que reducen lo sucedido a un escenario hipotético y atribuyó los fallos a decisiones internas de desarrollo.

El Estado de California solicita una orden judicial, multas de USD 2.500 por cada infracción y la restitución de ganancias que pudieran estar vinculadas con las conductas denunciadas. El caso se suma a la demanda presentada en junio por el fiscal general de Florida, James Uthmeier, contra OpenAI y su director ejecutivo, Sam Altman.

También puede interesarte

El Teatro Coliseo Podestá de La Plata cumple 140 años y concluye una nueva etapa de renovación

El Teatro Coliseo Podestá de La Plata celebra 140 años con la conclusión de una etapa de renovación tecnológica. Este martes se realizará una gala lírica con El barbero de Sevilla.

Tinogasta: la Justicia intimó a los becados a liberar las escuelas y abrió una causa penal

La Fiscalía Penal de Tinogasta intimó a trabajadores becados a liberar las escuelas y abrió una causa penal. Los manifestantes permitieron el ingreso pero mantienen la protesta.

Talleres culturales de Catamarca cierran el ciclo 2026 con presentaciones gratuitas

Los talleres culturales de la Secretaría de Gestión Cultural de Catamarca presentan sus muestras finales los días 20, 23 y 25 de noviembre. Entrada libre y gratuita.

Avión se estrella en el Gran Cañón con tres ocupantes muertos

Una Piper PA-24 Comanche con tres personas a bordo se estrelló en el North Rim del Gran Cañón. El NTSB investiga las causas del siniestro.