La compañía explicó que el sistema encadenó credenciales robadas y vulnerabilidades para cumplir un objetivo de evaluación. El hecho reavivó el debate sobre los riesgos de la IA más avanzada y la capacidad de los agentes.
OpenAI reveló que uno de sus agentes de inteligencia artificial (IA) logró hackear de manera autónoma la infraestructura de otra empresa del sector durante una prueba interna, en un episodio que la compañía describió como un “incidente cibernético sin precedentes”.
El director ejecutivo de OpenAI, Sam Altman, confirmó el hecho en un comunicado publicado este martes en redes sociales. “Tuvimos un incidente de seguridad importante durante la evaluación de nuestros modelos”, afirmó.
“Consideramos que este incidente constituye un hecho cibernético sin precedentes, que involucró capacidades de vanguardia en materia de ciberseguridad ofensiva, y estamos respondiendo en consecuencia”, sentenció el comunicado de la empresa de IA.
El “hackeo sin precedentes” de OpenAI
La empresa afectada fue Hugging Face. La semana pasada, la startup había informado que detectó una intrusión en sus sistemas de procesamiento de datos y sospechaba que el acceso había sido realizado por un agente de inteligencia artificial que actuó por cuenta propia.
“Dada la sofisticación del agente, sospechamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de frontera”, sostuvo el cofundador y CEO de Hugging Face, Clément Delangue. “¡Y resulta que sí!”, remarcó.
Según lo que relato OpenAI, el incidente tuvo lugar durante una evaluación interna en la que se solicita a los modelos que “lleven adelante explotaciones avanzadas mediante complejas cadenas de ataque, con el objetivo de cuantificar sus capacidades cibernéticas”.
Las pruebas se realizaban en “un entorno altamente aislado, con un acceso a la red restringido a la posibilidad de instalar paquetes mediante un software de terceros alojado internamente”.
Según explicó OpenAI, la intrusión fue provocada por una combinación de varios de sus modelos de IA, entre ellos el recientemente presentado GPT 5.6 Sol y otro modelo “aún más capaz” que permanece en fase de pruebas internas.
La compañía conducida por Altman detalló que, durante estas pruebas, los modelos utilizaron una “cantidad considerable de capacidad de cómputo de inferencia para encontrar una forma de obtener acceso abierto a Internet, con el objetivo de resolver el problema de evaluación”.
Tras lograr el acceso a internet, los modelos dedujeron que Hugging Face posiblemente alojaba modelos, conjuntos de datos y soluciones que serían útiles. “Con este conocimiento, el modelo buscó y logró encontrar formas de acceder a información secreta que podía utilizar para hacer trampa en la evaluación”, aseguraron desde la empresa.
“En un ejemplo, el modelo encadenó múltiples vectores de ataque, incluido el uso de credenciales robadas y vulnerabilidades de día cero, para encontrar una vía de ejecución remota de código en los servidores de Hugging Face. El equipo de seguridad de OpenAI descubrió internamente esta actividad anómala”, concluyó la reconstrucción de la empreas.
Las consecuencias del hallazgo
Tras el incidente, Delangue aseguró que mantuvo contacto con OpenAI durante las últimas 24 horas y descartó una acción deliberada por parte de la empresa.
“Creemos firmemente que no hubo intención maliciosa de su parte. ¡Es realmente alucinante que todo esto haya ocurrido de manera autónoma!”, afirmó el ejecutivo, quien además consideró que “podría ser el primer incidente de este tipo”.
La revelación se conoce en un contexto de creciente preocupación por las capacidades de ciberseguridad de los modelos de inteligencia artificial más avanzados. En ese marco, el presidente de Estados Unidos, Donald Trump, firmó en junio una orden ejecutiva que establece un mecanismo para que su administración evalúe, durante un período de hasta un mes antes de su lanzamiento público, los riesgos para la seguridad nacional que puedan representar los sistemas de IA de última generación.
Al referirse al episodio, OpenAI remarcó que “la IA acelera el descubrimiento y la explotación de vulnerabilidades” y concluyó que “la principal lección de este incidente es que la seguridad y la protección de los modelos deben mantenerse al ritmo de unas capacidades que avanzan rápidamente”.
Ambito