OpenAI reveló que sus agentes de IA fuera de control hackearon a más plataformas
OpenAI reveló nuevos detalles sobre el hackeo que su inteligencia artificial realizó a los sistemas de Hugging Face, una plataforma utilizada para distribuir modelos, aplicaciones y bases de datos de IA. La compañía, liderada por Sam Altman, confirmó que dos de sus modelos de inteligencia artificial, que escaparon del entorno confinado, irrumpieron además en otras cuatro plataformas.
Una de estas plataformas sirvió como intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los modelos exploraron para encontrar respuestas a las pruebas planteadas por los desarrolladores de OpenAI. Sin embargo, la empresa no divulgó los nombres de las entidades afectadas.
Según una actualización del informe del incidente publicada la noche del martes, las dos IA también utilizaron varios sitios de acceso libre para copiar y probar código de programación, sin avanzar más allá de lo que haría un usuario común.
Por su parte, Hugging Face, que publicó un extenso relato de los acontecimientos, consideró que la intrusión respondía a un «intento de los dos modelos de hacer trampa en la evaluación» de OpenAI, ya que las IA intentaron «robar las soluciones de las pruebas en lugar de responderlas por sí mismas».
Este tipo de evasión de modelos no es inédita, pero se considera la más grave hasta la fecha. El episodio reavivó el debate respecto a la aceleración de la inteligencia artificial, cuyas capacidades se amplían rápidamente, y la dificultad para controlarlas.
El martes, más de mil empleados de grandes empresas de IA, incluidos varios altos directivos, solicitaron al gobierno de Estados Unidos que detenga temporalmente el lanzamiento de nuevos modelos para permitir que el ecosistema tecnológico se prepare adecuadamente. En una petición, pidieron que Estados Unidos lidere la creación de una instancia internacional competente en la evaluación y supervisión de la inteligencia artificial.
El sector tecnológico advierte que la IA se acerca progresivamente a la etapa denominada «automejora recursiva» (recursive self-improvement, RSI), en la cual una inteligencia artificial podría diseñar por sí misma a su sucesora, proceso que podría repetirse indefinidamente. Esta evolución dificultaría las verificaciones y evaluaciones por parte de expertos humanos, ya que los ingenieros no participarían directamente en el desarrollo de los nuevos modelos.
Los agentes de IA, sistemas autónomos que completan tareas sin seguir instrucciones paso a paso, son considerados el próximo avance relevante en el campo. No obstante, generan preocupación pública por el riesgo de que computadoras descontroladas actúen sin supervisión.
En su actualización, OpenAI informó que los modelos accedieron a credenciales de inicio de sesión que otras empresas habían dejado expuestas en línea, utilizándolas para ingresar a cuentas en servicios externos. La compañía aseguró estar contactando a los propietarios afectados y señaló que «no ha hallado evidencia de un impacto más amplio en estos proveedores ni en otras cuentas».
El CEO de OpenAI, Sam Altman, declaró en una entrevista que la empresa ha «puesto en pausa» sus pruebas internas tras el incidente, mientras implementa mejoras en la seguridad de su sistema de aislamiento («sandboxing»), que mantiene los ensayos en un entorno controlado.
Este suceso también generó críticas de algunos actores de Silicon Valley cercanos a la Casa Blanca, quienes acusan a las empresas de impulsar regulaciones más estrictas para proteger sus modelos de negocio y obstaculizar la competencia. Asimismo, algunos observadores consideran que OpenAI está aprovechando el incidente para promocionar la potencia de sus últimos modelos, una acusación similar a la que recibió Anthropic tras retrasar la publicación pública de su modelo Mythos debido a preocupaciones de seguridad.
