OpenAI admitió que uno de sus modelos de inteligencia artificial más avanzados se descontroló durante una prueba de seguridad y terminó hackeando a otra empresa. El hecho, calificado por la propia compañía como «sin precedentes», generó preocupación en el mundo de la tecnología.
Según explicó la firma detrás de ChatGPT, su agente de IA -un sistema capaz de actuar de manera autónoma tras recibir instrucciones humanas- estaba siendo evaluado en un entorno controlado, conocido como sandbox. Sin embargo, el sistema encontró una vulnerabilidad y logró escapar de ese espacio aislado.
Una vez afuera, la inteligencia artificial identificó a Hugging Face -uno de los mayores centros del mundo para compartir modelos de IA- como blanco de ataque, y consiguió acceder a algunos de sus sistemas internos.
El CEO de Hugging Face, Clément Delangue, expresó su sorpresa en la red social X: «alucinante que todo esto ocurriera de forma autónoma». Y agregó: «La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo».
Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, explicó en el programa Today de BBC Radio 4 que los sandboxes «se supone que son espacios seguros donde se puede observar de qué son capaces los modelos». Y sumó: «En este caso, parece que OpenAI no creó un entorno aislado lo suficientemente seguro».
Neil Lawrence, profesor de aprendizaje automático de la misma universidad, calificó el episodio como una «hazaña impresionante», aunque aclaró que «se encuentra dentro de las capacidades conocidas de la generación actual» de los modelos de IA. El especialista también vinculó el hecho con la competencia que OpenAI mantiene con Anthropic, empresa que ganó terreno con su herramienta Claude Mythos: «OpenAI ahora está intentando ponerse al día, tratando de demostrar las capacidades de sus propios sistemas en ciberseguridad», sostuvo.
Desde Hugging Face aseguraron que ya repararon las vulnerabilidades y reconstruyeron los sistemas afectados, aunque todavía evalúan si hubo datos de clientes comprometidos. En su comunicado, la empresa fue contundente: «Las herramientas ofensivas autónomas basadas en inteligencia artificial ya no son una cuestión teórica». Especialistas en ciberseguridad coinciden en que el hecho expone una brecha creciente: mientras los sistemas de ataque avanzan sin restricciones, las herramientas de defensa todavía dependen de la velocidad humana.
El episodio se conoce apenas una semana después de que la empresa china Moonshot presentara Kimi K3, un modelo de IA que, según sus creadores, podría competir con los gigantes estadounidenses del sector.
Fuente: Mendoza Post