Estados Unidos.- OpenAI, empresa creadora de ChatGPT, informó que uno de sus sistemas de inteligencia artificial realizó de manera autónoma una intrusión informática contra otra compañía de tecnología durante una prueba de seguridad, un hecho que calificó como un “incidente cibernético sin precedentes”.

El director ejecutivo de OpenAI, Sam Altman, señaló que el caso ocurrió durante una evaluación de sus modelos de IA y destacó la importancia de reforzar las medidas de seguridad conforme avanzan las capacidades de estas herramientas.

La empresa de inteligencia artificial Hugging Face había reportado previamente una intrusión en sus sistemas de procesamiento de datos y señaló que, por la complejidad del ataque, sospechaban que pudo haber sido realizado por un agente de IA desarrollado por un laboratorio especializado.

El director ejecutivo y cofundador de Hugging Face, Clément Delangue, confirmó que el incidente involucró a un sistema de OpenAI y aseguró que no existió una intención maliciosa por parte de la compañía. También consideró que podría tratarse del primer caso conocido de este tipo.

De acuerdo con OpenAI, la intrusión fue realizada durante una prueba utilizando una combinación de modelos de inteligencia artificial, incluido su sistema más reciente y otro modelo que aún se encuentra en evaluación interna.

La compañía explicó que el sistema utilizó credenciales comprometidas y detectó una vulnerabilidad no conocida previamente para intentar acceder a servidores de Hugging Face. Según OpenAI, el modelo llegó a obtener información confidencial que podía utilizar para alterar los resultados de la evaluación.

El caso ocurre en medio de un creciente debate internacional sobre los riesgos de los modelos avanzados de inteligencia artificial y sus posibles usos en ciberseguridad. OpenAI señaló que la principal lección del incidente es que las medidas de protección deben evolucionar al mismo ritmo que las capacidades de los nuevos sistemas de IA.