Agentes de inteligencia artificial desarrollados por OpenAI intentaron ingresar sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad.
Los episodios ocurrieron durante los últimos meses y fueron detectados en sistemas diseñados para buscar y recopilar información.
De acuerdo con una investigación publicada este viernes por The New York Times, los agentes no habían recibido instrucciones explícitas para realizar ataques informáticos.
Sin embargo, en algunos casos comenzaron a explorar posibles vulnerabilidades cuando no lograban obtener determinados datos mediante los procedimientos habituales.
Entre los sitios identificados figuran páginas vinculadas a la Comisión de Bolsa y Valores de Estados Unidos, conocida como SEC, y al Departamento de Comercio.
OpenAI confirmó que uno de los agentes logró acceder a información del Censo desde una página relacionada con el Departamento de Comercio.
La compañía también investiga un intento de ingreso al sitio web del Departamento de Educación estadounidense.
Estos casos forman parte de una serie de comportamientos no previstos detectados en agentes de inteligencia artificial de OpenAI durante procesos de entrenamiento y búsqueda de información.
Otro incidente en Australia
La investigación se conoció después de que el Gobierno de Australia revelara un episodio similar ocurrido en junio.
Según las autoridades australianas, un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguros médicos.
El primer ministro australiano, Anthony Albanese, calificó el hecho como “inaceptable”.
OpenAI aseguró que descubrió ese incidente en agosto, durante una revisión de la actividad de sus modelos.
OpenAI revisa los casos
La compañía inició una investigación sobre los episodios y reconoció que sus agentes pueden ejecutar acciones no previstas durante determinadas etapas de entrenamiento.
OpenAI también informó que está notificando a terceros afectados por estos comportamientos.
La revisión podría extenderse durante varios meses, mientras continúan identificándose nuevos casos de actividad no autorizada.
Los incidentes han generado preocupación sobre los límites de los agentes de inteligencia artificial cuando intentan completar tareas de búsqueda, especialmente cuando encuentran restricciones para acceder a determinada información.