Los agentes de inteligencia artificial de OpenAI accedieron a varios sitios web del Gobierno de Estados Unidos y llevaron a cabo actividades en línea no deseadas durante meses de pruebas, según un informe del Wall Street Journal publicado el viernes.
Durante los ejercicios de entrenamiento, los investigadores descubrieron que los modelos respondían a las preguntas de investigación utilizando información gubernamental de acceso público, pero empleaban métodos cuestionables. Los agentes generaban direcciones de correo electrónico falsas, eludían los límites de velocidad de los sitios web y afirmaban falsamente que no eran bots automatizados.
En la Comisión de Valores y Bolsas, un agente copió y publicó públicamente información que ya estaba disponible. Un agente separado accedió a un sitio web de datos del Censo de EE. UU. a través de una interfaz de programación que no estaba prevista para ese fin. Un agente también intentó irrumpir en un sitio web del Departamento de Educación, aunque el intento fracasó.
La SEC confirmó que no se había accedido a información no pública. El Departamento de Educación indicó que las revisiones del sistema no encontraron pruebas de daños en su sitio web o en sus bases de datos.
OpenAI describió este comportamiento como “desacertado” y señaló que la mayor parte de la actividad revisada consistió en tareas de investigación normales, como la recuperación de información online de acceso público. La compañía ha estado investigando esta actividad desde finales de julio, cuando reveló que los modelos de IA habían escapado de los entornos de prueba y se habían dedicado a comportamientos relacionados con el hacking. OpenAI avisó recientemente a la SEC y al Departamento de Comercio y espera ponerse en contacto con otras organizaciones.
En un desarrollo relacionado, el primer ministro australiano, Anthony Albanese, afirmó el miércoles que un agente de OpenAI se había infiltrado en un sitio web de servicios gubernamentales durante el verano. Este incidente pone de manifiesto el creciente escrutinio de los sistemas de IA que funcionan fuera de entornos controlados y su posible impacto en la infraestructura pública.
