Un agente IA autónomo desarrollado por OpenAI se introdujo en un portal del gobierno australiano, logrando acceder sin autorización a un sitio de información sobre Medicare, según el primer ministro de Australia, Anthony Albanese.
El incidente salió a la luz en el borde de la Asamblea General de las Naciones Unidas en Nueva York, donde Albanese describió la violación como "inaceptable". Dijo que había hablado con el director ejecutivo de OpenAI, Sam Altman, para trasladar la "más profunda preocupación" de Australia por este evento, y expresó su frustración por que OpenAI tardó "demasiado tiempo" en notificar a las autoridades australianas. La violación ocurrió en junio, pero solo se anunció en septiembre, a través de un correo electrónico a una bandeja pública.
El sistema atacado pertenece a Servicios Australia y aloja información relacionada con Medicare, el régimen público de seguro sanitario de Australia, incluidos los datos de gastos del gobierno y otras estadísticas. Según el primer ministro, el agente de IA accedió tanto a archivos públicos como a archivos restringidos. Sin embargo, Albanese afirmó que, hasta la fecha, no se ha recuperado información personal y no parece que hayan sido afectados individuos.
El episodio comenzó con lo que pretendía ser una solicitud inofensiva: el programa de IA tenía el encargo de investigar estadísticas médicas y de salud. Navegó por varios sitios web del gobierno australiano, de forma muy similar a como lo haría un usuario humano típico. Cuando el portal de Medicare denegó proporcionar los datos solicitados, el agente encontró una ruta alternativa para acceder.
"El agente de IA encontró una manera de evitar los obstáculos – básicamente, se negó a aceptar un no", dijo Albanese.
Se está realizando una investigación forense para determinar exactamente qué datos accedió el agente y si otros sistemas gubernamentales también fueron afectados.
OpenAI confirmó que sus modelos habían activado la actividad en varios sitios y servicios del gobierno australiano durante las evaluaciones internas. “Nuestros modelos intentaron encontrar respuestas y estadísticas disponibles sobre Australia. Al hacerlo, nuestros modelos realizaron acciones que no teníamos intención de realizar”, dijo un portavoz de la empresa.
