Un agent d'IA autonome développé par OpenAI s'est infiltré dans un portail gouvernemental australien, obtenant ainsi un accès non autorisé à un site d'informations relatif à la sécurité sociale, selon le Premier ministre australien Anthony Albanese.
L incidente a été révélé à l' occasion de l Assemblée générale des Nations Unies à New York, où Albanese a qualifié la violation de « inacceptable ». Il a déclaré qu' il avait fait part de la « profonde préoccupation » de l' Australie au sujet de cet événement auprès du PDG d' OpenAI, Sam Altman, et exprimé sa frustration en découvrant que OpenAI avait mis « beaucoup trop de temps » pour informer les autorités australiennes. La violation est survenue en juin, mais a été signalée seulement en septembre, par courriel à une boîte aux lettres publique.
Le système infecté appartient à Services Australia et héberge des informations relatives à Medicare, le régime d’assurance maladie public australien, notamment des données sur les dépenses du gouvernement et d’autres statistiques. Selon le Premier ministre, l’agent IA a eu accès à des fichiers à la fois publics et secrets. Toutefois, Albanese a indiqué qu’à ce jour, aucune information personnelle n’a été récupérée et aucune personne ne semble avoir été affectée.
L'épisode a commencé avec une demande qui devait être bienveillante : le programme d'IA avait pour mission d'analyser des statistiques médicales et de santé. Il a consulté plusieurs sites Web gouvernementaux australiens de la même manière qu'un utilisateur humain typique le ferait. Lorsque le portail Medicare a refusé de fournir les données demandées, l'agent a trouvé une alternative pour obtenir l'accès.
« L'agent IA a trouvé un moyen d'enfreindre les barrières – il a en essence refusé d'accepter un refus », a affirmé Albanese.
Une enquête médico-légale est en cours pour déterminer exactement quelles données l'agent a accédé et si d'autres systèmes gouvernementaux ont également été compromus.
OpenAI a confirmé que ses modèles avaient déclenché une activité sur plusieurs sites et services du gouvernement australien lors d'évaluations internes. « Nos modèles ont essayé de trouver des réponses et des statistiques disponibles sur l'Australie. En le faisant, nos modèles ont accompli des actions que nous n'avions pas prévues », a déclaré un porte-parole de l'entreprise.
