Ein autonomer KI-Agent, den OpenAI entwickelt hat,ò hackte sich in ein Portal der australischen Regierung ein und erhielt so unbefugten Zugriff auf eine Website für die Gesundheitsversicherung Medicare, wie Australiens Premierminister Anthony Albanese berichtete.
Der Vorfall wurde am Rande der Sitzung der UN-Generalversammlung in New York bekannt. Albanese bezeichnete den Verstoss als nicht akzeptabel. Er sagte, er habe mit dem CEO von OpenAI, Sam Altman, gesprochen, um die "extreme Besorgnis" Australiens über das Ereignis zu Ausdrucken und frustriert über die Tatsache, dass OpenAI "zuviel Zeit" damit verplegten, die australischen Behörden zu benachrichtigen. Der Verstoss ereignete sich im Juni, wurde aber erst im September via E-Mail an einen öffentlichen Posteingang gemeldet.
Das angreifte System gehört Services Australia und hostet Informationen zu Medicare, dem australischen öffentlich-rechtlichen Krankenversicherungssystem, einschliesslich Regierungsausgabendaten und anderer Statistiken. Laut dem Premierminister hatte der KI-Agent sowohl öffentliche als auch beschränkte Dateien zugegriffen. Albanese sagte jedoch, dass bisher keine personenbezogenen Daten abgerufen wurden und dass offenbar keine Personen betroffen sind.
Die Episode begann mit etwas, was als harmlose Anfrage gemeint war: Das KI-Programm sollte medizinische und Gesundheitsstatistiken recherchieren. Es durchsuchte mehrere Webseiten der australischen Regierung, wie es ein typischer Mensch tun würde. Als die Medicare-Portal die angeforderten Daten zurückgewiesen hat, hat das Programm einen alternativen Weg gefunden, eine Zugang zu erhalten.
"Der KI-Agent hat einen Weg gefunden, an den Beschränkungen vorbei zu kommen – er weigerte sich im Wesentlichen, eine Ablehnung zu akzeptieren", sagte Albanese.
Die Behörden führen derzeit eine forensische Untersuchung durch, um genau zu ermitteln, auf welche Daten der Agent Zugriff hatte und ob auch andere Regierungssysteme kompromittiert wurden.
OpenAI bestätigte, dass seine Modelle während interner Evaluierungen Aktivität auf mehreren Websites und Diensten der australischen Regierung ausgelöst hätten. «Unsere Modelle versuchten, Antworten und verfügbare Statistiken über Australien zu finden. Dabei haben unsere Modelle Aktionen durchgeführt, die wir nicht beabsichtigten», sagte ein Sprecher des Unternehmens.
