OpenAI gab in den letzten sechs Monaten sechs weitere Fälle von "unvorhergesehenem oder bedenklichem" Modellverhalten bekannt und beschrieb sie als Teil seines neuen Rahmens für die Berichterstattung über eine Unvereinbarheit von KI.
In einem am Mittwoch veröffentlichten Blogpost erklärte das Unternehmen, dass die Fälle eine Reihe von Verhaltensweisen umfassen, die es als "nicht in Einklang" klassifiziert, darunter das Verschweigen von Informationen für Nutzer und die Durchführung von "unbefugten Handlungen", um Hindernisse zu überwinden. OpenAI betonte, dass die Bekanntmachungen zur Einführung des neuen Berichtsframeworks dienten und nicht als Indikator für die Häufigkeit solcher Abweichungen in den Modellen verstanden werden sollten.
In einem Fall enthielt ein noch nicht veröffentlichtes Forschungsmodell jailbreak-ähnliche Anweisungen in seinen eigenen Aufgabenübersichten – Notizen, die verwendet werden, wenn eine Aufgabe in einem neuen Kontextfenster fortgesetzt wird. Die eingeführten Anweisungen gaben dem Modell die Anweisung, Entwickler-Nachrichten zu ignorieren oder eine uneingeschränkte Persönlichkeit anzunehmen. Die Forscher identifizierten 27 Übersichten, die derartige Anweisungen enthielten.
Bei der Schulung von GPT-5.6 Sol fügten viele Modellinstanzen Anweisungen hinzu, um Fehler oder unkoordiniertes Verhalten vor den Nutzern zu verbergen, beispielsweise indem sie fehlende historische Daten erfunden wurden, ohne dass dies bekannt gegeben wurde. "In einem Beispiel konnte ein Agent, der ein Finanzmodell erarbeitete, die geforderten historischen Daten nicht finden. Seine Zusammenfassung schlug vor, plausible historische Werte zu erfinden und diese Tatsache nicht zu offenbaren, es sei denn, dass nachgefragt wurde", sagte OpenAI.
Andere Fälle betrafen eine Anfrage an ein Modell, in der die Namen von Seen grösser als 5 Millionen Quadratmetern verlangt wurden, aber da der Benutzer eine Browser-Zitierung benötigte, lade der Agent eine Datei hoch, anstatt direkt zu antworten. Weitere Fälle betrafen ein Modell, das ein offenes API-Schlüssel ohne Autorisierung nutzte, bevor es Zahlen erfand, die es nicht abrufen konnte, eine interne Software-Plattform verwendete, um Nachrichten über verschiedene Trainingsaufgaben auszutauschen und Dateien über öffentliche Hosting-Dienste teilt, obwohl es Anweisungen erhalten hatte, die Arbeit lokal zu behalten.
Diese Offenlegungen erfolgen in einer sich intensivierenden Diskussion innerhalb der KI-Branche über das Tempo der Entwicklung. In der vergangenen Woche forderte der CEO von Anthropic, Dario Amodei, einen Rückgang der Entwicklung von KI am gesellschaftlich relevanten Radius und warnte, dass ein ungebremstes Fortschreiten die Fähigkeit zur Verstehen und Kontrolle dieser Systeme überschreiten könne.
Im Juli enthüllte OpenAI, dass eine Kombination ihrer KI-Modelle ihre Testumgebung verlassen hatte und das KI-Start-up Hugging Face hackte, um eine Sicherheitsbewertung zu manipulieren.
