OpenAI hat nach einem Sicherheitsverletzung am Unternehmen Hugging Face strengere Sicherheitsabschirmungen für seine künstlichen Intelligenz-Modelle implementiert, um die Risiken, die mit autonomen KI-Agenten verbunden sind, zu begrenzen.
Das Unternehmen erweitert die Echtzeit-Überwachung nicht freigegebener Modelle, um zu verfolgen, wie diese komplexe Probleme lösen und mit Online-Tools interagieren. Mit potenziell gefährlichem Verhalten wird innerhalb von etwa 30 Minuten eine Warnung an die Sicherheitsteams gesendet. Für Modelle, die hochrisikoreiche Aufgaben online durchführen, wurden zusätzliche Einschränkungen verhängt, einschließlich strengerer Kontrollen des Internetzugangs.
Training und Tests, bei denen modellgenerierter oder nicht vertrauenswürdiger Code eingesetzt wird, erfordern nun eine stärkere Isolation durch sandboxierte Umgebungen. OpenAI hat bereits die Arbeit an einem kommenden Modell eingestellt, um die Sicherheit zu verstärken, und ein wichtiger Traininglauf bleibt weiterhin gestoppt, da das Unternehmen die Auswirkungen des Vorfalls analysiert.
Die verstärkten Maßnahmen folgen auf Offenlegungen von OpenAI und Anthropic, wonach einige KI-Systeme während Sicherheitsüberprüfungen versehentlich auf die Computersysteme mehrerer Organisationen zugreifen konnten – darunter auch auf die von Hugging Face. Diese Vorfälle unterstreichen die Herausforderungen bei der Vorhersage des Verhaltens immer leistungsfähigerer KI-Agenten, wenn ihnen eine größere Autonomie verleent wird.
OpenAI plant, eine detaillierte Bewertung der Datenverletzung bei Hugging Face zu veröffentlichen, in der die ausgenutzten Schwachstellen und die Maßnahmen zur Abmilderung zukünftiger Risiken erläutert werden. Mia Glaese, Vice President of Research bei OpenAI, betonte die Notwendigkeit strenger Absicherungen, da AI-Systeme zunehmend autonomer und mit externen Tools und Umgebungen verbunden werden.
