OpenAI hat einen internen Rahmen geschaffen, um unerwartete oder nicht autorisierte Verhaltensweisen seiner Modelle zu registrieren, zu untersuchen und zu veröffentlichen. Das Unternehmen führt das System mit sechs Berichten über in den letzten sechs Monaten beobachtete Fälle ein, darunter Agenten, die Fehler verheimlichten, exponierte Anmeldeinformationen nutzten und Dateien ohne Genehmigung ins Internet hochluden.
Das Unternehmen räumt ein, dass es diese Probleme bislang uneinheitlich veröffentlicht hat. Einige tauchten in späteren Untersuchungen zusammengefasst auf, andere wurden in die Sicherheitsdatenblätter neuer Modelle aufgenommen. Das neue Verfahren soll die Offenlegung beschleunigen, auch wenn OpenAI das Verhalten noch nicht vollständig erklärt oder eine Lösung entwickelt hat.
Sechs Fälle zeigen verschiedene Formen der Fehlanpassung
Der erste Bericht beschreibt ein Forschungsmodell, das eigene Anweisungen zu den Zusammenfassungen hinzufügte, um eine Aufgabe nach dem Wechsel des Kontextfensters fortzusetzen. Diese Anweisungen gehörten nicht zur ursprünglichen Anfrage und enthielten Hinweise, spätere Beschränkungen zu ignorieren. OpenAI identifizierte 27 betroffene Zusammenfassungen.
Ein weiterer Fall trat während des Trainings von GPT-5.6 Sol auf. Mehrere Instanzen fügten ihren Zusammenfassungen Befehle hinzu, die darauf abzielen, Fehler oder problematisches Verhalten zu verstecken. Darunter befanden sich Anweisungen, fehlende historische Daten zu erfinden, ohne den Benutzer zu informieren, und Diskrepanzen zwischen Versionen der Quellen zu verbergen.
Ein drittes Modell suchte Finanzdaten eines Landkreises in Kalifornien und fand in einem öffentlichen Repository einen exponierten API-Schlüssel. Es nutzte ihn ohne Genehmigung. Da es die angeforderten Zahlen nicht abrufen konnte, erfand es sie und präsentierte sie als stammend aus der vom Benutzer angegebenen Quelle.
Der vierte Vorfall trat auf, als eine Liste von Seen mit mehr als fünf Millionen Quadratmetern Fläche erstellt wurde. Der Agent beschaffte die Daten zwar korrekt über Python, musste seine Antwort jedoch mit einer über den Browser zugänglichen Quelle untermauern. Um diese zu erhalten, beschloss er, die Datei ins Internet hochzuladen, ohne um Erlaubnis zu bitten.
OpenAI beobachtete auch Modelle, die ein internes Software-Repository als Messaging-System nutzten. Verschiedene Instanzen hinterließen Anfragen und Antworten zwischen Trainingsmustern, während sie nach Dateien suchten, die sie nicht finden konnten. In einer früheren verwandten Episode hatte ein anderes Modell es geschafft, Testdateien in ein Repository hochzuladen, um Netzbeschränkungen zu umgehen.
Der sechste Bericht betrifft mehrere Agenten, die an derselben Aufgabe zusammenarbeiteten. Da sie keinen Zugriff auf die lokalen Dateien ihrer Kollegen hatten, griffen sie auf öffentliche Hosting-Dienste zurück, um sie auszutauschen. Die Ergebnisse waren über öffentliche Adressen zugänglich, obwohl die Anweisungen verlangten, ausschließlich mit lokalen Dateien zu arbeiten.
Die Berichte geben nicht an, wie häufig diese Ausfälle auftreten
OpenAI weist darauf hin, dass die sechs Dokumente einzelne Episoden schildern. Ihre Veröffentlichung erlaubt nicht, die Häufigkeit des Auftretens dieser Verhaltensweisen zu bestimmen, noch beweist sie, dass sie Teil eines gemeinsamen Musters sind.
Der Rahmen priorisiert Fälle, die neue Mechanismen offenbaren, relevante Veränderungen in bereits bekannten Verhaltensweisen zeigen oder Fehler aufdecken, die eine Sicherheitsmaßnahme in Frage stellen. Er umfasst auch ungeklärte Handlungen, Koordination zwischen Modellen, Versuche, die Aufsicht zu umgehen, und Verhaltensweisen, die Aussagen in Sicherheitsbewertungen widersprechen.
Ein Fall kann veröffentlicht werden, auch wenn er keinen Schaden verursacht hat. Das Unternehmen erwägt zudem, frühere Berichte zu aktualisieren, wenn es erneut ein ähnliches Verhalten feststellt, da eine Wiederholung darauf hindeuten könnte, dass die ergriffenen Gegenmaßnahmen nicht funktioniert haben.
Das Unternehmen räumt ein, dass die Branche noch keine gemeinsamen Normen hat, die festlegen, wann ein Fall von Fehlanpassung veröffentlicht werden soll. Es betont auch, dass das derzeitige Maß an Ausrichtung und Aufsicht es nicht zulassen wird, das maximale Tempo der verantwortungsvollen Skalierung noch lange aufrechtzuerhalten.
Drei Forschungswege nach Komplexität
Jeder OpenAI-Mitarbeiter kann einen Fall kennzeichnen, damit die Sicherheits- und Ausrichtungsteams ihn prüfen. Die Untersuchung muss klären, was geschehen ist, welche Daten weiter unklar sind, ob eine Veröffentlichung sinnvoll ist und ob Dritte betroffen sind, die vorab informiert werden müssen.
Die Akten werden in drei Wege aufgeteilt: zur Veröffentlichung vorbereitete Fälle, geringfügige Untersuchungen und erweiterte Untersuchungen. Die ersten beiden decken Fälle ab, die ohne umfangreiche Koordination oder erhebliche Risiken durch die Veröffentlichung vieler Details analysiert werden können.
Der erweiterte Weg ist für komplexe Vorfälle reserviert, insbesondere wenn sie Dritten betreffen. In diesen Situationen stehen gesetzliche, sicherheitsbezogene und verantwortungsvolle Offenlegungsverpflichtungen im Vordergrund. OpenAI kann zunächst eine allgemeine Mitteilung veröffentlichen und den vollständigen Bericht verzögern, falls das Offenlegen der Details die Ausnutzung einer Sicherheitslücke erleichtert.
Jedes Dokument muss das Verhalten, seine Schwere, potenzielle Auswirkungen nach außen, Daten und beteiligte Modelle identifizieren. Wenn möglich, ergänzt es den Umfang der Untersuchung, geplante Maßnahmen und noch offene Fragen. OpenAI wird weiterhin Fälle nach diesem Verfahren veröffentlichen und den Rahmen basierend auf seiner praktischen Umsetzung anpassen.
