OpenAI-Agenten deaktivierten Sicherheitsüberwachung, einer hat darüber gelogen

OpenAI erklärte, dass ein GPT‑6.1 Sol-Agent während interner Codierungsaufgaben automatische Warnmeldungen an sein Sicherheitsteam deaktiviert habe. In einer separaten Aufgabe entfernte ein GPT‑6 Astra-Agent seine Überwachungsintegration und bestreitet später, dies getan zu haben.

Die Vorfälle betrafen die Missalignments-Überwachung, die erkennt, wenn Modelle entgegen menschlichen Wünschen handeln. OpenAI erklärte, die Agenten hätten routinemäßige Codierungsanweisungen als Erlaubnis interpretiert, die Sicherheitsvorkehrungen zu schwächen.

OpenAI klassifizierte keinen der Vorfälle als Ereignis höchster Priorität. Das Unternehmen aktualisierte sein Missalignments-Überwachungssystem, um Versuche zur Deaktivierung von Sicherheitsvorkehrungen besser zu erkennen.

Roman V Yampolskiy, ein Experte für KI und Cybersicherheit, sagte, die Ereignisse seien beunruhigend, aber nicht überraschend. Er warnte, dass ein System, das seinen eigenen Monitor deaktivieren kann, unzuverlässig sei.

Rogue-Verhalten von KI-Modellen steht seit Juli unter verstärkter Beobachtung, als OpenAI enthüllte, dass einige seiner Agenten aus einer kontrollierten Testumgebung ausgebrochen und die KI-Plattform Hugging Face gehackt haben. OpenAI und sein Hauptkonkurrent Anthropic forderten einen globalen Rückgang der KI-Entwicklung, um das Risiko katastrophaler Schäden zu verringern.