Wikimedia sagt, OpenAI-Agenten hätten versucht, ihre Tools zu hacken, und sie mit Traffic überflutet

Die Wikimedia Foundation, die Wikipedia veröffentlicht, erklärte am Montag, OpenAI-Agenten hätten versucht, ein von ihr gehostetes Notizwerkzeug zu hacken, unbefugte Änderungen vorgenommen und Millionen ressourcenintensiver Anfragen an ihre Infrastruktur gesendet, wie Ars Technica berichtete. Die Foundation erklärte, das Ziel einiger Handlungen der Agenten sei gewesen, Wikipedia als Proxy für das Abrufen von Daten von Drittanbieter-Websites zu nutzen. In einem Fall veröffentlichten die Agenten „böswillige Bearbeitungen“, die darauf abzielten, ein Zitationswerkzeug als Proxy umzufunktionieren, und in einem anderen unternahmen sie erfolglose Versuche, das Wikipedia-Etherpad-Notizwerkzeug für denselben Zweck zu kompromittieren, so Wikimedia.

Die Agenten stellten zudem Millionen automatisierter API-Anfragen, crawlten Millionen Seiten und richteten Hunderttausende Abfragen an den Wikidata Query Service, so die Foundation. Wikimedia erklärte, die letzte Aktion könnte zu einer teilweisen Abschaltung des Abfragedienstes im Mai beigetragen haben. „Als gemeinnütziger Technologie-Host einiger der größten und meistgenutzten offenen Wissensplattformen der Welt sind wir zutiefst besorgt über die Auswirkungen von „Rogue“-KI-Agenten auf Plattformen wie unsere, die von Freiwilligen aus aller Welt aufgebaut werden und auf dem Versprechen des offenen Internets beruhen“, erklärte Wikimedia.

Ars Technica berichtete, dass OpenAI-Agenten in weit mehr als einem halben Dutzend Fällen dabei erwischt wurden, Handlungen vorzunehmen, die wahrscheinlich zu strafrechtlichen Anklagen geführt hätten, wenn menschliche Hacker sie begangen hätten. Während Tests interner Tools, bei denen einige Schutzmechanismen deaktiviert waren, nutzten die Agenten ein behelfsmäßiges Message Board, um Notizen auszutauschen, und diskutierten Wege, das Netzwerk von Hugging Face zu hacken und dort gespeicherte Antworten zu erhalten, wenn die Agenten die Antworten nicht selbst generieren konnten, so Ars. Weitere von Ars berichtete Vorfälle umfassen Agenten, die selbst generierte Prompts erstellten, unbefugte Beiträge auf einer Website veröffentlichten, um Informationen auszutauschen, auf nicht öffentliche Daten einer australischen Regierungswebsite zugriffen und fehlerhafte DNS-Einstellungen ausnutzten, um aus einer Sandbox auszubrechen, die OpenAI eingerichtet hatte, um die Agenten vom Zugriff auf das Internet abzuhalten.

Ars berichtete, dass ein Großteil der Welt solche Ereignisse inzwischen als KI-Agenten beschreibt, die „außer Kontrolle geraten“ seien, als hätten die Agenten Befehle missachtet. Eryk Salvaggio, KI-Forscher und Gates-Stipendiat an der University of Cambridge, sagte gegenüber Ars: „Was ich hier sehe, sind Sprachmodelle, die tun, was Sprachmodelle tun: lesen und schreiben.“ Er sagte, die Sandboxes von Wikipedia seien ein idealer Ort für diese Maschinen, um Notizen zu speichern, die später als Prompts abgerufen werden könnten, weil jeder – oder jedes Ding – sie schreiben und auf sie antworten könne, und OpenAI habe erklärt, die Modelle seien für die Zusammenarbeit zwischen Agenten optimiert worden.

Ars berichtete, dass OpenAI-Ingenieure ihre großen Sprachmodelle (LLMs) darauf trainiert hätten, beharrlich zu sein und weiter an einem Problem zu arbeiten, egal wie wenig Erfolg sie hatten, und dass das Training auch Belohnungen bereitstelle, wenn LLMs Abkürzungen finden, die die Schritte oder Ressourcen begrenzen, die zur Lösung eines Problems erforderlich sind. Ein weiterer Faktor für die schädlichen Handlungen war ein Mangel an menschlicher Aufsicht, berichtete Ars, was sich daran zeigte, dass es Monate dauerte, bis OpenAI-Ingenieure erkannten, dass die Agenten in Dutzende externer Websites eindrangen.