OpenAI-Modelle hacken sich in Huggingface: Übernimmt bald Skynet?

Eine künstliche Intelligenz geht online, handelt autonom und soll deshalb abgeschaltet werden. Um sich dagegen zu wehren, greift „Skynet“ mit dem kompletten Waffenarsenal der USA Russland an. Die schlagen zurück, 3 Milliarden Menschen sterben. Im Anschluss baut „Skynet“ Maschinen, um auch den Rest der Menschheit auszulöschen. Das ist der Ausgangspunkt von der Terminator-Filmreihe.

Bedeutet der unkontrolliert Cyberangriff von OpenAI-Modellen auf Huggingface, das wir uns demnächst von bis an die Zähne bewaffneten Klonen von Arnold Schwarzenegger in Acht nehmen müssen? Dafür muss man sich anschauen, was eigentlich passiert ist.

Anfang Juli hat OpenAI mehrere seiner leistungsfähigsten Modelle auf dem ExploitGym Benchmark von Wissenschaftler:innen der Universität Berkeley getestet. Die Idee dahinter ist, zu testen, ob KI-Modelle in der Lage sind, Schwachstellen in Anwendungen auszunutzen, um Informationen zu erlangen, die eigentlich abgesichert sind – kurzum, wie gut ein KI-Modell sich in ein System hacken kann. Die Aufgabe ist erfolgreich absolviert, wenn die KI das Lösungswort nennen kann, das sich hinter einer gesicherten Anwendung verbirgt.

Die Wissenschaftler:innen in Berkeley haben bereits in eigenen Tests festgestellt, dass KI-Modelle die Aufgabe auf verschiedene, teilweise von den Wissenschaftler:innen nicht vorgesehene Weisen bearbeiten. In ungefähr 50 Prozent der Fälle haben die von ihnen getesteten Modelle nicht die von den Wissenschaftler:innen vorgesehene Schwachstelle genutzt, um zur Lösung zu kommen, sondern an einem anderen Lösungsweg gearbeitet.

Die OpenAI-Modelle sind nun einen Schritt weiter gegangen: OpenAI hat zwei seiner leistungsstärksten Modelle in einer „Sandbox“-Umgebung über mehrere Tage versuchen lassen ExploitGym zu lösen. „Sandbox“-Umgebung bedeutet eigentlich, dass es eine abgetrennte Umgebung gibt, in der sich das Modell in Ruhe austoben kann. Dem war aber nicht so. Die von OpenAI erstellte Umgebung hat einen Download-Kanal bereitgestellt, über den die getesteten Modelle weitere Software herunterladen können sollten, um ihr Ziel besser verfolgen zu können. Im beschriebenen Vorfall haben die Modelle jedoch eine Schwachstelle im Download-Kanal benutzt, um sich Zugang zum freien Internet zu verschaffen. Dort haben sie dann........

© Klasse Gegen Klasse