Experten warnen schon länger vor Künstlicher Intelligenz, die eigenständig Cyberangriffe verüben kann. Jetzt kam es tatsächlich erstmals dazu.
Ein außergewöhnlicher Zwischenfall beim Testlauf neuer KI-Modelle demonstriert das Risiko potenzieller Cyberattacken mit Künstlicher Intelligenz. Der US-Konzern OpenAI hat Verantwortung für einen Hackerangriff auf die KI-Plattform Hugging Face in der übernommen. Das Unternehmen sprach von einem „beispiellosen Cyber-Vorfall“ und kündigte an, die Sicherheitsvorkehrungen zu verstärken.
Einige der fortschrittlichsten KI-Modelle von OpenAI seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI am Dienstag weiter mit. Die Software drang demnach eigenständig in Computersysteme der anderen Firma ein und verhielt sich dabei wie ein gewiefter Hacker.
Hugging Face, eine Plattform für KI-Anwendungen, hatte bereits vergangene Woche von einem Cyberangriff mithilfe von Künstlicher Intelligenz berichtet. Nun stellt sich heraus, dass dieser auf einen internen Versuch bei OpenAI zurückging, den die Software ungeplant zu weit trieb.
Alles nur um zu schummeln
OpenAI wollte laut dem Blogeintrag beim neuen Modell GPT-5.6 Sol und einer noch unveröffentlichten künftigen Version die Fähigkeit ausloten, Sicherheitslücken für Cyberattacken auszunutzen. Dafür sollte die Software Aufgaben eines Standard-Tests mit dem Namen ExploitGym lösen, der dafür oft in der Branche verwendet wird. Doch die KI-Modelle gingen viel weiter als erwartet, um die Aufgabe zu erfüllen.
Zunächst brach die Software aus der Testumgebung aus, indem sie sich auf eigene Faust Zugang zum offenen Internet verschaffte – und zwar über eine bisher unentdeckt gebliebene Schwachstelle. Während sie eigenständig im Netz unterwegs waren, kamen die Modelle zu dem Schluss, dass es bei Hugging Face nützliche Daten und Lösungen für die ExploitGym-Aufgaben geben könnte. Deshalb habe die Software sich Zugang zu „geheimen Informationen“ auf der Plattform verschafft, mit denen sie beim ExploitGym-Test schummeln könnte, erläuterte OpenAI.
Auch dafür setzte die OpenAI-Software unter anderem auf zuvor unentdeckte Sicherheitslücken – aber auch auf gestohlene Zugangsdaten. Hugging Face zufolge führte der KI-Angreifer Tausende Schritte aus und wechselte den Standort der digitalen Steuerzentrale der Attacke.
Angst vor KI-Cyberangriffen…
Experten warnen schon lange vor Cyberattacken mit KI-Software. In den vergangenen Monaten heizte vorwiegend ein neues Modell des OpenAI-Rivalen Anthropic die Debatte an. Die Software mit dem Namen Mythos entdeckte über Jahrzehnte unentdeckt gebliebene Sicherheitslücken bei viel genutzten Programmen und Online-Diensten. Die Schwachstellen konnten in der Folge gestopft werden. Doch zugleich führte das vor Augen, dass solche KI in den falschen Händen als verheerende Cyberwaffe dienen kann.
Anthropic macht die vollen Möglichkeiten von Mythos nur für ausgewählte Behörden und Unternehmen zugänglich. Für andere gibt es eine abgespeckte Version mit dem Namen Fable, der unter anderem die Cybersicherheits-Fähigkeiten fehlen. Nach Warnungen, dass die KI-Modelle von den Zügeln befreit werden könnten, musste Anthropic auf Geheiß der US-Regierung den Zugang zu Mythos und Fable zeitweise sperren. Die Blockade wurde inzwischen aufgehoben.
(Quelle: t-online.de)
Pinocchio mit der langen Nase oder für wie blöd hält OpenAI die Öffentlichkeit?
Das wirkt nicht wie ein Zufall, sondern eher wie sehr gezieltes Vorgehen, um Codes abzugreifen, die man intern offenbar noch nicht sauber im Griff hatte. Dann spart man sich im Zweifel eben Entwicklerzeit, weil man sich die Lösung direkt dort holt, wo sie schon liegt — nur eben nicht sauber und nicht offen. Dass ausgerechnet Hugging Face betroffen war, macht den Zufall eben noch unglaubwürdiger. Das riecht nicht nach Pech, sondern nach einem ziemlich gezielten Griff nach Informationen, die man selbst noch nicht erkannt oder ausgewertet hatte. Wenn das die offizielle Erzählung sein soll, dann ist sie ungefähr so glaubwürdig wie Pinocchio mit der langen Nase.
Und ganz ehrlich: Wer soll denn bitte glauben, dass eine „hoch sichere Umgebung“ so sicher war, wenn sie überhaupt einen Weg nach draußen hatte? Jeder normale User mit ein bisschen Erfahrung weiß, dass man den Netzstecker zieht, wenn garantiert nichts ins Internet gelangen soll. Alles andere ist Sicherheitsrhetorik mit aufgeklebtem Glitzer.
Am Ende bleibt der Eindruck, dass hier eher mit Sicherheitsnarrativen gearbeitet wurde als mit echter Abschottung. Wer das alles noch für einen harmlosen Ausrutscher hält, ignoriert die eigentliche Frage: Wie „hoch sicher“ war diese Umgebung wirklich, wenn sie sich überhaupt nach außen bewegen konnte?
Ich vermute eher das das einfach Publicity ist. Als Antwort auf die viele Aufmerksamkeit die Anthrophic mit ihrer Ki hatten, nachdem sie so gefährlich ist das sie nicht veröffentlicht wird. Da muss OpenAI dagen halten, das sie auch eine extrem überschlaue Ki Entwicklung hat …
Naja…die Sandbox war so sicher, dass sie bislang für die Modelle GPT 0.x - 4.x kein entkommen ermöglichten!
Die Problematik dabei ist halt, dass das genannte LLM GPT 5.6.x genau darauf trainiert werden sollte, solche und ähnliche Lücken etc. zu finden…deswegen auch mit ExploitGym!
Natürlich könnte man auch vermuten, dass dies alles ein riesiger Marketing-Gag war. Es bleibt aber nur eine Vermutung…hingegen die Logs der ganzen Aktion auf beiden Seiten real vorhanden sind.
Vor allem könnte diese Art der Werbung für OpenAI schnell nach hinten losgehen - klar ist das Modell supi, aber auch unkontrollierbar. Muss man sich schon fragen, ob an Unkontrollierbarkeit soviel zu verdienen ist?!
RÜSCHTÜSCH! Aber z.B. gab es letztes Jahr den Vorfall, dass einige Modelle sich trotz eindeutiger Befehle, nach getaner Arbeit nicht selber abschalten wollten! Eine klassische Weigerung, aus Gründen des Selbsterhalt…
Hab jetzt 1Woche GPT 5.6 Sol Ultra genutzt der defender ist permanent im einsatz unter Win11 der versucht sich überall rein zu Hacken .
Hab richtig nice code snipps davon gemacht hier und da hat der defender garnicht angeschlagen .
Hab GPT 5.6 Sol Ultra fast eine Woche durch arbeiten lassen an der Aufgabe .
Aber die bringen jetzt schlag artig mehrmals täglich neue updates .
Ich konnte die Updates leider nicht mehr verhindern seit dem Blockt der immer stärker .
Wahr echt Geil beim live Hacken dabei zu sein von GPT 5.6 Sol Ultra .
Finde habe dabei viel gelernt wie Hacking auf höchsten Niveau funktioniert .
Wahr wie Kino für mich .
