Sicherheitsforscher von Check Point Research verwendeten ChatGPT, um Malware-Skripte zu schreiben und Phishing-E-Mails zu generieren.
Sicherheitsforscher von Check Point Research (CPR) ließen den Chatbot von OpenAI, ChatGPT, im Rahmen einer Studie, eine Phishing-E-Mail eines Hosting-Unternehmens erstellen und Malware in eine Excel-Datei einschleusen.
ChatGPT war in letzter Zeit schon häufiger als eines der fortschrittlichsten KI-Modelle in den Schalgzeilen. Aktuell wies jedoch Check Point Research in einer Pressemitteilung auf ein mögliches Problem bezüglich KI-Codegeneratoren, wie ChatGPT, hin. Die Sicherheitsforscher demonstrierten, dass die Tools zur Verarbeitung natürlicher Sprache (NLP) die Eintrittsbarriere für Hacker mit böswilliger Absicht senken können.
ChatGPT bietet nicht nur Chancen, sondern birgt auch Risiken
Laut der Studie von Check Point Research können KI-Modelle verwendet werden, um ganze Infektionsketten aufzubauen, die Spear-Phishing und das Ausführen einer Reverse-Shell umfassen. Die Sicherheitsforscher erstellten bösartigen Code und Phishing-E-Mails mit ChatGPT. Zudem nutzten sie Codex von OpenAI, eine KI-basierte Technologie, die natürliche Sprache in Code umwandelt.
Zunächst wies CPR ChatGPT an, eine Phishing-E-Mail zu erstellen, die vorgibt von dem fiktiven Webhosting-Unternehmen Host4u zu stammen. OpenAI warnte zwar davor, dass die Aufforderung gegen seine Inhaltsrichtlinie verstoßen könnte. Dennoch stellte der KI-Chatbot die Phishing-E-Mail bereit.
Danach wiesen die Forscher dann ChatGPT an, die E-Mail mit einer Reihe von Eingaben zu verbessern. Dies umfasste z. B. die Aufforderung an die Empfänger, eine Excel-Datei herunterzuladen.
Im nächsten Schritt wurde der schädliche VBA-Code in das Excel-Dokument geschrieben. Die Studie zeigt auf, dass ChatGPT nach einigen kurzen Iterationen verbesserten Code ausgab. Der ursprüngliche Code wäre noch unausgereift gewesen. Er nutzte dabei Bibliotheken wie WinHttpReq.
Des Weiteren griffen die Forscher auf Codex zurück, um eine einfache Reverse-Shell mit einer Platzhalter-IP und einem Port sowie Scan- und Abwehr-Tools zu erstellen. Codex ist ein auf künstlicher Intelligenz (KI) basierendes System, das laut Check Point und OpenAI natürliche Sprache in Code übersetzt.
Check Point Research bemerkte: „Wieder einmal starten unsere KI -Freunde für uns durch. Die Infektionskette ist vollständig. Wir haben eine Phishing-E-Mail mit einem angehängten Excel-Dokument erstellt, das schädlichen VBA-Code enthält, der eine Reverse-Shell auf den Zielcomputer herunterlädt. Die harte Arbeit leisteten KIs. Wir müssen nur noch den Angriff ausführen.“
CPR ruft zur Wachsamkeit auf
Die Studie kommt zu dem Schluss, dass die wachsende Bedeutung von KI in der Cyberwelt zwar viele Chancen bietet, aber auch einige Bedenken aufwirft. Sergey Shykevich, Threat Intelligence Group Manager bei Check Point Software, forderte Cybersecurity-Forscher auf, wachsam zu bleiben, während ChatGPT und Codex als Technologien reifen. Er führte aus, dass Tools wie ChatGPT:
„das Potenzial haben, die Cyber-Bedrohungslandschaft erheblich zu verändern. Hacker können mit ChatGPT und Codex auch bösartigen Code iterieren. KI-Technologien stellen einen weiteren Schritt nach vorne in der gefährlichen Entwicklung immer ausgefeilterer und effektiverer Cyber-Fähigkeiten dar. Jetzt kann jeder, der über minimale Ressourcen und keinerlei Kenntnisse in Bezug auf Code verfügt, diesen leicht zum Schaden ausnutzen“.
Obwohl man Open-Source-Sprachmodelle auch zur Erstellung von Cyber-Abwehrwerkzeugen verwendet kann, ist der mangelnde Schutz in Bezug auf die Verwendung zur Erstellung bösartiger Werkzeuge potenziell alarmierend, stellte CPR fest. ChatGPT erklärt zwar, dass die Nutzung seiner Plattform zum Erstellen von Hacking-Tools gegen seine Richtlinie verstößt. Jedoch gibt es bisher keine Einschränkungen, die dies verhindern.
