Ein Nutzer berichtet bei Reddit über eine bösartige Erweiterung für ComfyUI (Stable Diffusion), der dem Hack des PCs des Anwenders dient.
Durch die AI-Community ging kürzlich einen Raunen, als eine Erweiterung für ComfyUI dazu missbraucht wurde, um Nutzer der Benutzeroberfläche von Stable Diffusion zu hacken. Stable Diffusion ist ein Deep-Learning-Text-zu-Bild-Generator. Die Open-Source-Software nutzt man primär zur Generierung detaillierter Bilder auf der Grundlage von Textbeschreibungen. Doch es sind damit weitere Anwendungsbereiche möglich. Den Download-Link zur mit Schadsoftware verseuchten Erweiterung bei GitHub hatte der User AppleBotzz bei Reddit geteilt.
Hacker tarnte Malware als nützliche Erweiterung von ComfyUI
Der Hacker hatte die Erweiterung „ComfyUI_LLMVISION“ als hilfreiche Erweiterung getarnt. Diese enthielt Code, mit dem sensible Benutzerdaten wie Browser-Passwörter, Kreditkartendaten und der Browserverlauf kopiert werden konnten. Diese Daten übertrug die Erweiterung dann an einen vom Angreifer kontrollierten Discord-Server, um sie dort zu sammeln. Die Schadsoftware hatte es übrigens auch auf Zugänge für Online-Kryptobörsen abgesehen, um die Wallets ihrer Opfer zu entwenden.
Der Cyberkriminelle hatte den bösartigen Code geschickt in benutzerdefinierten Installationsdateien für OpenAI– und Anthropic-Bibliotheken versteckt. Die Installationsdateien gaben sich als legitime Updates aus, was selbst erfahrene Nutzer kaum erkennen konnten. Die Verseuchung des Betriebssystems geschieht in mehreren Schritten, die die Malware nacheinander abarbeitet.
Was kann man im Fall einer Infektion tun?
Der Reddit-Nutzer roblaughter, der die bösartige Aktivität aufgedeckt hat, enthüllte, dass er selbst Opfer dieses Angriffs wurde. Er berichtet davon, dass er kurz nach der Installation der kompromittierten Software eine Welle unbefugter Anmeldeversuche erlebte.
Zwar birgt die rasante Entwicklung der KI-Technologie viel Potenzial. Es bringt aber auch mögliche Schwachstellen mit sich, die böswillige Akteure nur allzu gerne ausnutzen wollen. Der Open-Source-Charakter mancher KI-Tools fördert zwar Innovation und die Zusammenarbeit. Trotzdem darf man den aus dem Umfeld stammenden Erweierungen nicht ungeprüft vertrauen. Aber wie gesagt, selbst für Profis wäre es schwer gewesen, die bösartigen Absichten des Programmierers zu erkennen.
Wer den fraglichen Code für ComfyUI für Stable Diffustion installiert hat, soll sofort sein System auf bestimmte Dateien untersuchen. Im Reddit-Posting führt man ausführlich aus, worauf man im Detail achten muss. Auch veränderte die Malware die Registrierung.
Fazit: Vorsicht ist besser als gehackt zu werden
Beim Herunterladen und der Installation von benutzerdefinierten Programmen oder Erweiterungen für ComfyUI oder andere Programme muss man äußerst vorsichtig sein. Wenn möglich muss man unbedingt die Echtheit der Quelle überprüfen. Und dies auch bei scheinbar vertrauenswürdigen Communities aus dem Open Source-Bereich.
Sicherheitsforscher von vpnMentor haben den Code untersucht und die Gefährlichkeit der Erweiterung bestätigt. Die Nutzung von zweistufigen Authentifizierungen (2FA) für alle Zugänge hilft übrigens auch dann, wenn der Hacker die Zugangsdaten kopieren konnte.
