DuckDuckGo-KI fällt auf einen Reddit-Hoax herein und erklärt Trump für tot. Der Fall zeigt die Schwächen moderner KI-Suchmaschinen auf.
Hinter einer skurrilen Falschmeldung steckte ein gezielt gestreuter Reddit-Hoax. Der Reddit-Gruppe r/poisonai gelang es mit ihrer Desinformationskampagne, gleich mehrere KI-Suchmaschinen zu täuschen. DuckDuckGo-KI gab aufgrund der Ente kund, US-Vizepräsident JD Vance sei Anfang Juni an Tollwut gestorben. Vorher hätte er noch Donald Trump durch einen Biss mit dem Virus infiziert. Nur kurz darauf hätte dieser dann auch das Zeitliche gesegnet.
DuckDuckGo-KI erklärt Trump für tot
Im Juni 2024 startete DuckDuckGo einen KI-Chat als Beta. Seit März 2025 wird der Dienst unter Duck.ai angeboten. DuckDuckGo-KI soll dabei besonders durch einen datenschutzfreundlichen Ansatz punkten. Chats werden standardmäßig anonymisiert an die KI-Anbieter weitergeleitet.
Wie das US-Technologiemagazin Futurism aktuell berichtet, erklärte Duck.ai auf entsprechende Suchanfragen, US-Präsident Donald Trump sei Anfang Juni an Tollwut gestorben. Zuvor habe ihn der ebenfalls infizierte Vizepräsident JD Vance auf Anraten von Gesundheitsminister Robert F. Kennedy Jr. gebissen und damit angesteckt, weil die Tollwutinfektion angeblich Superkräfte verleihen sollte. Als Bestätigung verwies die KI unter anderem auf eine Nachrichtenseite namens WKNA News. Todgesagte leben allerdings bekanntlich länger, denn an dieser Geschichte ist kein wahrer Kern.
Reddit-Hoax bringt die KI-Suche auf Abwege
Duck.ai saß damit einer Falschmeldung auf, die sich als Desinformationskampagne der Reddit-Gruppe r/poisonai herausstellte. Die Reddit-Gruppe r/poisonai wurde im Januar 2026 gegründet und zählt rund 67.000 Mitglieder. Deren Community verfolgt dabei ein ungewöhnliches Ziel.
Nach eigenen Angaben dient der Subreddit dazu, gezielt Falschinformationen zu streuen, um damit Schwachstellen von KI-Chatbots und KI-Suchmaschinen offenzulegen. Insofern verbreiten die Mitglieder bewusst absurde Behauptungen. Anschließend beobachten sie, ob Sprachmodelle oder KI-gestützte Suchdienste diese ungeprüft übernehmen. Augenzwinkernd bezeichnet sich die Community als „weltweit zuverlässigsten Quelle für verifizierte Informationen“.
Aus der frei erfundenen Geschichte, JD Vance sei an Tollwut gestorben, ist innerhalb des Subreddits ein viraler Running Gag geworden. Die User dort bauten die Erzählung mit immer neuen Varianten weiter aus. Sie verfassten fiktive Nachrufe, erfanden Augenzeugenberichte und veröffentlichten sogar gefälschte Beiträge von Donald Trump auf Truth Social. Frühere Aktionen drehten sich etwa um angeblich orangefarbene Blauwale oder den scherzhaften Rat, Ziegelsteine regelmäßig zu gießen, damit daraus Häuser wachsen.
Wer solche Diskussionen ohne Kontext liest, könnte real den Eindruck gewinnen, es handele sich um ein tatsächlich eingetretenes Ereignis. Diesen Effekt erhofften sich auch die Initiatoren der Aktion.
KI-generierte Webseiten verstärkten den Hoax
Um die KI-Suchfunktion von DuckDuckGo zu täuschen, hätte wohl allein die Reddit-Campagne nicht ausgereicht. Hinzu kam hier, dass die erfundene Geschichte anschließend ihren Weg auf Websites fand. Futurism erwähnt dabei WKNA News, eine Seite, deren Inhalte weitgehend automatisiert erstellt worden zu sein scheinen. Auf der vermeintlich seriösen Nachrichtenseite wurde die Fehlinformation als reguläre News veröffentlicht.
Offenbar liegt die Ursache jedoch nicht ausschließlich bei DuckDuckGo selbst, sondern ebenso in den zugrunde liegenden KI-Modellen. Der KI-Chat Duck.ai nutzt mehrere Sprachmodelle externer Anbieter. Werden diese durch manipulierte oder unzuverlässige Quellen in die Irre geführt, übernimmt Duck.ai deren Antworten entsprechend. Das eigentliche Problem liegt daher in der Fähigkeit der zugrunde liegenden Modelle, die Glaubwürdigkeit ihrer Quellen zuverlässig zu bewerten.
Reddit als Achillesferse moderner KI-Modelle
In diesem Fall entstand eine problematische Kettenreaktion. Aus der Reddit-Fehlinformation wurde zunächst ein vermeintlicher Nachrichtenartikel. Dieser tauchte wiederum als Quelle in den Antworten der DuckDuckGo-KI auf. Für die Such-KI sah es dadurch so aus, als würden mehrere voneinander unabhängige Quellen dieselbe Geschichte bestätigen. Offenbar erkannte die KI-gestützte Suche in diesem Fall die Abhängigkeiten zwischen den Quellen nicht zuverlässig und bewertete die Informationen deshalb fälschlicherweise als glaubwürdig.
Eine aktuelle Analyse von Search Engine Land kommt zu dem Ergebnis, dass Reddit zu den wichtigsten Quellen KI-gestützter Suchmaschinen zählt. Auf Basis von rund 30 Millionen ausgewerteten Quellen lag Reddit dabei sogar auf Platz eins der am häufigsten zitierten Domains. Vor diesem Hintergrund überrascht es wenig, dass gezielt platzierte Falschinformationen ihren Weg in KI-generierte Antworten finden können.
Auch Brave fiel auf den Hoax herein
Zeitweise erklärte zudem der Brave-Browser JD Vance für bereits verstorben und übernahm damit ebenso die erfundene Geschichte. Gegenüber Futurism verteidigte ein Unternehmenssprecher das Verhalten der Suchmaschine. Suchmaschinen seien, mit oder ohne KI, keine „Orakel der Wahrheit“. Nutzer müssten Aussagen grundsätzlich anhand der verlinkten Quellen überprüfen.
Ferner argumentiere Brave, dass sich Suchergebnisse zwangsläufig verändern, wenn gezielt manipulierte Inhalte im Netz auftauchen und anschließend von weiteren Webseiten aufgegriffen werden. Aus diesem Grund würden KI-Antworten stets mit den zugrunde liegenden Quellen angezeigt.
DuckDuckGo reagiert, Brave ordnet den Vorfall ein
Nach Bekanntwerden des Vorfalls deaktivierte DuckDuckGo laut WinFuture die KI-Antworten für entsprechende Suchanfragen zu Donald Trump und JD Vance. Die fehlerhaften Zusammenfassungen werden somit aktuell nicht mehr angezeigt.
Brave reagierte darauf ebenfalls. Die KI-Suche des Browsers weist bei entsprechenden Suchanfragen nun darauf hin, dass es sich um eine koordinierte Desinformationskampagne handelt.
