BRAIN ist eine kostenlose wie lokale KI-Plattform, bei der keine Daten abfließen. Wir haben uns kürzlich mit ihrem Entwickler unterhalten.
Aus dem Interview lässt sich heraushören, dass BRAIN kein klassisches LLM mit einem Transformermodell ist. Vielmehr deutet alles auf eine Kombination aus folgenden Ansätzen hin:
Der Vorteil dieses Ansatzes liegt auf der Hand, da Antworten deterministisch aus einem belegten Wissensbestand erzeugt werden, werden Halluzinationen von vornherein vermieden. Jede Antwort trägt ihre Quelle bei sich, was insbesondere bei Rechts- oder Gesundheitsthemen ein echter Mehrwert ist. Auch der lokale Betrieb ohne Cloud-Anbindung ist datenschutzrechtlich positiv zu bewerten.
Der Nachteil jedoch ist, dass bei Fragen, zu denen keine hinterlegten Antworten existieren, auch keine Antworten geliefert werden können. Das negiert zwar Halluzinationen, schränkt aber die Flexibilität erheblich ein. Ein deterministisches System kann nicht improvisieren, Zusammenhänge neu verknüpfen oder kreative Lösungen entwickeln. Aufgaben, bei denen moderne Large Language Models ihre Stärken ausspielen.
Ob man dies als Fortschritt oder als alternativen Ansatz betrachtet, hängt vom Anwendungsfall ab. Wer ein verlässliches, nachvollziehbares Nachschlagewerk sucht, findet hier einen interessanten Weg. Wer jedoch analytische, interpretative oder kreative Leistungen erwartet, wird mit diesem System nicht glücklich.
Dabei sollte man nicht vergessen, dass sich Halluzinationen auch bei klassischen LLMs deutlich reduzieren lassen, durch präzise Fragestellungen, suffiziente Kontextwahl und die Bereitstellung verlässlicher Quellen im Prompt. Voraussetzung dafür ist allerdings, dass man versteht, dass bei einem LLM immer der gesamte Kontext herangezogen wird und suggestive Fragestellungen fast immer zu einem verzerrten oder falschen Ergebnis führen können.
Insofern ist BRAIN weniger ein Rückschritt als vielmehr ein komplementärer Ansatz mit klarem Funktionsprofil, aber eben nicht der Ersatz für ein vollwertiges Sprachmodell.
P. S. Ich habe nur ein LLM zur Umformulierung genommen, das mein Beitrag nicht so wertend ist.
Wenn die Antworten auf einer Wissensdatenbank beruhen ist die frage, woher diese Daten dann letztendlich kommen.
Da brain ja nur Antwortet, wenn es eine Antwort wirklich kennt, woher weiss Brain dann, dass die gegebene Antwort richtig ist?
Vielleicht Installiere ich mir das ganze mal, um es mir anzuschauen.
z.b. fragen, die tatsächlich nicht geklärt sind… Mondlandung, woher kommt Corona oder auch ganz simple dinge über die man streiten kann.
Es wird das als richtig ausgegeben, was derjenige, der die ursprüngliche Datenbank entworfen hat so „Interpretiert“ hat.
Es gibt so viele dinge, die man damit eigentlich nicht eindeutig als „Ist bekannt“ oder „weiss ich nicht“ beantworten kann.
Das ist das Problem bei einer KI. Es kommt drauf an mit welchen Daten die KI „behandelt“ worden ist 
Da gibt es viel Spielraum und verschiedene Ansichten. Ist auch nur ein weiteres Propagandainstrument. Wobei ich sagen muss, das eine KI auch sehr hilfreich sein kann, wenn die Daten so sind wie sie sind zB programmierung etc. Also wenn die Daten nicht spekulativ sind. Die KI hat es besser auf den Punkt gebracht als ich sie gefragt habe
Zitat: „Sie sprechen da einen absolut zentralen Punkt an, den man bei der Nutzung von KI immer im Hinterkopf behalten muss. Die Unterscheidung zwischen spekulativen (interpretierbaren) Daten und deterministischen (eindeutigen) Daten ist genau die Trennlinie, an der sich die Zuverlässigkeit von KI entscheidet.“
Wohl eher unterscheidet 
Das Problem bei solchen Wissenssystemen ist, dass sie oft nur Fragen beantworten können, die direkt aus dem Kontext kommen. Im Grunde sind das starre Strukturen oder Entscheidungsbäume, die schnell an ihre Grenzen stoßen. Hier sind LLMs/SLMs überlegen, da sie Zusammenhänge erkennen und Daten flexibler interpretieren können.
Mit Halluzinationen muss man in gewisser Weise natürlich leben, da sie sich bei generativen Modellen nie komplett ausschalten lassen. In der Praxis passt man dafür die Temperatur an: Steuert man das Modell sehr strikt (niedrige Temperatur), gibt es deutlich weniger falsche Antworten, allerdings leidet darunter die Formulierung und Kreativität. Dreht man sie zu hoch, steigt die Fehlerquote rapide an, bis die Antworten unbrauchbar werden.
tarnkappe.info: Fast das gesamte Wissen der Chatbots stammt aus Schattenbibliotheken wie Anna’s Archive, Sci-Hub oder Library Genesis (LibGen). Wie bewerten Sie das?
Das stimmt so pauschal nicht. Vieles stammt aus ganz anderen Quellen, z. B.
Ich habe eher den Eindruck, dass hier viel zu stark pauschaliert wurde.
Woher „The Brain“ seine Daten hat, wird im Interview im Grunde ja genannt (Wikipedia, Wikidata, Projekt Gutenberg etc.) – das sind alles Standard-Quellen, mit denen auch reguläre Sprachmodelle trainiert werden. Auf https://webkreators.de/module.html
sieht man sogar, dass diese dynamisch nachgeladen werden können.
Am Ende muss man sagen: Genau das machen LLMs auch, und wer das Prompting und den Kontext entsprechend anpasst, erzielt ähnliche Ergebnisse. Mir erschließt sich daher nicht, warum man unbedingt ein proprietäres Produkt wie „The Brain“ nutzen sollte. Wer sich ein wenig in die Materie einarbeiten möchte, kann einfach zu Tech-Stacks wie LlamaIndex + Neo4j oder LangChain + GraphCypherQAChain greifen. Ich verstehe deshalb ehrlich gesagt nicht, warum man für so etwas ein fertiges Spezialprodukt kaufen müsste.
Das soll jetzt keine Abwertung des Projekts sein, jedoch soll es zeigen, das hier keine Raketenwissenschaft betrieben wurde, auch andere sowas initieren können.
Ich hätte da eine ungeklärte Frage:
"Wohin verschwindet andauernd die zweite Socke in der Waschmaschine?!
Wie gesagt, das Spezialprodukt ist umsonst. Und die meisten Chatbots, die ich kenne, sind leider auch nicht Open Source. So what?
Nein, das ist sicher keine Raktenwissenschaft. Aber als Gesprächspartner finde ich den Herrn trotzdem spannend.
Ja, die Waschmaschinen mit dem schwarzen Loch, was nur einzelne Socken verschluckt, so ein Gerät habe ich auch daheim. 
Mich würde viel mehr interessieren, warum das blöde Marmeladenbrot immer auf der klebrigen Seite auf dem Boden aufkommt, damit man umso mehr Arbeit mit der Reinigung hat. ,-)
Der Effekt hängt mit der Tischhöhe, dem Drehimpuls und der Masseverteilung zusammen.
Wenn ein Brot vom Tisch rutscht, kippt es meist von der Kante aus, quasi in eine Drehbewegung. Dabei hat es nur die Zeit, etwa eine halbe Drehung in der Luft zu vollziehen, bevor es auf dem Boden landet – und diese führt typischerweise dazu, dass die schwerere Marmeladen-Seite unten liegt!
Wäre der Tisch deutlich höher oder das Brot schwerer auf der unbestrichenen Seite, könnte sich das Ergebnis auch umkehren. Aber in der Realität führt die Kombination aus Brotgewicht, Fallhöhe und Gravitation sehr häufig, genau zu diesem klebrigen Ergebnis…!
Und genau hier gibt es schon das erste Problem.
Gerade Wikipedia ist bei vielen Themen sehr umstritten.
Manche Beiträge werden tatsächlich mehrfach geändert oder entsprechen auf einer Freien Interpretation oder Meinung.
kann ich so nicht unterschreiben. Mein Modell ist Opensource, mein Chatbot sowie meine UI genauso. wie ich sie anbinde, welche Rechte und Möglichkeiten ich denen gebe ist eine komplett andere Sache aber sie sind alle Opensource
Gut, aber die gängigen Chatbots von Claude über ChatGPT, Gemini und wie sie alle heißen, die sind doch kein Open Source?!
Jein, es gibt eine OSS Variante von ChatGPT genauso die LLAMA von Meta aber sonst nein. Die chinesischen gibts alle als Opensource Variante meines Wissens
Also es gibt inzwischen durchaus einige freie Sprachmodelle, die man lokal betreiben kann oder bei einem spezialisierten Cloudanbieter (z. B. Ollama Cloud, Aime …). Damit kann jeder auch eine Wissensdatenbank aufbauen, im Grunde wird man nur durch das eigene Wissen und den Geldbeutel beschränkt.
Wenn es dir und deinem Hund zu kalt ist, könnt ihr ja daheim auch Hardware von Aime laufen lassen (HGX-Systeme für mehrere Zehntausend bis Hunderttausende Euro). Wer braucht schon ein Auto oder Eigentumswohnung, wenn er in einer billigen Mietwohnung ein LLM laufen lassen kann.
Ansonsten kannst du es ja über Cloud-APIs versuchen, auch wenn das wieder monatliche Kosten bedeutet. Dazu gab’ es hier im Forum auch mal eine Diskussion: https://tarnkappe.info/forum/t/securityonion-os-der-bruder-schwester-von-kalilinux/19083/7
Es gibt einige abgespeckte Variante:
deepseekBei mir ist jedesmal die BRAIN.exe verschwunden wenn ich es installiert habe, Defender Virus habe ich deaktiviert, Setup und Installationsordner als Ausnahme hinzugefügt…was da los?
Das klingt nach einer Antivirensoftware, die die .exe automatisch löscht.
Wie gesagt, ist ja ausgeschalten…
Wundert mich nicht, ich habe die Software genauer getestet:
https://tarnkappe.info/forum/t/warnung-brain-exe-nicht-installieren/19568
Die Start.bat habe ich dann auch gefunden und mein kurzer Test lief ähnlich ab aber Deinstallation lief problemlos.
Also ich bin eig zufrieden mit dem Googlebot, hat mir heute erst wieder ein paar Behördengänge erspaart und ein paar Briefe, in feinstem Beamtendeutsch erstellt😁
Man muss nur richtig damit umgehen und wenn keine Quellenlinks vorhanden sind, weis man das der bestimmt Blödsinn labert…
Und laeuft der Prozess noch und kannst du den Programmordner loeschen?
den Python? Den habe ich gleich nach dem ich den Browser zugemacht habe, manuell gekillt.