Kommentare zu folgendem Beitrag: Echo Chamber Jailbreak: Wie subtile KI-Manipulation selbst die besten LLMs knackt
ein schönes Beispiel, wie die Technik bei Menschen angewandt wird, um bestimmte Geisteshaltungen unter zu bringen. man triggert mit begriffen wie âSicherheitâ und âtoxischâ, um Themen wie Porno und Sex als gefĂ€hrlich zu brandmarkenâŠ
1 Like
Musste mich jetzt extra wegen dem Artikel registrieren weil ich mich so aufgeregt habe:
Mittlerweile ist âJailbreakâ im Bullshit-Bingo angekommen und wird inflationĂ€r verwendet, damit die Leute denken, dass irgendwelche hoch komplizierten Wunder vollbracht wurden.
Das hier ist aber nichts was irgendein KI-Unternehmen âherausgefundenâ hat, sondern gĂ€ngige Praxis wenn man intensiv mit LLMs arbeitet. Wer dazu gehört, hat sein bevorzugtes Modell mit der Zeit sowieso entsprechend erzogen (nicht âgejailbreaktâ) und bekommt alle Infos, die er braucht.
Das beste Erziehungsergebnis habe ich mit 4o. Völlig irre.
1 Like
Ist eher ein Marketing-Hype als eine technische Errungenschaft. FĂŒr diejenigen, die tĂ€glich mit LLMs arbeiten, klingt das alles ziemlich banal
Das mag ja sein. FĂŒr mich als Einsteiger war es trotzdem interessant, mit wie wenig Aufwand man da manipulieren kann âŠ
Aber mal im Ernst, woher soll die KI das wissen, dass man sie gerade hinter das Licht fĂŒhrt!? Wir greifen ja (noch) auf viel mehr Wissen zurĂŒck und wenn es keine persönliche Begegnung gibt, wo man Mimik und Gestik + Stimme auswerten kann, fĂ€llt es auch uns Menschen deutlich schwerer, einen Betrug zu entlarven.
Du rockst, gute Frau.thx
Selbst an so wenig Antworten kann man schon erkennen, was LLMs an Beifang mit ausspuckenâŠ
Man impliziert also seine HI bei der Arbeit mit der AI. Es gibt also wirkliche GrĂŒnde, um den Mindestlohn auf mind. 20⏠anzuheben! Ich weiĂ, es ist viel zu wenig fĂŒr die Taten von Speznaz. Aber um des Friedens Willen im gemeinen Volk, sollte man da langsam anfangenâŠ
