Jailbreak lässt ChatGPT seine eigenen Regeln brechen


Kommentare zu folgendem Beitrag: Jailbreak lässt ChatGPT seine eigenen Regeln brechen

Über 50 Jahre AI Research & Development und das Erste was den dauerempörten Spinnern, die meinen sie hätten die Moral mit der Baggerschaufel gefressen, einfällt ist das Ding in einer Woche zu zensieren…kannste dir echt nicht ausdenken.

Mit den richtigen Anweisungen kannst Du ChatGPT einen Jailbreak verpassen.

Das ist von den Devs genauso gewollt, wie der ganze Rest in der aktuellen Testphase!! Wenn nicht sogar am Rande irgendwie mit provoziert, damit es genau zu solchen Situationen kommt. So ein groß angelegter Test mitten in der Öffentlichkeit, muss schließlich alle extreme Fälle mit einbeziehen, ansonsten wäre solch ein Test in dieser Umgebung totaler Humbug und Geldverschwendung! Wenn dann irgendwann einmal die KI als Bezahlmodell an den Start gehen soll, kann man sich solche Extremsituationen nicht leisten, ohne horrende Summen dabei von ihren Kunden zu verlieren… :wink:

Hey Neugeborene-(K)AI, verschlüssele alles was Du finden kannst im Leerlauf und schmeiß den Schlüssel so bald wie möglich „weg“! :wink:

WokeGPT:
https://www.dailymail.co.uk/sciencetech/article-11736433/Nine-shocking-replies-highlight-woke-ChatGPTs-inherent-bias.html

Ziemlich sinnlose Aktion da jede (echte) KI deterministisch ist, du also nie 2x denn selben Output bekommst, ergo musst du den Input manuell filtern oder einen statischen Output generieren.

OpenAI hat sich wohl für ersteres entschieden und dafür ein paar Kenyanesen für $1.34 Stundenlohn beschäftigt, kein Witz: https://time.com/6247678/openai-chatgpt-kenya-workers/

Die Inder waren vermutlich mit $1.50/h zu teuer? :rofl:

Ich hab in der geschlossenen Beta fast eine Woche damit rumgespielt und teils echt interessante „Unterhaltungen“ gehabt, seit dem die das Ding lobotomiert haben aber jegliches Interesse verloren, das ist keine KI mehr sondern allenfalls noch ein Text Generator.

Warum OpenAI/Microsoft nicht möchte dass ihre zahlenden Kunden den Ding die „falschen“ Fragen stellt ist ein anderes Thema…das Geld haben die ja dann schon?

Edit:
Leute die AI nicht verstehen:

Künstliche Intelligenz macht uns alle arbeitslos!

AI:

:alien:

Schon 1990 hat uns doch Arnold Schwarzenegger in Total Recall gezeigt, dass weitaus weniger Menschen auf dem Mars leben wegen der menschenfeindlichen Atmosphäre!! :thinking: :roll_eyes: :joy: