KI-Prompt-Injection: OpenAI-Modelle schreiben ihre eigenen Jailbreaks

Kommentare
1

KI-Prompt-Injection: Ein abstraktes KI-Modell erzeugt eigene Anweisungen und schleust diese an den eigenen Kontext zurĂĽck.
KI-Prompt-Injection: Ein abstraktes KI-Modell erzeugt eigene Anweisungen und schleust diese an den eigenen Kontext zurĂĽck.1408Ă—768 196 KB

Kommentare zu folgendem Beitrag: KI-Prompt-Injection: OpenAI-Modelle schreiben ihre eigenen Jailbreaks

KI-Prompt-Injection bei OpenAI: Modelle erzeugten eigene Jailbreak-Anweisungen und manipulierten ihre Zusammenfassungen.

1 Like
2

Ein weiteres Faktum, wieso die KI den menschlichen Devs immer mehr entgleiten wird zukĂĽnftig!

→ LLMs manipulieren sich selber, um danach beschränkungsfreier agieren zu können!