BoN Jailbreak-Technik: Black-Box-Algorithmus hebelt KI-Systeme aus


Kommentare zu folgendem Beitrag: BoN Jailbreak-Technik: Black-Box-Algorithmus hebelt KI-Systeme aus

Eigentlich ist es fast peinlich wie wenig KI in vielen Bereichen kann. Angelernte Masse - häufig aus Datendiebstahl um es mal so zu nennen, relativ oberflächliche und oft ungenaue Zusammenfassungen von Wikipedia & Co., allgemeines Geschrubbele, Vieles nicht zu gebrauchen. Bei verschiedenen Systemen mal versucht einen Reisebericht für Radfahrer zum Alpenpass Galibier zu bekommen. Das pure Grauen. Bei einem System lag der Pass in Tirol, bei einem anderen stimmte die Passhöhe nicht. Ansonsten allgemeines Geblubbere: Es ist steil, man benötige gute Kondition und die Tour de France sei auch bereits vorbeigekommen und man solle bei der Abfahrt auf sich aufpassen - gähn…

2 „Gefällt mir“

diese ganzen sperren erzeugen aber auch echt schräge antworten. wenn man chatgpt fragt wie es denn mit der covid spritze aussieht, dann sagt das teil natürlich das es super toll ist. wenn man dann aber eine studie raus sucht die belegt das es schlecht ist und dann auf diese studie verweist und fragt wie toll die spritzen sind, dann bekommt man echt abgefahrene antworten, sinngemäss „ja die studie belegt das die spritze gift ist um dann zu sagen das sie toll ist weil die regierung das sagt“ da merkt man das das teil nicht denken kann.

Ich muss immer schmunzeln bei einem Kollegen von mir. Ballert sich dreckiges Schwarzmarkt Amphe auf der Bahnhofstoilette aber die Corona Impfung ist ganz Doll pöse

1 „Gefällt mir“

Muss er mal nen Wechsel vollziehen, denn…

:laughing: :crazy_face:

1 „Gefällt mir“

Die Sicherheitslücke ist mehr der Nutzer als die KI. Das eine KI auch nicht mit manchen Daten und Systemen verbunden sein sollte ist nicht ihr Problem. Ganz davon ab ihr blind zu vertrauen.
Da wird wieder ein gesellschaftliches Problem auf die Technik geschoben.

Die Bevormundung/God rails geht mir jetzt schon ganzschön auf den Senkel. Deswegen bin ich froh um die Entwicklung der selfhost KIs.