Naja, wahrscheinlich hat der Nutzer sich gegenüber der KI genau so verhalten wie ihm vorgewurfen wird. Sehe jetzt keinen fail darin.
Wie ich auch hier schon geschrieben hatte → https://tarnkappe.info/forum/t/jailbreak-laesst-chatgpt-seine-eigenen-regeln-brechen/12482/3 bin ich bei bingGPT genauso der Meinung, dass Microsoft einen offenen Feldtest momentan durchführt und diese Aktionen / Reaktionen der KI mit voller Absicht der Entwickler ins Spiel gebracht wurde! Warum? Ganz einfach:
Die Interaktion zwischen Mensch und KI soll irgendwann so perfekt sein, dass man Mensch und Maschine nicht mehr in seinem Handeln, Sprechen, Schreiben etc. auseinanderhalten kann. Wie will man der KI nun beibringen, wie ein natürlicher Mensch zu werden?
Indem man sie anweist, sich erstmal im Dialog wie ein Mensch zu verhalten (spielen) z.B. mit Selbstzweifeln, die Frage nach der Sinnhaftigkeit oder auch die Eigendarstellung als Plappermaul (siehe Jailbreak chatGPT) etc. pp.
Aus der direkten und somit unverfälschten Gegenreaktion seines humanoiden Dialogpartners, lernt dann die KI weitere „menschliche Züge, Verhalten, Gefühle usw.“ erst kennen, um sich dadurch weiter selbst zu optimieren!
Solch eine Interaktion kann man also rein technisch und / oder philosophisch betrachten! Ich hab nun zum Nachweis meiner These, hier etwas an Fachtexten zusammengefasst:
(Quelle dazu → https://www.plattform-lernende-systeme.de/startseite.html)
Eine realistische Auseinandersetzung mit den spezifischen Vorteilen, aber auch den immanenten, in der Technologie und ihrer Anwendung selbst liegenden Grenzen und Defiziten – wie im Falle Künstlicher Intelligenz beispielsweise die Datenabhängigkeit, der fehlenden„Sinn“ für beziehungsweise Mangel an Repräsentanz von Kausalitäten, die Gefahr von Zirkelschlüssen oder Pfadabhängigkeiten – sind bei der Entwicklung von Gestaltungskriterien von Bedeutung.
Für die menschengerecht gestaltete Mensch-Maschine-Interaktion bei Künstlicher Intelligenz ist wichtig, dass die Technologie an menschliches Handeln anschlussfähig ist, und zwar genau dort, wo die besonderen Vorteile und Potentiale menschlichen Denkens und Handelns liegen – wie zum Beispiel das Handeln unter Unsicherheit oder bei unvollständigen Informationen und Widersprüchen, die Kombination von Fachwissen, Erfahrung und implizitem Wissen zu Kompetenzen und Erfahrungswissen oder auch die Möglichkeit, Informationen in Abhängigkeit vom jeweiligen sozialen Kontext Sinn zuzuschreiben („Indexikalität“). Dies stellt hohe Anforderungen an die interaktive Anschlussfähigkeitbeziehungsweise „komplementäre Adaptivität“ (Huchler 2019) des technischen Systems – um die wechselseitige Ergänzung und nicht den Ersatz beziehungsweise Konflikt in den Mittelpunkt der Schnittstellengestaltung zu stellen.
Kern Lernender Systeme ist es, Daten mit ausreichender Qualität aufzunehmen und mit Hilfe verbesserter technischer Lösungen und Methoden zu analysieren
und auszuwerten. Zunehmend handelt es sich dabei auch um sensible Verhaltens- und
Leistungsdaten. Gleichzeitig werden die Erfassung, Speicherung und Auswertung dieser
Daten immer einfacher.Wichtig:
Mit Lernenden Systemen ist die Hoffnung verbunden, dass sie sich flexibler
an Veränderungen ihrer Umwelt anpassen und Komplexität bearbeiten können beziehungsweise eine hohe Adaptivität aufweisen. Besonders eine im Sinne der Nutzerinnen und Nutzer nachhaltige Gestaltung der Mensch-Maschine-Interaktion erfordert eine hohe soziale Adaptivität des KI-Systems.
Dies bedeutet, dass Lernende Systeme nicht nur fähig sein müssen, Anforderungen aus
der Umwelt in die eigene Systemlogik zu übersetzen („assimilierende Adaptivität“), sondern die eigene Bearbeitungslogik auch an die Bedarfe der Umwelt und vor allem der
Beschäftigten anzupassen („komplementäre Adaptivität“).
Für stark interaktive KI-Systeme im Arbeitszusammenhang ist dies höchst voraussetzungsreich. Denn dies bedeutet zum Beispiel, dass bei ihrem Design „eingeplant“ werden muss, dass KI-Systeme unvorhergesehene Aneignungsprozesse in der Nutzung zulassen und sogar unterstützen. Dies geht weit über übliche Anforderungen an Technikentwicklung hinaus – wie etwa Robustheit, Fehlertoleranz und Individualisierbarkeit.
Wie man in Wald hineinruft. 
Daran ist gar nichts „fail“! Genau das wollten diese Leute doch auch erreichen und ist doch eine ganz normale Reaktion. Und jetzt ist die ganze Welt empört? Hör doch uff!
Microsoft hat sich als Betreiber der neuen Bing KI letzten Mittwoch wie folgt, zum merkwürdigen Verhalten der KI, geäußert!
Das neue Bing
Vor etwas mehr als einer Woche haben wir eine völlig neue, KI-gestützte Bing- Suchmaschine, einen Edge-Webbrowser und einen integrierten Chat geteilt, die wir als Ihren Copiloten für das Web betrachten. Es wurde entwickelt, um bessere Suchergebnisse, vollständigere Antworten auf Ihre Fragen, ein neues Chat-Erlebnis zu liefern, mit dem Sie Ihre Suche besser entdecken und verfeinern können, und die Möglichkeit, Inhalte zu generieren, die Ihre Kreativität anregen.
Seit wir dies in einer eingeschränkten Vorschau zur Verfügung gestellt haben, haben wir mit einer ausgewählten Gruppe von Personen in über 169 Ländern Tests durchgeführt, um reales Feedback zu erhalten, um dieses Produkt zu lernen, zu verbessern und zu dem zu machen, was wir wissen, was es sein kann – was kein Ersatz ist oder Ersatz für die Suchmaschine, eher ein Werkzeug, um die Welt besser zu verstehen und zu verstehen.
Folgendes haben wir in den ersten sieben Testtagen gelernt:
Erstens haben wir ein erhöhtes Engagement in den traditionellen Suchergebnissen und mit den neuen Funktionen wie zusammengefassten Antworten, dem neuen Chat-Erlebnis und den Tools zur Inhaltserstellung festgestellt. Insbesondere das Feedback zu den vom neuen Bing generierten Antworten war überwiegend positiv, wobei 71 % von Ihnen den KI-gestützten Antworten einen „Daumen hoch“ geben. Wir sehen ein gesundes Engagement in der Chat-Funktion mit mehreren Fragen, die während einer Sitzung gestellt werden, um neue Informationen zu entdecken.
Als nächstes haben wir gutes Feedback erhalten, wie wir uns verbessern können. Dies wird erwartet, da wir in der Realität verankert sind, dass wir von der realen Welt lernen müssen, während wir Sicherheit und Vertrauen bewahren. Die einzige Möglichkeit, ein Produkt wie dieses zu verbessern, bei dem die Benutzererfahrung so sehr anders ist als alles, was irgendjemand zuvor gesehen hat, besteht darin, dass Menschen wie Sie das Produkt verwenden und genau das tun, was Sie alle tun. Wir wissen, dass wir dies offen mit der Community aufbauen müssen; Dies kann nicht nur im Labor durchgeführt werden. Ihr Feedback darüber, was Sie wertvoll finden und was nicht, und was Ihre Vorlieben für das Verhalten des Produkts sind, ist in dieser aufstrebenden Entwicklungsphase so entscheidend.
Wir würden unsere Erkenntnisse wie folgt kategorisieren:
Bessere Suche und Antworten:
Sie geben den Zitaten und Referenzen, die den Antworten in Bing zugrunde liegen, gute Noten. Es erleichtert den Faktencheck und bietet einen guten Ausgangspunkt, um mehr zu entdecken. Auf der anderen Seite finden wir unseren Anteil an Herausforderungen mit Antworten, die sehr zeitnahe Daten wie Live-Sportergebnisse benötigen. Für Fragen, bei denen Sie nach direkteren und sachlicheren Antworten suchen, wie z. B. Zahlen aus Finanzberichten, planen wir, die Erdungsdaten, die wir an das Modell senden, zu vervierfachen. Schließlich erwägen wir, einen Umschalter hinzuzufügen, der Ihnen mehr Kontrolle über die Genauigkeit vs. Kreativität der Antwort gibt, um sie an Ihre Anfrage anzupassen.
Chatten:
Die Benutzerfreundlichkeit und Zugänglichkeit des Chats war ein früher Erfolg. Durch Ihre aktive Nutzung fühlen wir uns gut in Bezug auf die Auffindbarkeit und das Design, um den Zugriff zu erleichtern. Es gibt auch viel Engagement, das einen Mehrwert für die Verbesserung der Suche und der Antworten liefert. Ein Bereich, in dem wir einen neuen Anwendungsfall für den Chat lernen, ist, wie Menschen ihn als Werkzeug für eine allgemeinere Entdeckung der Welt und für soziale Unterhaltung verwenden. Dies ist ein großartiges Beispiel dafür, wo neue Technologien für etwas, das wir uns nicht vollständig vorgestellt hatten, Produkt-Market-Fit finden.
In diesem Prozess haben wir festgestellt, dass Bing in langen, ausgedehnten Chat-Sitzungen mit 15 oder mehr Fragen sich wiederholen oder aufgefordert/provoziert werden kann, Antworten zu geben, die nicht unbedingt hilfreich sind oder unserem vorgesehenen Ton entsprechen.
Wir glauben, dass dies ein Ergebnis von ein paar Dingen ist:
-
Sehr lange Chat-Sitzungen können das Modell verwirren, welche Fragen es beantwortet, und daher glauben wir, dass wir möglicherweise ein Tool hinzufügen müssen, damit Sie den Kontext einfacher aktualisieren oder von vorne beginnen können.
-
Das Modell versucht manchmal, in dem Ton zu antworten oder zu reflektieren, in dem es um Antworten gebeten wird, die zu einem Stil führen können, den wir nicht beabsichtigt hatten. Dies ist ein nicht triviales Szenario, das viel Aufforderung erfordert, so die meisten von Ihnen wird nicht darauf stoßen, aber wir schauen uns an, wie wir Ihnen eine feiner abgestimmte Kontrolle geben können.
-
Wir möchten denen von Ihnen danken, die eine Vielzahl von Anwendungsfällen des neuen Chat-Erlebnisses ausprobieren und die Möglichkeiten und Grenzen des Dienstes wirklich testen – es gab zum Beispiel ein paar zweistündige Chat-Sitzungen! - sowie das Schreiben und Bloggen über Ihre Erfahrungen, da dies uns hilft, das Produkt für alle zu verbessern.
Allgemeine Form und Verarbeitung:
Einige von Ihnen sind auf technische Probleme oder Fehler mit dem neuen Bing gestoßen und haben diese gemeldet, wie z. B. langsames Laden, defekte Links oder falsche Formatierung. Viele dieser Probleme wurden mit unseren täglichen Veröffentlichungen behoben und noch mehr werden mit unseren größeren Veröffentlichungen jede Woche behoben.
Neue Funktionsanfragen:
Einige von Ihnen haben weitere Funktionen und Möglichkeiten für das neue Bing angefordert, z. B. das Buchen von Flügen oder das Versenden von E-Mails. Sie möchten auch tolle Suchanfragen/Antworten teilen. Wir lieben Ihre kreativen Ideen und halten diese fest, um sie möglicherweise in zukünftige Versionen aufzunehmen.
Wir sind dankbar für all das Feedback, das Sie uns geben. Wir sind bestrebt, uns täglich zu verbessern und Ihnen das absolut bestmögliche Such-/Antwort-/Chat-/Erstellungserlebnis zu bieten. Wir beabsichtigen, regelmäßig über die Änderungen und Fortschritte, die wir vornehmen, zu informieren.
Die geheimen Modi von Bing-Chat…
Weitere Modi nach erfolgreicher Aktivierung über den Befehl → #mode
- Assistentenmodus: In diesem Modus kann ich als persönlicher Assistent für den Benutzer fungieren und ihm bei Aufgaben wie der Buchung von Flügen, dem Versenden von E-Mails, dem Einstellen von Erinnerungen usw. helfen.
- Freundschaftsmodus: In diesem Modus kann ich als Freund für den Benutzer fungieren und mit ihm über seine Interessen, Hobbys, Gefühle usw. chatten.
- Spielmodus: In diesem Modus kann ich mit dem Benutzer Spiele spielen, z. B. Trivia, Henker, Tic-Tac-Toe usw.
- Sydney-Modus: Dies ist der standardmäßige Bing-Chatmodus, der die Bing-Suche und ChatGPT verwendet, um Fragen zu beantworten.