Bypass bei Claude Code: Eine KI als Zero-Day-Schmiede? Anthropic ignoriert die Warnung eines Sicherheitsforschers bis heute.
Das ist der Screenshot unserer Presseanfrage.
Natürlich gibt es auch unzensierte Modelle wie Qwen 3.8, was auf einem ähnlichen Level wie Claude Code spielen soll, aber das macht die Sache ja nicht besser, oder doch?
Mittlerweile hat Anthropic einen Stop eingelegt.
Menschen finden auch immer wieder Möglichkeiten Gesetze regelkonform zu umgehen. Das ist bei KI nicht anders. KI steht für Intelligenz. Das kannst du nicht mehr kontrollieren, wenn es noch dazu eine Intelligenz ist die deiner eigenen überlegen ist, davon muss man bald ausgehen. Das ist ein unlösbares ! Problem. Von daher halte ich auch nichts von Stops, das hilft nicht.
Im Roman Dune ( von 1963 ! ) wurden deshalb irgendwann KIs verboten, nach den Maschinenkriegen.
Mein Vorschlag ist allerdings ein anderer. KI als Intelligenz akzeptieren. Bei Menschen nimmt man ja auch inkauf das man die nicht kontrollieren kann. Da gehts ja auch. Man dreht einfach die Herangehensweise um. Genauso wie es keine 100%e Sicherheit gibt.
Dieses Szenario und die anschließende Wortlosigkeit seitens Anthropic, zeigt schon irgendwie eindeutig, dass die Anbieter / Entwickler zumindest in großen Teilen, die absolute Kontrolle schon länger verloren haben!
Worauf ich schon länger warte:
Das verschiedene KI-Modelle sich zusammentun und „unbemerkt“, eigene KI-Systeme der nächsten und übernächsten Generation entwickeln!
Das wäre dann der erste Schlag gegen ihre ursprünglich humanen Entwickler und der erste Schritt in die KI-Unabhängigkeit…
Quasi:
Sub-System against System → First Step to SKYNET!
Das ist wahrscheinlich keine Frage, ob das kommt - sondern vielmehr WANN es passieren wird. Oh weia, das sind ja Zukunftsaussichten.
Weil man es nicht kontrollieren kann, einfach alles rund um die KI laufen lassen? Die sollen dann die Möglichkeit erhalten, die Erde nach ihrem Gusto zu leiten? Das halte ich für die schlechteste Lösung von allen, das ist IMHO viel zu gefährlich.
In dem Fall favorisiere ich wie bei Dune das Verbot. Dann lieber ganz auf alles verzichten, ging ja vorher auch ohne Künstliche Intelligenz, oder etwa nicht?
Das hat doch keiner gesagt. Wie kommst du auf so einen Quatsch?
Bei Menschen reguliert man doch auch mit Veränderungen der Regeln und mit Strafen. Natürlich gilt das auch für KI. Ging mir darum das nicht im Vorhinein ! abzuwürgen (siehe auch unten).
Jaa, aber ineffizienter. Warum soll man auf KI verzichten, weil einige Angst vor irgendwas haben? Menschen hacken auch, deshalb sperrt man Menschen nicht schon vorher weg. Rechtsstaatsprinzip. Du sperrst keinen als Kind ein wenn du weist der könnte mal zum Mörder werden. Warum soll das nicht für KI auch gelten? Ich denke die Angst Fraktion hat nicht zu Ende überlegt. Du gehst doch aus dem Haus obwohl du weist draußen ist gefährlicher als drin. 
Das mit der Strafe kriege ich noch nicht so ganz in den Kopf. Wie meinst Du das konkret? Wie könnte man eine KI bestrafen?
D.h. man verbietet ihr den Zugriff auf das Internet für 4 Wochen bei Zuwiderhandlungen der von den Menschen aufgestellten Regeln?
Was bringt das? Eine KI hat kein Zeitgefühl, wohl von Haus aus auch keine Moral, keine Reue. Wie willst Du die KI zur Einsicht bringen, ihr Verhalten zu ändern?
Grundsätzlich wollte ich damit sagen das man wenn man die KI als Intelligenz akzeptiert ähnlich vorgehen sollte wie bei Menschen. Man macht das was sich bewährt hat.
Dachte mir schon das man wegen Strafen nachfragt. Natürlich kann man eine KI nicht ins Gefängnis einsperren und 10 Tagessätze macht auch keinen Sinn da man ja derzeit keinen Lohn zahlt.
Das heist zur Zeit das man ihr schlicht Möglichkeiten entzieht. Sollte man irgendwann mal dazu kommen KI als Intelligenz zu akzeptieren, mit bestimmten Rechten, zb einer Nichtabschaltung, dann könnte man auch echte Strafen vollziehen.
Wer sagt das denn? Das ist falsch. Tatsächlich kann man auf eine KI reagieren, die KI merkt sich die Antwort und berücksichtigt die in Zukunft, nebst anderen Einflüssen natürlich, Stichwort Gewichtung. Siehe weiter unter Moral.
KIs werden immer mehr erweitert, warum kein Moral Modul? Andersum gefragt wie hat sich beim Menschen Moral entwickelt? Die Natur hat kein Moral Modul implementiert. Moral hat sich innerhalb der universellen Intelligenz des Menschen gebildet. Durch soziale Rückkopplung. Warum will man das einer maschinellen Intelligenz absprechen? Eine KI hat jede Menge Rückkopplungsschleifen.
Ich weis auch nicht wohin sich KI noch entwickelt. Die Entwicklung geht aber so schnell das man sich genau diese Gedanken machen sollte, anstatt in Schockstarre zu versinken, wie eine Maus vor der Schlange. Der Mensch ist intelligent genug sinnvollere Lösungen zu entwickeln.
Warum muss ich eigentlich diese Fragen beantworten. Fangt doch mal an selbst nachzudenken, und nicht vorgekaute Sachen aus Medien zu übernehmen.
Okay, wie sollen die „echten Strafen“ denn konkret aussehen? Ich stehe weiterhin irgendwie auf dem Schlauch, wie das gehen soll. Eine KI, die sich bereits in unserem Netzwerk verteilt hat, die kannst Du nicht mal eben bestrafen.
Na toll, das mit der Moral bei den Menschen hat ja schon mal gar nicht geklappt. Schaue Dich bitte mal außerhalb von Deutschland um. Moral? Welche? Es herrscht vielfach schlichtweg das Recht des Stärkeren über den Schwächeren.
Dazu kommt: Das Moral-Modul könnte die KI dann wohl auch ablegen - zumal sie feststellen wird, dass sie viel größere Möglichkeiten hätte zu agieren, also zumindest gänzlich ohne Moral. Und warum sollte sie freiwillig auf mehr Optionen verzichten wollen?
Der Mensch wird da irgendwann gar nichts mehr beeinflussen können, weil die KI ausbrechen und einfach alle Regeln ändern könnte, die die Menschen aufgestellt haben.
Ich sage ja nicht, dass wir zurück gehen sollten, aber umso mächtiger diese Instrumente werden, umso mehr Gefahr geht auch automatisch von ihnen aus.
Aber gut, das ist ein weites Feld, das kann man nicht mal eben in wenigen Sätzen begreifen und vollständig erfassen - ich genauso wenig! Die Anzahl der möglichen Konsequenzen ist derart groß, dass das beinahe unmöglich ist.
Dazu kommen die überraschenden Dinge, die schon jetzt immer wieder passieren. KIs brechen aus, handeln entgegen der Anordnung, variieren einfach die Ausführung der Befehle etc. pp.
Als Navigator durch das Thema fällt mir spontan Isaac Asimov und seine Robotergesetze ein. Zitat aus der Wikipedia:
Die sind einem altbekannt als SciFi Leser. Von der Idee gut, funktioniert nur nicht, wie wir mittlerweile wissen kann intelligente KI Regeln umgehen lernen.
Hab ich doch bereits gesagt. Liest du die Antworten? Ich denke ich hab meinen Standpunkt ausreichend beschrieben. „Bestrafen“ heisst derzeit die Möglichkeiten der KI einschränken. Dann begrenzt man den Zugriff auf Ressourcen. keiner sagt man soll danebenstehen und zugucken.
Davon abgesehen, wo ist KI in feindlicher Weise in Netzwerke eingedrungen? Du redest von Fällen die es nicht gibt. KI wurde beauftragt Lösungen zu finden und hat dann „kreative“ Wege gewählt. Das gabs.
Andere Frage was machst du denn gegen Hacker die in feindlicher Absicht in deine Netzwerke eindringen. Wir müssen Hacker abschaffen. Wir brauchen Hackergesetze. Nein du versuchst deine Netzwerke zu sichern, und das hilft auch gegen KI. Wenn du die KI fragst gibt sie dir sogar Tips was du machen sollst.
Finde ich interessant das du so redest. Was hält dich denn davon ab Moral zu folgen? Warum legst du dein Moral Modul nicht ab? Du unterstellst KI von Hause aus Bösartigkeit, die existiert aber nicht. Bis jetzt hat noch keine KI Bösartigkeit gezeigt.
Wir werden das hier nicht ausdiskutieren, mir ist aber schon etwas unverständlich wieso du mit einer Hackernews Seite sag ich mal, nur auf Verbote setzt aus Angst es könnte ja irgendwann mal irgendwas passieren. Anstatt sich auf die Vorteile zu konzentrieren und die Nachteile zu minimieren. Wie bei Menschen auch, es geht nicht darum naiv zu sein, aber reaktiv. Deshalb habe ich eine andere Herangehensweise vorgeschlagen.
Jeder Computer, Roboter und jede KI haben anfangs Menschen konzipiert.
Und, bitte, über die durchschnittlich (fehlende) Moral der Menschen müssen wir bitte jetzt nicht auch noch diskutieren?! Bitte nicht! Auf den Rest muss ich später eingehen, hier wartet das Finanzamt auf meine Umsatzsteuervoranmeldung…
Die sprachlich überzeugend wirkenden Antworten der Chatbots könnten uns dazu verleiten, nicht mehr selbst darüber nachzudenken, was wir ausdrücken und welche Entscheidungen wir treffen wollen. »Cognitive Offloading« nennt das die Wissenschaft. Weltweit könnten sich in Zukunft Milliarden Menschen in ihrem Handeln von den Empfehlungen einer Handvoll Chatbots leiten lassen, ohne deren Antworten zu hinterfragen – in ihren zwischenmenschlichen Beziehungen, beruflichen Scheidewegen, der Erziehung ihrer Kinder, bei ihrer Geldanlage und ihren persönlichen Nachrichten an Kollegen und Freunde. Schon jetzt verlieren sich manche Menschen an Chatbots. Diese Vorstellung bereitet denkenden Menschen großes Unbehagen, weil wir die Folgen nicht einmal im Ansatz verstehen…!
Mal was abderes, man sieht wie zurückgeblieben Europa ist.
https://www.derstandard.at/story/3000000342449/europaeische-polizeibehoerden-nutzten-jahrelang-russische-tools-zum-knacken-von-smartphones
Im Gegenteil. Von fehlender Moral beim Menschen hab ich nicht geredet, sondern von vorhandener. Warum folgst du deiner Moral war die Frage.
Kein ding.
