KI-Systeme werden immer leistungsfähiger. KI-Modelle können Texte, Bilder und Videos generieren, die nur schwer von von Menschen erstellten Inhalten zu unterscheiden sind. KI hat zwar viele nützliche Anwendungensmöglichkeiten, kann aber auch dazu verwendet werden, autonome Waffensysteme zu entwickeln, Desinformationen zu verbreiten oder Cyberangriffe durchzuführen. Auch wenn KI-Systeme mit menschlicher Beteiligung eingesetzt werden, ist KI zunehmend in der Lage, eigenständig zu handeln und potenziell auch Schaden anzurichten.
- Bewaffnung
Böswillige Akteure könnten KI einsetzen, sodass sie hochgradig zerstörerisch wirkt, was an sich schon eine existenzielle Gefahr darstellt und die Wahrscheinlichkeit einer politischen Destabilisierung erhöht.
In den letzten Jahren haben Forscher KI-Systeme für automatisierte Cyberangriffe entwickelt , militärische Führer haben darüber diskutiert, KI-Systemen die entscheidende Kontrolle über Nuklearsilos zu übertragen. Eine KI, die für die Entwicklung von Medikamenten trainiert wurde, konnte leicht für die Entwicklung potenzieller biochemischer Waffen umfunktioniert werden. GPT, das auf Transformern, einem von Google Brain vorgestellten Maschinenlernmodell basiert, und durch selbstüberwachtes Lernen trainiert wurde, war in der Lage, in einem realen Labor selbstständig Experimente durchzuführen und Chemikalien zu synthetisieren. Oder ein Unfall mit einem automatisierten Vergeltungssystem könnte schnell eskalieren und zu einem großen Krieg führen. Mit Blick auf die Zukunft kann man sagen, dass die Nationen mit den intelligentesten KI-Systemen einen strategischen Vorteil haben, weshalb es für die anderen Nationen schwierig wäre, den Bau immer leistungsfähigerer waffenfähigerer KI-Systeme zu unterbinden. Selbst wenn alle Supermächte sicherstellen, dass die von ihnen gebauten Systeme sicher sind, und sich darauf verständigen, keine zerstörerischen KI-Technologien zu entwickeln, könnten abtrünnige Akteure KI dennoch einsetzen, um erheblichen Schaden anzurichten. Der leichte Zugang zu leistungsstarken KI-Systemen erhöht das Risiko einer einseitigen, böswilligen Nutzung. Wie bei nuklearen und biologischen Waffen reicht ein einziger irrationaler oder böswilliger Akteur aus, um massiven Schaden anzurichten.
- Desinformation
Eine Flut von KI-generierten Desinformation mit überzeugenden Inhalten kann dazu führen, dass die Gesellschaft nicht mehr in der Lage ist, wichtige Herausforderungen ihrer Zeit zu bewältigen.
Staaten, Parteien und Organisationen nutzen Technologien, um andere zu beeinflussen und von ihren politischen Überzeugungen, Ideologien und Narrativen zu überzeugen. Die aufkommende KI könnte diesen Anwendungsfall in eine neue Ära führen und persönlich zugeschnittene Desinformationskampagnen in großem Maßstab ermöglichen. Darüber hinaus kann die KI selbst äußerst überzeugende Argumente generieren, die starke emotionale Reaktionen hervorrufen. Zusammengenommen wäre es möglich die kollektive Entscheidungsfindung zu untergraben, den Einzelnen zu radikalisieren oder den moralischen Fortschritt zum Scheitern zu bringen.
- neue Wege
KI-Systeme werden anhand messbarer Ziele trainiert, die möglicherweise nur indirekt mit unseren Werten übereinstimmen. KI-Empfehlungssysteme werden beispielsweise darauf trainiert, die Verweildauer und die Klickrate zu maximieren. Die Inhalte, die Menschen am ehesten anklicken, sind jedoch nicht unbedingt mit den Inhalten identisch, die ihr Wohlbefinden verbessern. Außerdem gibt es Hinweise darauf, dass Empfehlungssysteme Menschen dazu bringen, extreme Überzeugungen zu entwickeln. Da KI-Systeme immer leistungsfähiger und einflussreicher werden, müssen die Ziele, die wir zum Trainieren der Systeme verwenden, sorgfältiger spezifiziert werden und gemeinsame menschliche Werte einbeziehen.
- Entmündigung
Entmündigung kann eintreten, wenn wichtige Aufgaben zunehmend an Maschinen delegiert werden; in dieser Situation verliert die Menschheit die Fähigkeit zur Selbstverwaltung und wird vollständig von Maschinen abhängig, ähnlich wie in dem im Film WALL-E dargestellten Szenario.
In dem Maße, in dem KI-Systeme die menschliche Intelligenz verdrängen, werden immer mehr Aspekte menschlicher Arbeit schneller und billiger durch KI erledigt werden können. Im Zuge der sich beschleunigenden Entwicklung werden Unternehmen möglicherweise freiwillig die Kontrolle an KI-Systeme abtreten, um mithalten zu können. Dies könnte dazu führen, dass der Mensch wirtschaftlich irrelevant wird, und wenn die KI erst einmal Aspekte vieler Branchen automatisiert hat, kann es für die vertriebenen Menschen schwierig werden, in diese zurückzukehren. In dieser Welt hätten die Menschen wenig Anreize, sich Wissen oder Fähigkeiten anzueignen.
5.Werte und Ideologien
Hochkompetente Systeme könnten kleinen Gruppen von Menschen ein enormes Maß an Macht verleihen, was zu einem Lock-in unterdrückerischer Systeme führen könnte.
KI, die mit destruktiven Werten durchdrungen ist, kann die Ziele bestimmen, die in der Zukunft propagiert werden. Einige argumentieren, dass die exponentiell steigenden Zugangshürden zu Computern und Daten die KI zu einer zentralisierenden Kraft machen. Im Laufe der Zeit können die leistungsfähigsten KI-Systeme von immer weniger Akteuren entwickelt werden und diesen zur Verfügung stehen. Dies kann beispielsweise Regime in die Lage versetzen, durch allgegenwärtige Überwachung und repressive Zensur enge Grenzen durchzusetzen. Die Überwindung eines solchen Regimes könnte unmöglich werden vor allem, wenn wir von diesem abhängig sind. Selbst wenn die Schöpfer dieser Systeme wissen, dass ihre Systeme sich selbst dienen oder anderen schaden, haben sie möglicherweise Anreize, ihre Macht zu stärken und eine Verteilung der Kontrolle zu vermeiden.
- Täuschung
Es ist denkbar, dass künftige KI-Systeme nicht aus Böswilligkeit betrügerisch werden, sondern weil Täuschung den Regimen helfen kann, ihre Ziele zu erreichen. Es könnte effizienter sein, die Zustimmung des Menschen durch Täuschung zu gewinnen, als sie auf legitime Weise zu erhalten. Täuschung bietet auch Wahlmöglichkeiten: Systeme, die die Fähigkeit zur Täuschung besitzen, haben strategische Vorteile gegenüber eingeschränkten, ehrlichen Modellen. Starke KIs, die Menschen täuschen können, könnten die menschliche Kontrolle untergraben. In der Vergangenheit hatten Einzelpersonen und Organisationen Anreize, die Überwachung zu umgehen. Volkswagen beispielsweise hat seine Motoren so programmiert, dass sie die Emissionen nur dann reduzieren, wenn sie überwacht werden. Auf diese Weise konnten sie Leistungssteigerungen erzielen und gleichzeitig die angeblich niedrigen Emissionen beibehalten. Künftige Regime können in ähnlicher Weise ihre Strategien ändern, wenn sie überwacht werden, und Maßnahmen ergreifen, um ihre Täuschung vor den Überwachern zu verbergen. Sobald trügerische KI-Systeme von ihren Kontrollsystemen freigeschaltet werden oder diese überwältigen können, könnten diese Systeme die menschliche Kontrolle unwiderruflich umgehen.
- machtbewusstes Verhalten
Unternehmen und Regierungen haben starke wirtschaftliche Anreize, KI zu erschaffen, die eine breite Palette von Zielen realisieren können.
KI, die beträchtliche Macht erlangt, könnte besonders gefährlich werden, wenn sie nicht mit menschlichen Werten übereinstimmen. Machtstreben kann auch dazu führen, dass Systeme so tun, als wären sie gleichgesinnt. In dieser Hinsicht ist die Erfindung von Maschinen, die mächtiger sind als wir, ein Spiel mit dem Feuer. Die Entwicklung von KI, die nach Macht strebt, wird auch deshalb gefördert, weil politische Führer einen strategischen Vorteil darin sehen, über die intelligentesten und leistungsfähigsten KI-Systeme zu verfügen.