Der KI-Pionier und "Godfather of AI", Geoffrey Hinton, warnt vor der KI als einer "akuteren“ Bedrohung für die Menschheit als der Klimawandel.
Aktuell äußerte Geoffrey Hinton seine Besorgnis über die möglichen Risiken hinsichtlich der Künstlichen Intelligenz (KI). Diese sieht er insbesondere darin, dass sie eine größere Intelligenz als Menschen erreichen und somit die Kontrolle über den Planeten übernehmen könnten.
Ferner wäre es möglich, dass KIs wie Werkzeuge trainiert werden, um Wahlen zu beeinflussen und sogar Kriege zu führen. Zudem wäre eine Flut an Fehlinformationen denkbar und die vielfältige Beanspruchung von Arbeitsplätzen durch KI.
Hinton hat erst kürzlich seine Position als Vizepräsident und technischer Mitarbeiter bei Alphabet, der Muttergesellschaft von Google, aufgegeben, um sich offen über die Risiken der Technologie zu äußern. Hinton befürchtet, dass eine uneingeschränkte KI-Entwicklung eine Gefahr für die Menschheit darstellen könnte.
Geoffrey Hinton läutet Alarmglocke über längerfristige KI-Bedrohungen
Er äußerte Bedenken, dass der Wettlauf zwischen Microsoft und Google die Entwicklung von KI ohne angemessene Vorschriften vorantreiben würde:
„Meine Sorge ist, dass es die Reichen reicher und die Armen ärmer machen wird. Wie Sie das tun. . . Die Gesellschaft wird gewalttätiger. Diese Technologie, die wunderbar sein sollte . . . wird in einer Gesellschaft entwickelt, die nicht darauf ausgelegt ist, sie zum Wohle aller zu nutzen.“
Geoffrey Hintons Werk gilt als bahnbrechend für die Entwicklung moderner KI-Systeme. Er half dabei, KI-Technologien zu entwickeln, die für eine neue Generation hochleistungsfähiger Chatbots wie ChatGPT von entscheidender Bedeutung sind.
Zusammen mit David Rumelhart und Ronald J. Williams war Hinton Co-Autor eines viel zitierten, im Jahr 1986 veröffentlichten Artikels „Learning Representations by Back-Propagating Errors“. Dieser gilt als Meilenstein in der Entwicklung der neuronalen Netze, die der KI-Technologie zugrunde liegen.
Im Jahre 2018 erhielt Geoffrey Hinton für seine Forschungsarbeit den Turing Award. Dieser gilt allgemein als höchste Auszeichnung in der Informatik und wird umgangssprachlich als „Nobelpreis der Informatik“ bezeichnet.
Hintons Entscheidung, sich zu der Technologie zu äußern, kommt zu einer Zeit, wo bereits Gesetzgeber, Interessengruppen und Tech-Insider Alarm schlugen, weil eine neue Generation von KI-gestützten Chatbots möglicherweise Fehlinformationen verbreiten und Arbeitsplätze verdrängen könnten. In einem Interview bei MIT Technology Review äußerte Geoffrey Hinton:
„Ich habe gerade meine Ansichten darüber geändert, ob diese Dinger intelligenter sein werden als wir. Ich denke, sie sind jetzt sehr nah dran und werden in Zukunft viel intelligenter sein als wir … Wie überleben wir das?“
KI: größere Bedrohung als Klimawandel
In einem weiteren Interview mit Reuters zieht Geoffrey Hinton konkret einen Vergleich zwischen KI und dem Klimawandel als große Bedrohungen für die Menschheit:
„Ich möchte den Klimawandel nicht abwerten. Ich möchte nicht sagen: ‚Du solltest Dir keine Sorgen um den Klimawandel machen.‘ Das ist auch ein großes Risiko. Aber ich denke, das könnte am Ende akuter werden. Beim Klimawandel ist es sehr einfach zu empfehlen, was man tun sollte: einfach aufhören, Kohlenstoff zu verbrennen. Wenn man das tut, wird alles wieder in Ordnung kommen. In diesem Fall ist es überhaupt nicht klar, was man tun sollte“.
Gegenüber The New York Times führte Geoffrey Hinton aus:
„Es ist schwer vorstellbar, wie man verhindern kann, dass böse Akteure sie für böse Zwecke einsetzen. […] Ich tröste mich mit der üblichen Ausrede: Wenn ich es nicht getan hätte, hätte es jemand anderes getan“.
Dabei ist Hinton mit seinen Bedenken nicht allein. Kurz nachdem das von Microsoft unterstützte Start-up OpenAI im März sein neuestes KI-Modell GPT-4 veröffentlicht hatte, unterzeichneten mehr als 1.000 Forscher und Technologen einen offenen Brief. Darin forderten sie eine sechsmonatige Pause bei der KI-Entwicklung. Sie befürchten „tiefgreifende Risiken für die Gesellschaft und Menschlichkeit“.
Wie Reuters schreibt, ist Hinton nicht konform mit den Unterzeichnern, die KI-Forschung zu unterbrechen:
„Das ist völlig unrealistisch. Ich bin im Lager, das dies für ein existenzielles Risiko hält, und es ist nah genug, dass wir jetzt sehr hart arbeiten und viele Ressourcen darauf verwenden sollten, herauszufinden, was wir dagegen tun können. […] Die Tech-Leader haben das beste Verständnis dafür, und die Politiker müssen einbezogen werden. Es betrifft uns alle, also müssen wir alle darüber nachdenken.“
Aber auch der US-Präsident Biden führte inzwischen im Weißen Haus Gespräche mit einer Reihe von KI-Unternehmensführern. Darunter Alphabet-CEO Sundar Pichai und OpenAI-CEO Sam Altman. Biden sieht in der KI „eines der mächtigsten Werkzeuge unserer Zeit, aber um ihre Chancen zu nutzen, müssen wir zuerst ihre Risiken mindern“. Auf dem Treffen sprach er „die Bedeutung verantwortungsbewusster Innovationen und den Schutz der Rechte und Sicherheit der Menschen“ an.
