Wie gefährlich ist Künstliche Intelligenz wirklich?

Und plötzlich fühlte sich alles so an wie in einem Science-Fiction-Film: Von mehreren Seiten wurden Warnungen laut, nach denen die Künstliche Intelligenz eine sehr reale Bedrohung für die Menschheit werden könnte. Eine zehnprozentige Wahrscheinlichkeit wurde sogar dafür angegeben, dass die KI die Menschheit auslöscht. Dann trat auch noch Jacob Coxon, ein Forscher beim KI-Unternehmen Anthropic, zurück und warnte sehr medienwirksam, dass KI-Unternehmen auf eine „sich selbst verbessernde Superintelligenz“ zusteuern und dass er glaubt, dass diese „uns alle bis zum Ende des Jahrzehnts töten könnte“. Dann entkam ein außer Kontrolle geratener Schwarm von KI-Agenten bei OpenAI aus seiner Eindämmung und hackte sich in ein anderes KI-Unternehmen ein, nur um bei einem Test zu schummeln.

Selbst der amerikanische Unternehmer Elon Musk forderte daraufhin öffentlich, auf die Bremse zu treten. Was ist da also dran? Blanker Alarmismus? Reale Bedrohung? Oder nur eine üble Methode, um mehr Geld für die KI-Branche locker zu machen, die zunehmend einer Blase ähnelt? „Es ist alles sehr alarmistisch, und teilweise wird natürlich auch übertrieben“, so Teresa Staiger, Politikwissenschaftlerin und Expertin für gemeinwohlorientierte Künstliche Intelligenz vom Cyber Valley in Tübingen, dem größten Zentrum für Künstliche Intelligenz und moderne Robotik in Europa. „Ich sehe hier zwei extreme Lager: Die einen, die sagen, dass KI tatsächlich außer Kontrolle gerät, und die anderen, die darin nur einen Marketing-Kniff sehen, um den langsam versiegenden Geldfluss für diese Branche wieder zu verbreitern. Die Wahrheit liegt irgendwo dazwischen. Denn die Warnungen, die sind ja nicht neu. Vielleicht werden sie mittlerweile einfach mehr gehört. Bei uns im Cyber Valley forschen wir schon lang zu KI-Sicherheit und KI-Fehlausrichtung, also wäre es per se falsch, alle Warnungen als Science-Fiction abzutun. Doch neben diesen langfristigen Risiken sollten wir aus meiner Sicht stärker auf Gefahren schauen, die KI schon heute für uns als Gesellschaft mit sich bringt.“

Es sind also nicht Maschinen, die plötzlich ein Bewusstsein erlangen und uns im „Terminator“-Stil auslöschen. Sondern eher Sicherheitsprobleme, Probleme mit dem Datenschutz oder Fehleinschätzungen durch KI-Systeme, etwa bei dem Einsatz in der Sozialversicherung, die dann zum Nachteil vulnerabler Gruppen sind. Dabei darf man nicht vergessen: Hinter diesen Systemen stehen Unternehmen und Menschen, die über ihre Entwicklung, die Sicherheitsvorkehrungen und ihren Einsatz entscheiden. Auch sie müssen für die Folgen Verantwortung übernehmen. Dennoch steht sie im Raum, diese von einigen Forschern kolportierte Ziffer von zehn Prozent. Zehn Prozent Wahrscheinlichkeit, dass die KI die Menschheit auslöschen wird. „Ich frage mich, wie man eine solche Zahl seriös beziffern kann“, sagt Teresa Staiger.

Im allgemeinen Umgang mit KI würde sie sich wünschen, dass wir uns eher um die bereits bestehenden, sehr realen Risiken kümmern, ehe wir uns diesem Alarmismus hingeben. „Was macht KI mit unserer Gesellschaft? Welche Auswirkungen hat der KI-Einsatz bereits jetzt auf vulnerable oder marginalisierte Gruppen? Wie verändert KI-Nutzung unsere Gehirnaktivität? Was ist mit Ressourcen wie Wasser und Strom, die KI massenhaft verbraucht?“, fragt sie. Staiger fordert einen öffentlichen Diskurs, der von verschiedenen Vertretern interdisziplinär geführt wird – Industrie, Politik, Recht aber auch Ethik und den Sozialwissenschaften. Zudem: Mehr Regulierung, mehr bedachte Forschung. „Ansonsten“, sagt sie, „rollen erhebliche Gefahren auf unsere Grundrechte, auf unseren gesellschaftlichen Zusammenhalt, auf unsere Demokratie zu.“ Den Geist, so betont sie, bekommen wir schon jetzt nicht mehr zurück in die Flasche.

Also müssen wir schleunigst beginnen, mit Bedacht zu handeln. Aber kann man das überhaupt? Bedacht an etwas forschen, von dem wir absolut nicht wissen, wie es sich entwickeln wird? „Wir können zumindest Rahmenbedingungen setzen“, sagt sie. „Aber natürlich verstehe ich auch, dass man im Sinne des Fortschrittgedankens und der Wissenschaftsfreiheit weiter daran forschen muss.“ Denn selbst wenn ein Land wie die USA urplötzlich auf die Bremse tritt, heißt das ja noch lange nicht, dass die anderen Länder das auch tun.

Was Teresa Staiger aber eben auch sehr wichtig ist, ist die Verbindung zwischen KI und Gemeinwohl. Richtig eingesetzt kann KI natürlich auch sehr viel Gutes bewirken. Von Sprachassistenz bei Menschen mit Einschränkungen bis hin zu biorobotischen Assistenzsystemen, die die Tremorbewegung bei Parkinson-Patienten ausgleichen sollen, reicht das Feld positiver Anwendungsbeispiele – „wir müssen uns eben nur langsam überlegen, wie wir KI nutzen wollen: Als Gadget zum Zeitvertreib, um Bilder oder Lieder zu generieren, oder zum Wohl unserer Gesellschaft.“