Müssen wir KI fürchten?

Sprechen Sie mit Unternehmern in Hanoi oder Jakarta über künstliche Intelligenz, hören Sie oft Begeisterung. Führen Sie dasselbe Gespräch in Amsterdam, Paris oder London, ist die Stimmung vorsichtiger. Umfragen bestätigen diesen Eindruck. Im AI Index der Stanford University, der Ipsos-Daten von 2024 nutzt, sagten 83 Prozent der Menschen in China und 80 Prozent in Indonesien, KI-Produkte hätten mehr Vor- als Nachteile. In den Niederlanden waren es 36 Prozent, in Frankreich 41 Prozent, im Vereinigten Königreich 46 Prozent und in Deutschland 47 Prozent.

Die Trennlinie verläuft nicht einfach zwischen Ost und West. Das Pew Research Center stellte 2026 fest, dass die Sorge über KI in Ländern mit hohem Einkommen besonders verbreitet ist; auch Japan und Südkorea sind zurückhaltend. Zugleich wächst in Europa der Optimismus: In Frankreich stieg der Anteil derer, die mehr Vor- als Nachteile sehen, von 31 Prozent im Jahr 2022 auf 41 Prozent im Jahr 2024. Vorsicht ist keine Schwäche. Sie kann eine Stärke sein, wenn sie zu guten Entscheidungen führt statt zu Lähmung.

Die Filmversion und die echten Fragen

Das Kino hat uns Killerroboter beschert und Maschinen, die entscheiden, dass die Menschheit das Problem ist. Diese Geschichten bleiben im Gedächtnis, können aber von den Fragen ablenken, die Wissenschaftler tatsächlich untersuchen. Der International AI Safety Report, erarbeitet von mehr als 100 Fachleuten unter dem Vorsitz des Informatikers Yoshua Bengio und unterstützt von über 30 Ländern, ordnet die Risiken in drei Gruppen: böswilliger Missbrauch durch Menschen, Fehlfunktionen wie Fehler und Verzerrungen sowie weiterreichende Folgen für die Gesellschaft.

Könnte KI unserer Kontrolle entgleiten?

Zu dem Szenario, das Menschen am meisten fürchten, ist der Bericht für die Gegenwart eindeutig: Heutigen Systemen fehlen die Fähigkeiten, ein solches Risiko darzustellen. Über die Zukunft sind sich Fachleute ernsthaft uneinig. In einer großen, 2024 veröffentlichten Umfrage unter 2.778 KI-Forschenden lag der Median der Schätzungen für einen extrem schlechten Ausgang, etwa das Aussterben der Menschheit oder einen schweren Kontrollverlust, bei 5 Prozent – mit sehr großen individuellen Unterschieden. Einige führende Wissenschaftler, darunter Geoffrey Hinton und Yoshua Bengio, haben Erklärungen unterzeichnet, wonach solche Risiken eine globale Priorität sein sollten. Andere, etwa Yann LeCun, halten das Übernahmeszenario für weit hergeholt, und die Princeton-Forscher Arvind Narayanan und Sayash Kapoor argumentieren, KI sei am besten als normale Technologie zu verstehen, die wir unter Kontrolle halten können und sollten.

Was sagen die KI-Entwickler selbst? Sie sind erstaunlich offen. Anthropic hat geschrieben, dass noch niemand weiß, wie man Systeme so trainiert, dass sie sich in jeder Situation gut verhalten, und OpenAI hat gewarnt, dass eine fehlgeleitete Superintelligenz oder ein autokratisches Regime mit einem entscheidenden Vorsprung bei KI schweren Schaden anrichten könnte. Fragt man einen modernen KI-Assistenten, ob KI gefährlich werden könnte, erhält man meist eine ähnliche Antwort: eine ernste Frage, bei der Fachleute uneins sind, wobei heutige Systeme weiterhin Werkzeuge unter menschlicher Führung sind.

Waffen: teils schon Realität

Autonomie in Waffensystemen ist keine Science-Fiction. In der Ukraine hilft KI laut einem Bericht des Center for Strategic and International Studies von 2025 Drohnen auf dem letzten Stück zu einem Ziel, das ein Mensch ausgewählt hat, und erhöht so die Trefferquote erheblich. Vollständig autonomes Töten ohne menschliche Entscheidung ist nicht die dokumentierte Regel, doch die Richtung ist klar.

Die Welt versucht zu reagieren. 2024 stimmten 166 Länder für eine Resolution der UN-Generalversammlung zu tödlichen autonomen Waffen, nur drei dagegen. Der UN-Generalsekretär und die Präsidentin des Internationalen Komitees vom Roten Kreuz forderten bis 2026 einen verbindlichen Vertrag und erklärten, die autonome Zielauswahl von Menschen durch Maschinen sei eine moralische Grenze, die nicht überschritten werden dürfe. Die Gespräche in Genf endeten im September 2026 ohne Vertrag; die nächste Gelegenheit ist die Überprüfungskonferenz im November 2026. Der Verteidigungsbereich ist von der KI-Verordnung der EU ausgenommen. Dies ist also eine Sache für Regierungen und das Völkerrecht – und eine, bei der die öffentliche Meinung zählt.

Die Risiken, die schon da sind

Für die meisten von uns sind die unmittelbaren Gefahren alltäglicher. Anfang 2024 überwies ein Mitarbeiter des Ingenieurbüros Arup in Hongkong rund 25 Millionen US-Dollar nach einem Videoanruf, in dem der Finanzvorstand und die Kollegen allesamt Deepfakes waren. Der International AI Safety Report hält fest, dass kriminelle Gruppen KI bereits für Cyberangriffe nutzen. Desinformation, Fehler durch ungeprüftes Vertrauen in KI-Ergebnisse und die Konzentration von Macht in wenigen Händen sind die Sorgen, die Forschende am höchsten einstufen. In derselben Umfrage von 2024 bezeichneten 86 Prozent der Forschenden Deepfakes und Desinformation als erhebliche oder extreme Sorge.

Schutz ist möglich

Europa steht nicht still. Seit Februar 2025 verbietet die KI-Verordnung der EU Praktiken wie Social Scoring und manipulative KI, und Anbieter von KI-Modellen mit allgemeinem Verwendungszweck haben nun Pflichten zu Transparenz und Sicherheit. Das Rahmenübereinkommen des Europarats ist der erste verbindliche internationale Vertrag zu KI, und Regierungen haben Institute für KI-Sicherheit gegründet. Nichts davon ist perfekt, aber es ist ein Fundament.

Auch Unternehmen können sich schützen, vor allem mit vernünftigen Gewohnheiten. Bestätigen Sie jede Zahlungsaufforderung und jede Änderung der Bankverbindung durch einen Rückruf unter einer bekannten Nummer. Schulen Sie Ihre Mitarbeitenden darin, Deepfakes und geklonte Stimmen zu erkennen. Halten Sie vertrauliche Daten aus öffentlichen KI-Tools heraus. Lassen Sie wichtige KI-Ergebnisse von einem Menschen prüfen. Und sorgen Sie dafür, dass alle die Werkzeuge verstehen, die sie nutzen.

Jetzt sorgen oder jetzt vorsorgen?

Wir meinen: Angst ist ein schlechter Ratgeber, Gleichgültigkeit ebenso. Die ernsten Szenarien treten heute nicht ein, und Wissenschaftler sind sich einig, dass an der Zukunft der KI nichts unausweichlich ist. Genau deshalb kommt es auf die Gegenwart an. Welche Richtung KI nimmt, hängt von heutigen Entscheidungen ab: von Regierungen bei Waffen und Aufsicht, von Entwicklern bei der Sicherheit und von jedem Unternehmen dabei, wie es diese Werkzeuge nutzt. Ruhige Aufmerksamkeit und vernünftige Vorsorge sind besser als Panik oder Sorglosigkeit.

Veröffentlicht am 1. Oktober 2026 · © 2026 Habsburg Digital Ltd