„Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte.“ Diesen Satz schrieb Evan Hubinger, bei Anthropic für die Alignment-Forschung verantwortlich, am 9. September 2026 auf X. Er selbst schätzt die Wahrscheinlichkeit, dass es innerhalb des nächsten Jahrzehnts so kommt, auf über zehn Prozent (Bericht bei finanzen.at).
Wenige Tage später hielt Nvidia-Chef Jensen Huang dagegen: Die Wahrscheinlichkeit, dass 2030 das Ende der Welt sei, liege bei null Prozent (PC Games Hardware). Brisant daran: Nvidia gehört seit November 2025 selbst zu den Geldgebern von Anthropic (CNBC). Zwei Stimmen aus demselben Kosmos, zwei Zahlen, die weiter auseinander nicht liegen könnten.
Ein Widerspruch, den ich mehrfach lesen musste
Ich habe diese Meldungen mehr als einmal gelesen, weil ich sie kaum glauben konnte. Da sagt jemand, der an genau dieser Technologie arbeitet, öffentlich, dass sie uns womöglich alle umbringt. Und gleichzeitig arbeite ich – wie viele in der Kommunikationsbranche – jeden Tag daran, dass Kolleginnen und Kollegen KI als ganz normales Arbeitswerkzeug annehmen. Als etwas, das Routinearbeit abnimmt, Ideen anstößt und Zeit für das Wesentliche schafft.
Passt das zusammen? Ich finde: ja. Aber nur, wenn man genauer hinschaut, wer da eigentlich was entscheidet – und warum solche Sätze überhaupt gesagt werden.
Nicht die Maschine drückt den Knopf
Mein Standpunkt ist schlicht: Nicht Algorithmen töten, nicht Serverfarmen und auch kein KI-gesteuerter Roboter. Am Ende drückt immer ein Mensch einen Knopf, schreibt einen Prompt, gibt ein System frei oder entscheidet, wofür es eingesetzt wird. Die Verantwortung liegt bei uns – bei denen, die KI bauen, und bei denen, die sie nutzen.
Das heißt nicht, dass es keine Risiken gibt. Deepfakes für Betrug, automatisierte Desinformation, Systeme, die ohne ausreichende Kontrolle Entscheidungen treffen: Das sind reale Probleme. Nur haben sie alle eines gemeinsam – hinter ihnen steckt menschliche Absicht oder menschliche Nachlässigkeit. Genau da müssen Regeln, Kontrolle und Verantwortung ansetzen.
Warum solche Sätze trotzdem fallen
Spannend finde ich, dass in der Berichterstattung ziemlich offen diskutiert wird, warum KI-Firmen selbst vor ihrer eigenen Technologie warnen. Rasmus Rothe vom KI-Bundesverband vermutet dahinter „knallharte wirtschaftliche Interessen“ (finanzen.at). Drei Erklärungen tauchen immer wieder auf:
- Kommerzielle Anreize: Wer als besonders verantwortungsvoll gilt, gewinnt Vertrauen bei Kunden, Investoren und Regulierern – gerade vor einem Börsengang.
- Der Wettlauf-Gedanke: „Lieber entwickeln wir es als die Konkurrenz, die weniger vorsichtig ist.“ Die Warnung wird so zur Begründung, noch schneller zu sein.
- Recruiting: Viele KI-Forschende kommen aus der Wissenschaft und wollen etwas Sinnvolles tun, nicht bloß reich werden. „Hilf uns, die Welt zu retten“ zieht da besser als „Wir bauen die profitabelste Maschine der Geschichte“.
Fairerweise gehört dazu: Viele Menschen in diesen Unternehmen haben diese Sorgen ganz sicher ehrlich. Beides kann gleichzeitig stimmen. Und auch wer abwiegelt, hat Interessen – ein Chiphersteller verkauft schließlich mehr, wenn niemand bremst. Die Wahrheit liegt vermutlich weder bei zehn noch bei null Prozent, sondern in der Frage, wie wir mit der Technik umgehen.
Was mir wirklich Sorgen macht
Mehr als jedes Weltuntergangsszenario beschäftigt mich etwas viel Alltäglicheres: die Kommentarspalten unter KI-generierten Bildern und Videos auf Instagram, Facebook und Co. Dort wird massenhaft an „echte“ Aufnahmen geglaubt, die ganz offensichtlich künstlich erzeugt wurden. Diese Lücke bei der Medienkompetenz halte ich für das deutlich drängendere Problem – mehr dazu in meinem Artikel „Die Lücke vor unserer Nase“.
Denn wer KI-Inhalte nicht erkennt, ist für Manipulation empfänglich – ganz ohne Superintelligenz. Das Risiko sitzt nicht in einer fernen Zukunft, sondern heute im Feed.
Berechtigte Sorgen verdienen bessere Worte
Dass es berechtigte Sorgen um Sicherheit und Missbrauch gibt, steht für mich außer Frage. Aber tut man ihnen einen Gefallen, wenn man sie in Schlagzeilen wie „KI wird alle Menschen töten“ verpackt und mit seriös wirkenden Prozentzahlen unterfüttert? Ich bezweifle das stark. Eine solche Zahl ist eine persönliche Einschätzung, kein Messwert – wirkt aber wie einer.
Solche Schlagzeilen erzeugen entweder Angst oder Abstumpfung. Beides hilft niemandem. Was hilft, sind konkrete Risiken, konkrete Regeln und klare Verantwortlichkeiten – so, wie ich es in meinem Beitrag über Responsible AI beschrieben habe. Und Menschen, die KI im Alltag kennenlernen, statt sie nur aus Horrormeldungen zu kennen. Wie ich selbst damit arbeite, zeige ich hier.
Kurz gesagt
- Ein Anthropic-Forscher schätzt das Risiko, dass KI die Menschheit auslöscht, auf über zehn Prozent – der Nvidia-Chef auf null.
- Nicht KI entscheidet, sondern Menschen: Verantwortung, Regeln und Kontrolle setzen beim Menschen an.
- Hinter öffentlichen KI-Warnungen stehen oft auch wirtschaftliche, strategische und personelle Interessen.
- Die fehlende Medienkompetenz im Umgang mit KI-Content ist ein akuteres Problem als jedes Endzeitszenario.
Häufige Fragen
Wird KI die Menschheit auslöschen?
Seriös beziffern kann das niemand. Die genannten Prozentwerte sind persönliche Einschätzungen einzelner Fachleute und gehen weit auseinander. Konkrete Risiken wie Missbrauch und Desinformation sind dagegen schon heute real.
Warum warnen KI-Unternehmen vor ihrer eigenen Technologie?
Neben ehrlicher Sorge spielen oft auch Vertrauen bei Investoren und Regulierern, der Wettbewerb um die Technologieführerschaft und die Gewinnung von Fachkräften eine Rolle.
Wie erlebt ihr das? Schürt diese Panikmache bei euch eher Skepsis gegenüber KI im Job, oder nehmt ihr das komplett getrennt voneinander wahr? Ich freue mich auf den Austausch unter meinem Beitrag auf LinkedIn.
