„Vertrauenswürdig“ ist gerade das Lieblingswort, wenn es um künstliche Intelligenz geht. Kaum eine Konferenz, kaum ein Whitepaper ohne „Trustworthy AI“ oder „Responsible AI“. Klingt nach Marketing – ist es aber nicht. Das Wort markiert eine echte Lücke.
Die EY-AI-Sentiment-Studie 2026 bringt es auf eine kurze Formel: hohe Nutzung, geringes Vertrauen. Wir Deutschen setzen KI längst im Alltag ein, bleiben aber skeptisch – vor allem beim Datenschutz, bei der Sicherheit und bei Entscheidungen, die eine Maschine eigenständig trifft. Mit 62 Punkten im Stimmungsindex liegt Deutschland knapp über dem weltweiten Durchschnitt, aber deutlich hinter Ländern wie Indien, China oder Japan.
Ich lese viel über Responsible AI – über Transparenz, Datenschutz und menschliche Kontrolle. Und je tiefer ich einsteige, desto öfter stelle ich mir eine ketzerische Frage: Muss eigentlich alles, was „intelligent“ wirkt, auch generative KI sein?
Das Gegenbeispiel aus der Telefonanlage
Ein ziemlich unspektakuläres, aber ehrlich gutes Beispiel kommt aus meiner eigenen Branche. Moderne Telefonanlagen erkennen, ob jemand im Büro, im Homeoffice oder unterwegs ist, und passen die Erreichbarkeit automatisch an. Ein Kalendereintrag setzt den Status auf „beschäftigt“, der Feierabend schaltet in den Nachtbetrieb, ein Standortwechsel wählt das passende Rufprofil.
Das wirkt clever, fast vorausschauend. Aber dahinter steckt keine Blackbox, kein Sprachmodell, keine Wahrscheinlichkeitsrechnung. Sondern klar definierte Regeln: Wenn A, dann B. Jede Nutzerin und jeder Nutzer kann nachvollziehen, warum das System gerade so reagiert – und es bei Bedarf überstimmen.
Niemand fragt sich hinterher: „Warum hat die KI das jetzt entschieden?“
Nachvollziehbarkeit schlägt Raffinesse
Genau hier liegt für mich der Kern von Responsible AI – egal ob mit oder ohne „AI“ im Namen. Es geht nicht darum, möglichst viel zu automatisieren. Es geht darum, das Richtige zuverlässig und nachvollziehbar zu erledigen.
Regelbasierte Automatisierung hat drei Stärken, die generative KI von Haus aus nicht mitbringt:
- Sie ist erklärbar. Jede Reaktion lässt sich auf eine Regel zurückführen.
- Sie ist vorhersehbar. Die gleiche Situation führt immer zum gleichen Ergebnis.
- Sie ist korrigierbar. Wer eine Regel ändert, ändert das Verhalten sofort und gezielt.
Das heißt nicht, dass generative KI schlecht wäre. Ich arbeite selbst täglich damit – Bilder, Videos, Texte, ein ganzes kleines KI-Team aus Assistenten. Dort, wo es um Kreativität, Varianten und Tempo geht, ist sie ein fantastisches Werkzeug. Aber nicht jedes Problem braucht ein Sprachmodell. Manchmal ist die ehrlichste Lösung eine gut gebaute Regel.
Je größer die Wirkung, desto mehr Mensch
Mein wichtigster Gedanke dazu: Verantwortung lässt sich nicht outsourcen – weder an einen Algorithmus noch an ein Sprachmodell.
Ob ein Anruf nach Feierabend auf die Mailbox geht, darf ruhig automatisch entschieden werden. Die Folgen sind überschaubar, die Regel ist klar. Bei einer Kreditentscheidung, einer Bewerberauswahl oder einer medizinischen Einschätzung sieht das anders aus. Je größer die Auswirkung einer Entscheidung, desto mehr Mensch gehört hinein.
Das deckt sich mit dem, was die EY-Studie zeigt: Die Skepsis wächst genau dort, wo Maschinen eigenständig über Wichtiges entscheiden.
Die bessere Frage für Unternehmen
In vielen Unternehmen dreht sich die Diskussion um die Frage: „Was können wir automatisieren?“ Verständlich – die Möglichkeiten sind riesig. Die bessere Frage wäre aber: „Was sollten wir automatisieren – und wie?“
Dazu gehört eine ehrliche Prüfung:
- Reicht eine klare Regel, oder brauchen wir wirklich ein lernendes System?
- Können die Betroffenen nachvollziehen, wie eine Entscheidung zustande kommt?
- Gibt es jederzeit die Möglichkeit, einzugreifen und zu korrigieren?
- Und wer trägt am Ende die Verantwortung?
Wer diese Fragen beantwortet, bevor er ein Tool einführt, schafft genau das, was laut Studie fehlt: Vertrauen.
Kurz gesagt
- In Deutschland wird KI intensiv genutzt, aber nur begrenzt vertraut – die Hauptsorgen sind Datenschutz, Sicherheit und autonome Entscheidungen.
- Nicht alles, was „intelligent“ wirkt, muss generative KI sein. Regelbasierte Automatisierung ist oft transparenter und leichter zu kontrollieren.
- Responsible AI heißt: das Richtige zuverlässig und nachvollziehbar automatisieren – nicht möglichst viel.
- Je größer die Auswirkung einer Entscheidung, desto stärker gehört der Mensch in den Prozess.
Häufige Fragen
Was bedeutet Responsible AI?
Responsible AI beschreibt den verantwortungsvollen Einsatz von KI: transparent, datenschutzkonform, sicher und mit menschlicher Kontrolle über wichtige Entscheidungen.
Ist regelbasierte Automatisierung auch KI?
Im engeren Sinne nicht – sie folgt festen Wenn-dann-Regeln, statt aus Daten zu lernen. Für viele Aufgaben ist sie aber die verlässlichere und besser nachvollziehbare Lösung.
Und wie ist das bei euch: Wird im Unternehmen eher diskutiert, was man automatisieren kann – oder was man automatisieren sollte? Ich freue mich auf den Austausch, gern direkt unter meinem Beitrag auf LinkedIn. Wie ich selbst mit KI arbeite, zeige ich hier.
