Viele dieser dramatischen KI‑Untergangsszenarien wirken auf mich wie eine Mischung aus Marketing und prophylaktischer Schuldentlastung, als würde man sich schon jetzt die passende Geschichte zurechtlegen, damit später niemand wirklich verantwortlich sein muss. Aber ich muss zugeben, es gibt da durchaus diesen Gedanken, der mich nicht loslässt: Was machen wir mit einem Risiko, das wir nicht genau beziffern können, das aber eben nicht bei null liegt?
Die grosse KI‑Katastrophe klingt nach Science‑Fiction, ist aber nicht völlig abwegig. Hochkompetente Systeme können dort Fehler und Ausfälle verursachen, wo es richtig weh tut: im Stromnetz, im Gesundheitswesen, im Finanzsystem oder auf dem Schlachtfeld. Jede Geschichte darüber ist diskutierbar, aber niemand kann ehrlich sagen: „Das ist garantiert unmöglich.“
Unser Reflex ist, zu rechnen. Wahrscheinlichkeiten, Modelle, Tabellen. Bei KI hilft, das nur begrenzt. Wir wissen schlicht nicht, wie die Modelle und Architekturen aussehen werden, über die wir in zehn oder zwanzig Jahren reden. Wir wissen nicht, welche politischen Regime sie einsetzen, welche Unternehmen sie kontrollieren, in welche Sicherheitskultur sie eingebettet sind. Die Unsicherheit ist Teil des Systems. Heisst das, wir warten, bis wir bessere Daten haben? Ich halte das für gefährlich. Wenn der mögliche Schaden existenziell ist, reicht eine kleine, nicht ausschliessbare Wahrscheinlichkeit, um genauer hinzuschauen. „Grösser als null“ ist dann ein Grund, aufmerksam und kritisch zu bleiben.
Und wir müssen gar nicht in die Zukunft springen. In meinem Alltag sehe ich, wie KI-Arbeit und Entscheidungen verändert. Texte, die früher einen Abend gekostet haben, entstehen in Minuten. Abläufe laufen automatisch, Vorschläge kommen von Systemen, bevor jemand nachdenkt. Das ist praktisch, bequem und… verschiebt Macht. Wer die Infrastruktur besitzt und die Trainingsdaten kontrolliert, beeinflusst, wie wir die Welt sehen und wer überhaupt sichtbar wird!
Gleichzeitig ist unsere digitale Infrastruktur löchrig. Die ständige Flut von Updates und Patches erinnert uns daran, dass vieles provisorisch ist. KI‑Systeme werden darauf trainiert, diese Lücken effizient zu finden und zu schliessen. Je mehr wir ihnen das überlassen, desto grösser wird die Gefahr, dass sich Verhaltensweisen respektive Gewichtungen herausbilden, die niemand geplant hat, emergente Effekte, die wir erst bemerken, wenn sie schon wirken.
Die eigentliche Frage lautet deshalb: Wie schnell wollen wir das alles? Sollen Unternehmen jede neue Funktion sofort ausrollen, nur weil sie technisch möglich ist? Sollen Staaten militärische KI entwickeln, bevor Regeln stehen? Sollen Schulen KI‑Tools flächendeckend einsetzen, ohne zu klären, was das mit Bildungsidealen macht? „Tempo runter“ heisst nicht „Stop“. Es heisst, bewusst zu wählen, wo wir Gas geben und wo nicht. Es heisst aber auch, dass Politik, Gerichte, Wissenschaft und Zivilgesellschaft sich jetzt einmischen! Verantwortung übernehmen! Und es heisst, auszuhalten, dass wir uns selbst begrenzen, obwohl mehr möglich wäre. Eine anachronistische Überlegung, ich bin mir dessen bewusst.
KI kann viel: Arbeit erleichtern, Kreativität öffnen, Zugänge zu Wissen schaffen. Gerade deshalb ist die Frage nach dem Tempo entscheidend. Zu viel Bremse verschenkt Chancen, zu wenig Bremse erhöht Risiken. Dazwischen liegt die Kunst. Vielleicht zeigt sich unsere Reife im KI‑Zeitalter daran, ob wir Verantwortung übernehmen, obwohl die Zahlen unscharf sind und ob wir akzeptieren, dass „grösser als null“ manchmal reicht, um langsamer zu werden.
Weiterdenkanstösse:
- Konkrete Politik: Wie könnten konkrete Regulierungsinstrumente (Gesetze, Abkommen, Institutionen) aussehen?
- Arbeitsmarktfolgen: Welche Auswirkungen haben die Automatisierung auf unser Wirtschafts- und Arbeitsleben?
- Globale Perspektive: Mein Blick ist europäisch und demokratisch geprägt, wie sehen Szenarien und Lösungsansätze im Rahmen autoritärer Kontexte und globaler Machtasymmetrien aus?
Bildquelle
- Bild ist KI-generiert und im Urheberrecht von Mathan