KI zwischen Befreiung und Kontroll­maschine

In den vergangenen Wochen fanden in Berlin mehrere Veranstaltungen statt, die kaum unterschiedlicher hätten sein können.

Auf der einen Seite große KI-Industriekonferenzen wie „Rise of AI" (5.–6. Mai 2026), bei denen Unternehmen, Investor:innen und Tech-Konzerne über Innovation, Wachstum und Europas Rolle im globalen KI-Wettbewerb diskutierten. Auf der anderen Seite Veranstaltungen wie „Cables of Resistance" (10.–12. April 2026) – eine Bewegungskonferenz gegen Big Tech, bei der Hacker:innen, Künstler:innen, Aktivist:innen und netzpolitische Gruppen über die gesellschaftlichen Folgen von Digitalisierung, Überwachung und KI sprachen. Einordnung bei Netzpolitik.org →

Diese Gegenüberstellung beschreibt ziemlich genau den aktuellen Zustand der KI-Debatte: Für die einen ist KI die nächste große technologische Revolution. Für die anderen ist sie ein Werkzeug zur Automatisierung von Kontrolle, Überwachung und Macht.

Und wahrscheinlich steckt in beiden Perspektiven Wahrheit.

Die eigentliche Gefahr ist nicht Science-Fiction

Wenn über KI gesprochen wird, dominieren oft extreme Zukunftsszenarien: Superintelligenzen, Maschinenherrschaft oder das Ende der Menschheit. Doch viele Kritiker:innen weisen darauf hin, dass die eigentlichen Probleme längst Realität sind.

Der Philosoph und KI-Ethiker Rainer Mühlhoff fragt in seinem Buch Künstliche Intelligenz und der neue Faschismus, wie sich „faschistische Tendenzen" im Zusammenspiel von Tech-Industrie und neuer Rechter erkennen lassen. Zentral ist dabei auch seine Kritik, dass Spekulationen über KI als Erlösung oder Auslöschung von den bereits bestehenden gesellschaftlichen Schäden durch KI ablenken.

Damit verschiebt sich der Fokus: Weg von futuristischen Fantasien – hin zu sehr realen Fragen von Macht, Überwachung und gesellschaftlicher Kontrolle. Rezension bei heise online →

Warum viele Netzaktivist:innen KI kritisch sehen

Auch Gruppen aus dem Umfeld des Chaos Computer Club, von Netzpolitik.org oder AlgorithmWatch warnen seit Jahren vor einer unkritischen KI-Euphorie. Dabei geht es oft um ganz konkrete Entwicklungen.

KI-gestützte Überwachung

Gesichtserkennung, automatische Verhaltensanalyse und biometrische Datenauswertung werden weltweit massiv ausgebaut. Der Chaos Computer Club kritisiert insbesondere den Einsatz biometrischer Überwachungssysteme und bezeichnet entsprechende Ausbaupläne staatlicher Überwachung als gefährlich und demokratiegefährdend. Die Gefahr besteht dabei nicht nur in der Technologie selbst, sondern darin, dass Menschen sich verändern, sobald sie ständig beobachtet und algorithmisch bewertet werden.

Machtkonzentration bei Big Tech

Wenige Konzerne kontrollieren heute einen Großteil der KI-Infrastruktur: OpenAI, Microsoft, Google, Meta, Amazon. Diese Unternehmen besitzen die Rechenzentren, die Trainingsdaten, die Plattformen und zunehmend auch die Werkzeuge zur Informationsproduktion. Damit entsteht eine neue Form digitaler Machtkonzentration. Gerade kritische Stimmen aus Netzpolitik und Wissenschaft warnen davor, dass demokratische Gesellschaften zunehmend von privaten Technologieunternehmen abhängig werden.

Automatisierung von Propaganda und Manipulation

Generative KI kann heute Texte, Bilder, Videos und Stimmen in riesigen Mengen produzieren. Mehrere Studien belegen seit Jahren, dass sich Sprachmodelle zur automatisierten Desinformation, politischen Manipulation und Radikalisierung einsetzen lassen: von früher Forschung zu extremistischen Texten mit GPT-3 (2020) über den Nachweis, dass aktuelle Sprachmodelle überzeugende Falschnachrichten zu gefährlichen Desinformations-Narrativen erzeugen (2023), bis zu Untersuchungen, wonach Sprachmodelle Inhalte für Wahl-Desinformation in menschenununterscheidbarer Qualität liefern (2024). Die Frage lautet deshalb nicht mehr, ob KI missbraucht werden kann – sondern wie Gesellschaften damit umgehen, wenn Manipulation extrem billig, schnell und skalierbar wird.

Aber: Die Technologie wird nicht verschwinden

Und genau hier wird die Debatte kompliziert. Denn selbst wenn man KI kritisch sieht: Die Entwicklung wird sich kaum stoppen lassen. Staaten werden nicht freiwillig auf KI verzichten, solange andere Staaten sie weiterentwickeln. Konzerne werden nicht auf Milliardenmärkte verzichten. Und Millionen Menschen nutzen KI längst täglich.

Die entscheidende Frage lautet deshalb nicht mehr: „Soll KI existieren?"

Warum unabhängige KI-Nutzung wichtig wird

Gerade deshalb wird technologische Selbstbestimmung immer wichtiger. Wenn KI ohnehin Teil unserer Gesellschaft wird, dann braucht es Menschen, die verstehen wie diese Systeme funktionieren, sie kritisch hinterfragen, sie unabhängig nutzen können und Alternativen zu monopolisierten Plattformen aufbauen.

Das kann bedeuten: Open-Source-KI, lokale Modelle, datenschutzfreundliche Systeme, öffentliche digitale Infrastruktur, demokratische Kontrolle, digitale Bildung statt bloßer Konsum. Der Grundgedanke dahinter ist simpel: Technologie sollte Menschen befähigen — nicht sie kontrollieren.

Fazit

KI ist wahrscheinlich gleichzeitig eine enorme technologische Chance, ein Werkzeug für Bildung und Zugang, ein Instrument wirtschaftlicher Macht und potenziell eine massive Gefahr für demokratische Gesellschaften. Beides kann gleichzeitig wahr sein.

Wer KI einfach nur feiert, ignoriert ihre Risiken. Wer KI einfach nur ablehnt, ignoriert die Realität.

Die eigentliche Herausforderung besteht darin, Technologien zu verstehen, bevor sie ausschließlich von Konzernen, Militärs oder autoritären Systemen kontrolliert werden. Denn am Ende entscheidet sich die Zukunft vielleicht nicht daran, ob KI existiert — sondern daran, wem sie gehört.