Die Frage, die nach einer Million Newtons übrig blieb
Vor einiger Zeit habe ich hier über eine Million Newtons geschrieben. Natürlich nicht über eine Million wiederauferstandene englische Physiker mit Perücken und offenbar unbegrenzter Freizeit, sondern über eine Entwicklung der künstlichen Intelligenz, die mir wichtiger erscheint als die ewige Frage, wann eine Maschine endlich schlauer sein wird als wir. Vielleicht muss sie das nämlich gar nicht sein. Vielleicht reicht es, wenn sehr viele ausreichend leistungsfähige künstliche Problemlöser gleichzeitig arbeiten können.
Der damalige Ausgangspunkt waren Tausende KI-Agenten, die parallel mathematische und wissenschaftliche Probleme bearbeiten. Nicht jeder dieser Agenten muss ein Genie sein. Viele können scheitern. Einige können Unsinn produzieren. Aber wenn zehntausend verschiedene Lösungswege gleichzeitig untersucht werden und 9.999 davon nirgendwohin führen, kann der eine verbleibende Weg trotzdem reichen.
Das war der Gedanke hinter der Million Newtons: Nicht nur Intelligenz könnte sich verändern. Problemlösungsfähigkeit könnte vervielfältigt werden. Am Ende dieses Beitrags blieb deshalb eine Frage übrig, die mir inzwischen wesentlich unangenehmer erscheint als damals: Wer besitzt diese Million Newtons?
Wer besitzt die Rechenzentren? Wer kontrolliert die Modelle? Wer gibt ihnen Zugriff auf Werkzeuge und Informationen? Wer formuliert ihre Aufgaben? Und wer entscheidet, wann sie aufhören? Damals war das noch der Blick über den Rand eines Beitrags, der sich vor allem mit Forschung beschäftigte. Inzwischen glaube ich, dass genau dort der interessantere Teil der Geschichte beginnt.
Vielleicht reden wir über die falsche Gefahr
Wenn über die Gefahren künstlicher Intelligenz gesprochen wird, landet man erstaunlich schnell beim Ende der Menschheit. Geoffrey Hinton warnt vor Systemen, die intelligenter werden könnten als wir. Yoshua Bengio beschäftigt sich intensiv mit Kontrollverlust und KI-Agenten, die sich anders verhalten könnten, als ihre Entwickler es beabsichtigt haben. Andere führende Köpfe der Branche sprechen über biologische Gefahren, Cyberangriffe, autonome Systeme und eine mögliche künstliche Superintelligenz.
Das sind keine Leute, die morgens mit einem Pappschild vor einem Rechenzentrum stehen und vor Maschinenwesen aus der Zukunft warnen. Viele von ihnen haben entscheidend dazu beigetragen, die Technologie zu entwickeln, vor deren möglichen Folgen sie heute warnen. Man sollte ihnen deshalb zuhören. Man sollte ihnen nur nicht automatisch glauben.
Auch ein Nobelpreisträger besitzt keinen Reisebericht aus dem Jahr 2035. Auch ein führender KI-Forscher weiß nicht, ob eine zukünftige künstliche Intelligenz eigene Ziele entwickeln, menschliche Kontrolle umgehen oder eines Tages tatsächlich zu einer existenziellen Gefahr werden wird. Genau darüber herrscht unter Fachleuten erheblicher Streit.
Der International AI Safety Report 2026 formuliert diese Unsicherheit bemerkenswert nüchtern. Einige Forscher halten einen zukünftigen Kontrollverlust für ein ernst zu nehmendes Risiko, dessen Folgen bis zur Auslöschung der Menschheit reichen könnten. Andere halten solche Szenarien für unplausibel. Gegenwärtige Systeme besitzen nach Einschätzung des Berichts nicht die notwendigen Fähigkeiten, um einen solchen Kontrollverlust herbeizuführen.
Das sollte man deutlich sagen. Aber unmittelbar danach steht eine zweite Wahrheit: Wir brauchen überhaupt keine außer Kontrolle geratene Superintelligenz, um ein ernsthaftes Problem zu bekommen. Es könnte vollkommen genügen, wenn die KI unter Kontrolle bleibt.
Die gehorsame Maschine
Dieser Gedanke klingt zunächst widersinnig. Seit Jahrzehnten erzählt Science-Fiction Geschichten über Maschinen, die sich gegen ihre Erfinder wenden. HAL weigert sich, Befehle auszuführen. Skynet entscheidet, dass die Menschheit ein Problem darstellt. Computer entwickeln Bewusstsein, Roboter rebellieren, irgendeine rote Lampe beginnt bedrohlich zu blinken und spätestens dann weiß der Zuschauer, dass der Abend für die menschliche Zivilisation eher ungünstig verlaufen wird.
Vielleicht ist das nicht die Gefahr, die uns zuerst beschäftigen sollte. Stellen wir uns stattdessen eine künstliche Intelligenz vor, die überhaupt nicht rebelliert. Sie entwickelt keinen Hass auf Menschen. Sie verlangt keine Rechte. Sie besitzt keinen geheimen Plan. Sie möchte nicht Präsident werden, die Weltherrschaft übernehmen oder den Toaster befreien.
Sie tut einfach, was man ihr sagt. Sehr gut, sehr schnell und irgendwann vielleicht millionenfach gleichzeitig. Dann hängt die Gefahr nicht davon ab, was die Maschine will. Sie hängt davon ab, wer ihr sagt, was sie wollen soll.
Das ist ein wesentlich unspektakuläreres Szenario als die Rebellion der Maschinen. Und gerade deshalb halte ich es inzwischen für eines der interessanteren. Denn den Menschen, der anderen Menschen schaden möchte, müssen wir nicht erst erfinden. Den gibt es bereits.
Der Mensch braucht keine künstliche Bosheit
Staaten betreiben Spionage. Geheimdienste sammeln Informationen. Unternehmen versuchen, Konkurrenten zu überholen. Kriminelle suchen nach profitablen Schwachstellen. Militärs entwickeln Waffen. Werbeunternehmen versuchen herauszufinden, wie sich Kaufentscheidungen beeinflussen lassen. Politische Organisationen wollen Menschen überzeugen. Vermögende Menschen verwenden einen Teil ihres Vermögens, um wirtschaftlichen, gesellschaftlichen oder politischen Einfluss auszuüben.
Nichts davon hat die künstliche Intelligenz erfunden. Die interessante Frage lautet deshalb nicht nur, ob KI irgendwann ebenfalls schlechte Absichten entwickelt. Die nähere Frage könnte sein, was geschieht, wenn sie unsere bereits vorhandenen Absichten skaliert.
Der International AI Safety Report unterscheidet inzwischen drei grundsätzlich verschiedene Risikogruppen: den absichtlichen Missbrauch von KI durch Menschen, Fehlfunktionen bis hin zu einem hypothetischen Kontrollverlust und systemische Risiken, die aus der breiten Nutzung leistungsfähiger KI entstehen können. Diese Unterscheidung ist wichtig.
Denn wenn wir alles unter der Überschrift „Gefahr durch KI“ zusammenwerfen, tun wir so, als handle es sich um dasselbe Problem. Das tut es nicht. Ein KI-System, das sich menschlicher Kontrolle entzieht, wäre ein vollkommen anderes Problem als ein KI-System, das von einem Geheimdienst exakt so eingesetzt wird, wie dieser Geheimdienst es vorgesehen hat.
Im zweiten Fall funktioniert die Technik möglicherweise tadellos. Das Problem sitzt vor dem Bildschirm.
Wir müssen nicht einmal mehr ausschließlich spekulieren
Während ich für diesen Beitrag recherchierte, stieß ich auf einen Bericht von Anthropic aus dem September 2026. Das Unternehmen beschreibt darin Fälle, in denen seine eigenen KI-Systeme von mutmaßlich staatlich unterstützten Akteuren, Kriminellen, kommerziellen Überwachungsunternehmen und anderen Gruppen missbraucht wurden.
Besonders interessant ist dabei weniger der einzelne Cyberangriff als die Organisation der Arbeit. In einer mutmaßlich staatlich verbundenen Spionageoperation liefen verschiedene Aufgaben gleichzeitig. Ein Arbeitsstrang beschäftigte sich mit dem Eindringen in Computersysteme. Ein anderer betrieb Aufklärung über ausländische Regierungen. Weitere suchten nach Sicherheitslücken, entwickelten Schadsoftware oder bauten die notwendige Infrastruktur auf.
Dabei kamen sogenannte Agentenschwärme zum Einsatz. Ein übergeordneter Agent zerlegte Aufgaben und verteilte sie auf mehrere Unteragenten, die parallel arbeiteten. Informationen über Ziele, bereits erbeutete Zugangsdaten, den Stand einzelner Operationen und weitere Anweisungen konnten über Arbeitssitzungen hinweg erhalten bleiben.
Das ist noch keine Million Newtons. Aber das Prinzip ist dasselbe. Anthropic beschreibt außerdem eine Entwicklung, die für unsere Frage vielleicht noch bedeutender ist: KI kann einen Teil jener personellen und technischen Hürde verkleinern, die früher gut ausgestattete staatliche Operationen von kleineren Akteuren unterschied. Recherche, Angriffsvorbereitung, Softwareentwicklung und die Verarbeitung großer Datenmengen können zunehmend an Systeme delegiert werden, die parallel und mit Maschinengeschwindigkeit arbeiten.
Das bedeutet nicht, dass heute jeder Mensch mit einem Laptop plötzlich die Fähigkeiten eines Geheimdienstes besitzt. Es bedeutet etwas anderes: Macht könnte billiger werden. Und wenn sich künstliche Arbeitskraft ausreichend vervielfältigen lässt, könnte Macht nicht nur billiger werden. Sie könnte skalierbar werden.
Was früher hundert Menschen brauchte
Hier liegt möglicherweise eine der größten Veränderungen, über die wir noch viel zu wenig sprechen. Macht war immer auch eine Frage verfügbarer Menschen.
Ein Geheimdienst benötigt Analysten. Eine Forschungsabteilung benötigt Wissenschaftler. Ein Cyberkommando benötigt Spezialisten. Eine Propagandaorganisation benötigt Menschen, die Medien beobachten, Zielgruppen analysieren, Texte verfassen, übersetzen und Reaktionen auswerten.
Menschen sind erstaunlich leistungsfähig. Aber sie haben einen lästigen Konstruktionsfehler: Sie sind nicht beliebig kopierbar.
Man kann einen hervorragenden Analysten nicht markieren, auf „Duplizieren“ klicken und anschließend 50.000 Kopien von ihm in einem Gebäude unterbringen. Menschen müssen ausgebildet werden. Sie schlafen. Sie werden krank. Sie kündigen. Sie verlangen Gehalt. Manche möchten Wochenende. Einige haben sogar eigene Meinungen, was aus Sicht autoritärer Arbeitgeber seit Jahrhunderten als unnötiges Zusatzfeature betrachtet wird.
Software besitzt einige dieser Einschränkungen nicht. Natürlich besitzt sie andere. KI braucht Chips, Energie, Rechenzentren, Daten, Modelle und technische Infrastruktur. Eine Million Agenten entstehen nicht kostenlos durch dreimaliges Klicken auf „Kopieren“.
Aber die Grenze ist eine andere. Wenn ein leistungsfähiger Agent einmal existiert, muss der zweite nicht noch einmal zwanzig Jahre zur Schule, studieren und Berufserfahrung sammeln. Er braucht vor allem Rechenleistung.
Wenn Aufmerksamkeit nicht mehr knapp ist
Vielleicht lässt sich die Veränderung noch einfacher erklären. Stellen wir uns einen Geheimdienst vor, der Informationen über Menschen sammeln möchte.
Er kann nicht jeden Menschen gleich intensiv untersuchen. Also muss er auswählen. Wer ist wichtig genug? Ein Minister vielleicht. Ein General. Ein Wissenschaftler. Der Vorstand eines strategisch bedeutenden Unternehmens. Ein Mitarbeiter in einer kritischen Behörde.
Nicht unbedingt deshalb, weil über alle anderen nichts herauszufinden wäre, sondern weil menschliche Aufmerksamkeit teuer ist. Wenn eine gründliche Untersuchung einer Zielperson mehrere Analysten wochenlang beschäftigt, kann auch ein großer Geheimdienst davon nur eine begrenzte Zahl durchführen.
Was passiert aber, wenn sich ein erheblicher Teil dieser Arbeit automatisieren lässt? Dann könnte aus der Frage „Welche 500 Personen sind wichtig genug, um sie genau zu untersuchen?“ irgendwann eine andere werden: „Warum nicht 500.000?“
Das ist keine Behauptung darüber, was heutige Systeme zuverlässig leisten können. Es ist eine Konsequenz, die wir untersuchen müssen, wenn die Kosten maschineller Analyse weiter sinken und ihre Fähigkeiten weiter steigen.
Denn dann verschiebt sich nicht einfach eine Zahl. Eine bisherige Grenze könnte verschwinden: die Knappheit von Aufmerksamkeit. Und wenn Aufmerksamkeit nicht mehr knapp ist, kann Überwachung eine andere Größenordnung erreichen.
Nicht Intelligenz allein – Organisation
Genau deshalb erscheint mir die ewige Diskussion darüber, wann KI einen menschlichen IQ übertrifft, zunehmend zu klein.
Eine Armee besteht schließlich auch nicht deshalb aus einer Armee, weil jeder Soldat Napoleon ist. Ein Geheimdienst funktioniert nicht deshalb, weil jeder Mitarbeiter ein Genie ist. Ein Unternehmen mit hunderttausend Beschäftigten ist nicht deshalb mächtig, weil jeder Einzelne außergewöhnlich intelligent wäre.
Leistungsfähigkeit entsteht aus Spezialisierung, Organisation, Kommunikation, Arbeitsteilung, Werkzeugen, Ressourcen und der Fähigkeit, viele Menschen auf ein gemeinsames Ziel auszurichten. Warum sollte das bei künstlichen Agenten grundsätzlich anders sein?
Ein Agent beobachtet Nachrichten. Einer durchsucht wissenschaftliche Veröffentlichungen. Einer analysiert Unternehmensregister. Einer untersucht soziale Netzwerke. Einer vergleicht Aussagen. Einer sucht Widersprüche. Einer erstellt Hypothesen. Zehn andere versuchen, diese Hypothesen zu widerlegen. Weitere beobachten die Reaktion auf eine Aktion und passen die nächste daran an.
Keiner davon muss Einstein sein. Vielleicht müssen sie nur gut genug sein – und zahlreich genug.
Hinzu kommt etwas, das bei der bloßen Zahl künstlicher Agenten leicht übersehen wird. Angenommen, ein Staat verfügt über einen außergewöhnlich guten Cyberexperten. KI muss diesen Menschen gar nicht ersetzen. Wenn zehntausend Agenten ihm Recherche, Routineprüfungen, Variantenbildung, Dokumentation und erste Analysen abnehmen, kann der Mensch seine Zeit auf jene Probleme konzentrieren, an denen die Systeme scheitern.
Die knappe menschliche Spitzenleistung verschwindet dadurch nicht. Sie bekommt einen Multiplikator. Vielleicht ist genau diese Kombination kurzfristig sogar bedeutender als die Vorstellung von zehntausend künstlichen Genies.
Den Feind kennen
Seit Menschen Kriege führen, versuchen sie herauszufinden, wer ihnen gegenübersteht. Welche Truppen besitzt der Gegner? Welche Waffen? Welche wirtschaftlichen Reserven? Welche politischen Konflikte gibt es innerhalb des Landes? Welche Personen treffen Entscheidungen? Wem vertrauen sie? Wo liegen Abhängigkeiten? Wer lässt sich beeinflussen? Welche Information ist wertvoll und welche nur Lärm?
Spionage war deshalb immer ein Problem aus zwei Teilen: Informationen beschaffen und Informationen verstehen.
Gerade der zweite Teil besitzt eine natürliche menschliche Grenze. Man kann Millionen Dokumente besitzen und trotzdem nicht wissen, was darin verborgen ist. Geheimdienste sammeln seit Jahrzehnten mehr Informationen, als Menschen vollständig auswerten können.
KI könnte genau diese Grenze verschieben. Nicht weil sie plötzlich allwissend wäre, sondern weil sie suchen, sortieren, vergleichen, übersetzen, Beziehungen erkennen, Widersprüche markieren und Hypothesen erzeugen kann – und weil viele Systeme diese Aufgaben gleichzeitig erledigen können.
Was passiert, wenn ein Staat nicht mehr hundert Analysten auf ein anderes Land ansetzen kann, sondern zehntausend künstliche? Was passiert, wenn er nicht nur Minister, Generäle oder Unternehmenschefs untersucht, sondern zehntausende oder irgendwann hunderttausende Personen gleichzeitig? Und was passiert, wenn aus jeder gefundenen Verbindung automatisch die nächste Frage entsteht?
Dann reden wir nicht mehr nur über schnellere Recherche. Wir reden über die Möglichkeit, Wissen über einen Gegner in einer Geschwindigkeit und Tiefe zu erzeugen, die bislang allein aus personellen Gründen kaum erreichbar war.
Die gefährlichste Hochrechnung ist nicht automatisch die dümmste
An dieser Stelle müssen wir vorsichtig werden. Wir wissen nicht, was KI-Systeme 2028 können werden. Niemand weiß es. Es wäre unseriös, die derzeitigen Entwicklungskurven einfach mit dem Lineal zwei Jahre weiterzuziehen und anschließend so zu tun, als hätten wir einen Fahrplan der Zukunft gefunden.
Aber das Gegenteil wäre ebenso unseriös. Wir können nicht bei jeder denkbaren Entwicklung sagen: Das kann heutige KI noch nicht – also brauchen wir darüber nicht zu sprechen.
Der International AI Safety Report beschreibt die Entwicklung bis 2030 ausdrücklich als außergewöhnlich unsicher. Fortschritte könnten sich verlangsamen. Sie könnten ungefähr im bisherigen Tempo weitergehen. Sie könnten sich aber auch erheblich beschleunigen, insbesondere dann, wenn KI-Systeme selbst stärker zur KI-Forschung beitragen.
Für eine Risikoanalyse bedeutet das etwas Entscheidendes. Wir dürfen nicht nur fragen: Was kann KI heute? Wir müssen fragen: Welche Fähigkeiten entwickeln sich gerade, wie schnell entwickeln sie sich, welche anderen Fähigkeiten lassen sich damit kombinieren – und was passiert, wenn mehrere dieser Entwicklungen gleichzeitig eintreten?
Das ist keine Prophezeiung. Es ist eine Hochrechnung unter Unsicherheit. Und genau deshalb dürfen wir dabei weder in die eine noch in die andere Richtung schummeln.
Wer aus jeder technischen Entwicklung sofort den Untergang der Menschheit ableitet, betreibt Panikmache. Wer jede mögliche Entwicklung so lange für irrelevant erklärt, bis sie bereits eingetreten ist, betreibt allerdings auch keine Zukunftsanalyse. Er beschreibt die Gegenwart.
Wir sollten vielleicht aufhören, auf Skynet zu warten
Vielleicht entsteht das größte Risiko künstlicher Intelligenz in den nächsten Jahren überhaupt nicht dadurch, dass Maschinen uns nicht mehr gehorchen. Vielleicht entsteht es zunächst dadurch, dass sie bestimmten Menschen zu gut gehorchen.
Einem Wissenschaftler können zehntausend künstliche Mitarbeiter helfen, ein Medikament zu entwickeln. Einem Unternehmen können sie helfen, bessere Produkte zu entwickeln. Einem Geheimdienst können sie helfen, Informationen auszuwerten. Einem Kriminellen können sie helfen, Schwachstellen zu suchen. Einem autoritären Staat können sie helfen, Menschen zu überwachen. Einem wirtschaftlich mächtigen Akteur könnten sie helfen, menschliches Verhalten immer genauer zu verstehen.
Die Technologie besitzt dabei nicht automatisch eine politische Haltung, ein Gewissen oder eine moralische Absicht. Sie vervielfältigt zunächst Fähigkeiten.
Und damit landen wir wieder bei der Frage aus „Eine Million Newtons“. Nur diesmal reicht es nicht mehr zu fragen, wer die Million Newtons besitzt.
Wir müssen einen Schritt weitergehen und fragen: Was könnte jemand mit ihnen tun?
Wenn der Mensch zum Datensatz wird
Im ersten Teil blieb eine Frage stehen: Was könnte jemand mit zehntausenden oder irgendwann vielleicht Millionen künstlichen Problemlösern anfangen?
Eine mögliche Antwort lautet: Menschen verstehen. Nicht die Menschheit. Nicht irgendeine statistische Zielgruppe zwischen 35 und 55 mit mittlerem Einkommen und einer unerklärlichen Vorliebe für Gartenmöbel. Sondern einen einzelnen Menschen. Mich. Oder Sie. Mit unseren Freunden, Gewohnheiten, politischen Ansichten, finanziellen Möglichkeiten, Ängsten, Vorlieben, Widersprüchen und jenen kleinen Schwächen, die wir selbst meistens ganz gut kennen, aber lieber nicht in einer Excel-Tabelle zusammengefasst sehen möchten.
Geheimdienste versuchen seit jeher, solche Bilder von Menschen zu erstellen. Ermittler tun es. Unternehmen tun es in anderer Form. Banken bewerten Kreditrisiken, Versicherungen Risiken, Werbeunternehmen Kaufwahrscheinlichkeiten und soziale Netzwerke Interessen.
Neu wäre also nicht der Wunsch, einen Menschen möglichst gut zu kennen. Neu könnten die Geschwindigkeit, Tiefe und Skalierbarkeit werden, mit der dies möglich ist.
Aus Informationen wird ein Mensch
Jeder von uns hinterlässt Spuren. Einzelne davon sind vollkommen banal. Ein Eintrag in einem Unternehmensregister. Ein öffentliches Facebook-Profil. Ein Foto. Ein Kommentar unter einem Artikel. Eine berufliche Biografie. Eine Vereinsmitgliedschaft. Ein Grundstück. Eine Firma. Ein Gerichtsverfahren. Ein wissenschaftlicher Aufsatz. Ein Interview. Eine Spende, soweit sie öffentlich dokumentiert ist. Eine Reise, über die jemand selbst berichtet. Freunde, die einen auf Bildern markieren. Verwandte, die denselben Nachnamen tragen. Unternehmen, mit denen man verbunden ist.
Eine dieser Informationen erzählt wenig. Zehntausend davon erzählen möglicherweise eine Geschichte. Bislang bestand das Problem darin, diese Geschichte zusammenzusetzen. Jemand musste suchen, lesen, vergleichen, Namen zuordnen, Daten überprüfen, Beziehungen erkennen und anschließend entscheiden, was davon überhaupt von Bedeutung sein könnte. Genau diese Art Arbeit gehört zu den Dingen, die KI zunehmend übernehmen kann.
Und plötzlich bekommt der Begriff „Recherche“ eine andere Bedeutung. Ein System sucht nicht einfach nach meinem Namen. Es könnte Zusammenhänge suchen. Wo taucht dieser Name noch auf? Welche Personen erscheinen regelmäßig im gleichen Umfeld? Welche Firmen sind miteinander verbunden? Welche Aussagen haben sich im Laufe der Jahre verändert? Welche Interessen lassen sich erkennen? Welche Beziehungen sind wahrscheinlich? Welche davon sind belegt und welche nur Vermutungen?
Noch entsteht daraus kein gläserner Mensch. Daten können falsch sein. Menschen gleichen Namens können verwechselt werden. Ein ironischer Facebook-Kommentar kann als politische Überzeugung missverstanden werden. Ein zehn Jahre altes Interesse muss heute keines mehr sein.
Aber auch schlechte Landkarten können nützlich sein, wenn es vorher überhaupt keine gab.
Was wie Zukunft klingt, passiert bereits
Bei der Recherche zu diesem Beitrag bin ich auf einen Fall gestoßen, bei dem ich zunächst noch einmal nachgesehen habe, wann der Bericht veröffentlicht wurde.
September 2026.
Anthropic beschreibt darin eine mutmaßlich mit chinesischen staatlichen Sicherheitsinteressen verbundene Operation, bei der große Mengen von Nachrichten aus mehr als hundert überwachten WhatsApp-Gruppen und zahlreichen Telegram-Kanälen ausgewertet wurden.
Dabei ging es nicht nur darum, herauszufinden, wer dort mit wem kommunizierte. Das System wurde eingesetzt, um Personen zu profilieren und mögliche Verwundbarkeiten zu erkennen: finanzielle Schwierigkeiten, Trennung von der Familie, ideologische Enttäuschung oder Familienangehörige, die sich weiterhin in Xinjiang befanden.
Aus diesen Informationen wurden Profile möglicher Zielpersonen erstellt. Das KI-System half anschließend dabei, Kommunikationsstrategien zu prüfen, regionale arabische Ausdrucksweisen zu verwenden, Antworten in Echtzeit zu übersetzen und die Ergebnisse für die weitere geheimdienstliche Bearbeitung aufzubereiten.
Anthropic weist ausdrücklich darauf hin, dass die genaue institutionelle Zuordnung teilweise mit Unsicherheiten verbunden ist und dass das Unternehmen die entsprechenden Konten sperrte. Das sollte man nicht unterschlagen.
Man sollte aber auch nicht unterschlagen, was hier grundsätzlich geschehen ist: Aus großen Mengen verstreuter Informationen wurden individuelle Verwundbarkeiten herausgearbeitet. Wir reden also nicht mehr ausschließlich darüber, ob das irgendwann technisch möglich sein könnte. Eine frühe Form davon ist bereits dokumentiert.
Der Analyst, der niemals schlafen muss
Weitere dokumentierte Fälle machen die Größenordnung deutlicher.
Nach Angaben von Anthropic nutzten iranische Akteure KI zur Analyse von mehr als 155.000 Beiträgen auf X. Daraus wurden soziale Netzwerke untersucht und bestimmte oppositionelle beziehungsweise im Ausland lebende Accounts herausgefiltert. In einem anderen Fall beschreibt das Unternehmen ein automatisiertes Open-Source-Intelligence-System, mit dem Hunderte Personen in Israel und in der jüdischen Diaspora profiliert wurden.
Besonders bemerkenswert ist ein chinesischer Fall. Anthropic berichtet von einer Einheit zur nachrichtendienstlichen Sammlung im Bereich religiöser Angelegenheiten, deren Arbeit früher auf mehrere Analystenteams verteilt gewesen sei. Diese Arbeit sei auf ein einzelnes Büro reduziert worden, das mithilfe eines KI-Assistenten Tausende Untersuchungen im Monat erstellen konnte.
Man muss solche Angaben mit der nötigen Vorsicht lesen. Anthropic berichtet hier über Missbrauchsfälle auf der eigenen Plattform und besitzt nicht die Perspektive eines unabhängigen Untersuchungsausschusses.
Aber selbst mit diesem Vorbehalt bleibt der Mechanismus interessant. KI ersetzt nicht zwingend einen genialen Geheimdienstanalysten. Sie verändert die Zahl der Fälle, die ein Analyst bearbeiten kann.
Und damit sind wir wieder bei der Knappheit aus Teil 1. Wenn ein Mensch hundert Fälle im Jahr bearbeiten kann, muss jemand auswählen, welche hundert wichtig genug sind. Wenn derselbe Mensch mit künstlicher Unterstützung zehntausend bearbeiten kann, verändert sich die Auswahl. Und wenn irgendwann hunderttausend möglich wären, verändert sich möglicherweise das gesamte Prinzip.
Nicht jeder muss wichtig sein
Das könnte eine der unangenehmsten Konsequenzen skalierbarer Analyse werden.
In klassischen Überwachungssystemen musste ein Mensch zunächst wichtig genug sein, um Aufmerksamkeit zu verdienen. Vielleicht fällt genau diese Voraussetzung irgendwann weg.
Ein Staat müsste dann nicht mehr wissen, wer in fünf Jahren gefährlich, interessant oder nützlich werden könnte. Er könnte vorsorglich Profile anlegen und sie aktualisieren lassen. Nicht weil jeder Mensch verdächtig wäre, sondern weil die Analyse billig genug geworden ist.
Anthropic berichtet 2026 von einem besonders drastischen Beispiel aus Mali. Ein einzelner Berater soll Claude als wesentliche technische Arbeitskraft beim Aufbau einer Plattform für einen staatlichen Nachrichtendienst eingesetzt haben, die auf die Telekommunikationsdaten der drei nationalen Mobilfunkanbieter und damit auf ungefähr 25 Millionen SIM-Karten ausgelegt war. Das System sollte auf Anforderung zu Telefonnummern geheimdienstliche Dossiers erzeugen.
Das bedeutet nicht, dass Claude 25 Millionen Menschen eigenständig überwacht hätte. Nach Anthropics Darstellung half das Modell bei Entwurf und technischer Entwicklung der Infrastruktur; das schließlich eingesetzte System arbeitete lokal mit anderen Modellen.
Aber genau diese Unterscheidung macht den Fall für unsere Frage so interessant. Ein KI-System muss die Überwachung nicht selbst durchführen, um Überwachung zu skalieren. Es kann beim Bau der Maschine helfen, die es tut.
Das Profil ist erst der Anfang
Bis hierher reden wir im Wesentlichen über Analyse. Doch die eigentlich interessante Frage beginnt danach: Was mache ich mit dem Wissen?
Wenn ich weiß, dass eine Zielperson finanzielle Schwierigkeiten hat, kenne ich möglicherweise einen Angriffspunkt. Wenn ich weiß, wem sie vertraut, kenne ich vielleicht einen Kommunikationsweg. Wenn ich ihre Überzeugungen kenne, weiß ich möglicherweise, welche Argumente sie sofort ablehnen wird. Wenn ich weiß, welche Medien sie liest, kenne ich einen Teil ihrer Informationsumgebung.
Das bedeutet noch lange nicht, dass ich diesen Menschen kontrollieren kann. Menschen sind keine Computerprogramme, bei denen man nur die richtige Tastenkombination finden muss.
Aber Menschen sind beeinflussbar. Sonst gäbe es keine Werbung, keine Propaganda, keine Verkaufsgespräche und vermutlich deutlich weniger Menschen, die nachts um halb zwei feststellen, dass sie offenbar dringend einen beleuchteten elektrischen Salzstreuer gebraucht haben.
Die entscheidende Frage lautet deshalb nicht, ob Menschen beeinflussbar sind. Sie lautet: Wie viel besser wird Beeinflussung, wenn das Gegenüber mich kennt?
Ein Experiment mit einer unangenehmen Antwort
Dazu gibt es inzwischen belastbare Forschung.
In einer 2025 in Nature Human Behaviour veröffentlichten Studie diskutierten 900 Versuchspersonen kontroverse gesellschaftliche und politische Themen entweder mit einem anderen Menschen oder mit GPT-4.
Interessant war eine zusätzliche Versuchsbedingung. Das KI-System bekam nur einige Informationen über seinen Gesprächspartner: Geschlecht, Alter, ethnische Zugehörigkeit, Bildungsniveau, Beschäftigungsstatus und politische Zugehörigkeit.
Das waren keine geheimdienstlichen Dossiers. Keine zehn Jahre Browserhistorie, keine privaten Nachrichten, keine Einkaufshistorie und kein ausgearbeitetes psychologisches Profil. Es waren sechs demografische Angaben.
Trotzdem zeigte sich ein bemerkenswerter Effekt. Gegenüber der Mensch-Mensch-Vergleichsgruppe waren die Chancen auf eine stärkere Zustimmung bei personalisiertem GPT-4 um 81,2 Prozent erhöht. Anschaulicher formuliert: In den Fällen, in denen sich die Überzeugungskraft unterschied, war das personalisierte GPT-4 in 64,4 Prozent der Fälle überzeugender als der menschliche Gesprächspartner.
Das bedeutet ausdrücklich nicht, dass GPT-4 81,2 Prozent mehr Menschen überzeugt hätte.
Und auch ansonsten ist Vorsicht notwendig. Ein kontrolliertes Experiment ist keine Gesellschaft. Ein kurzes Gespräch ist keine jahrelange Beziehung. Die Autoren selbst diskutieren statistische und methodische Einschränkungen. Daraus lässt sich nicht ableiten, dass KI Menschen nach Belieben umprogrammieren könnte.
Aber wir können daraus etwas anderes ableiten: Personalisierung kann die Überzeugungskraft eines KI-Systems messbar verändern.
Und dann dürfen wir die nächste Frage stellen. Was passiert, wenn aus sechs Angaben sechstausend werden?
Eine Werbung nur für mich
Klassische Werbung besitzt ein Problem. Sie kennt mich nicht besonders gut.
Deshalb steckt sie mich in Gruppen. Mann. Bestimmtes Alter. Bestimmtes Einkommen. Bestimmte Interessen. Vielleicht Autobesitzer. Vielleicht Fotograf. Vielleicht jemand, der gerade nach einer neuen Kamera gesucht hat.
Dann bekomme ich Werbung, von der ein statistisches Modell glaubt, dass sie bei Menschen wie mir funktionieren könnte. Eine wirklich personalisierte KI müsste nicht mehr Menschen wie mich überzeugen.
Sie könnte versuchen, mich zu überzeugen.
Vielleicht reagiert ein Mensch auf Status. Ein anderer auf Sicherheit. Einer auf Angst vor Verlust. Einer auf technische Argumente. Einer möchte dazugehören. Einer möchte gerade nicht dazugehören. Einer hasst Werbung und reagiert deshalb besonders gut auf etwas, das überhaupt nicht wie Werbung aussieht.
Dann müsste man nicht mehr einen Werbespot entwickeln, der bei einer Million Menschen durchschnittlich ein bisschen funktioniert. Man könnte theoretisch eine Million unterschiedliche Argumentationen entwickeln – für eine Million unterschiedliche Menschen.
Und jede davon könnte sich verändern, wenn sie nicht funktioniert. Das wäre nicht mehr nur personalisierte Werbung. Es wäre personalisierte Überzeugung.
Vielleicht muss man mich nicht einmal belügen
Das ist der Punkt, den ich besonders interessant finde. Manipulation benötigt nicht zwingend falsche Informationen. Nehmen wir an, ich soll ein bestimmtes Auto kaufen. Das System könnte mir ausschließlich wahre Dinge erzählen.
Es zeigt mir die hervorragenden Ergebnisse dieses Autos in einem bestimmten Sicherheitstest. Wahr. Es zeigt mir einen Bericht über niedrige Wartungskosten. Wahr. Es weist mich auf einen hohen Wiederverkaufswert hin. Wahr. Es findet einen Testbericht, dessen Autor genau jene Eigenschaften wichtig findet, die auch mir wichtig sind. Ebenfalls wahr.
Andere ebenfalls wahre Informationen zeigt es mir einfach nicht.
Vielleicht ist ein anderes Fahrzeug in bestimmten Bereichen besser. Vielleicht gibt es Kritikpunkte, auf die ich normalerweise empfindlich reagieren würde. Vielleicht existiert ein günstigeres Modell, das meine Bedürfnisse ebenso erfüllt.
Keine einzige Information, die ich gesehen habe, muss falsch gewesen sein. Und trotzdem wurde meine Wirklichkeit kuratiert. Das ist etwas anderes als klassische Propaganda. Die Lüge kann überprüft werden. Die Auswahl von Wahrheit ist erheblich schwerer zu erkennen.
Wenn selbst der Mauszeiger etwas über mich erzählen soll
Schon heute wird persönliches Verhalten wirtschaftlich in einer erstaunlichen Detailtiefe ausgewertet.
Die amerikanische Federal Trade Commission untersuchte sogenannte Surveillance-Pricing-Systeme. Dabei geht es um Technologien, mit denen Preise, Rabatte oder angezeigte Angebote anhand von Informationen über einzelne Verbraucher beziehungsweise Verbrauchergruppen angepasst werden können.
Die FTC fand bei ihrer Untersuchung eine breite Palette möglicher Datenquellen: Standort, demografische Merkmale, Browser- und Einkaufshistorie, aber auch wesentlich kleinere Verhaltensspuren.
Dazu gehören beispielsweise Mausbewegungen auf einer Webseite, wie weit jemand auf einer Produktseite nach unten scrollt, wie lange ein Video angesehen wird oder welche Produkte in einen Warenkorb gelegt, anschließend aber nicht gekauft werden.
Besonders interessant ist, was aus solchen Spuren abgeleitet werden könnte. Die FTC beschreibt ausdrücklich die Möglichkeit, aus Verhaltensdaten beispielsweise Kaufabsicht, finanzielle Preissensibilität oder die Neigung zu Impulskäufen abzuleiten. Auch der Zeitpunkt, zu dem jemand besonders wahrscheinlich auf eine Werbemail reagiert, kann erfasst werden.
Die Behörde weist allerdings ebenfalls darauf hin, dass ein Teil der veröffentlichten Beispiele hypothetisch ist und ihre Untersuchung zunächst auf internen Unterlagen der untersuchten Vermittlungsunternehmen beruhte. Auch hier sollten wir also nicht aus einer Möglichkeit automatisch eine flächendeckende Praxis machen.
Aber die Richtung ist bemerkenswert.
Die Frage lautet dann nicht mehr ausschließlich: Was kostet dieses Produkt?
Sondern möglicherweise: Was glauben wir, dass dieser Mensch bereit ist, dafür zu bezahlen – und wann ist der beste Moment, es ihm anzubieten?
Das ist noch keine psychologische Manipulationsmaschine. Aber es zeigt, wie sich die Logik verändert. Nicht mehr der durchschnittliche Kunde steht im Mittelpunkt. Der einzelne Mensch wird zum Optimierungsproblem.
Der perfekte Moment
Und jetzt verlassen wir den Bereich dessen, was heute eindeutig belegt ist, und beginnen mit unserer Hochrechnung. Denn eine wirklich leistungsfähige Beeinflussungsmaschine müsste nicht nur wissen, wer ich bin.
Sie müsste wissen, wann ich empfänglich bin.
Wann bin ich müde? Wann gestresst? Wann habe ich gerade etwas gesucht? Wann habe ich mich über etwas geärgert? Welche Argumente habe ich bereits verworfen? Welche haben mich länger beschäftigt? Wann breche ich einen Kauf ab? Welche Formulierung lässt mich weiterlesen? Welche Information erzeugt Widerstand und welche senkt ihn?
Ein System müsste dafür nicht meine Seele verstehen. Es müsste Muster erkennen.
Wenn daraus irgendwann eine dauerhafte Rückkopplung entsteht, verändert sich die Situation erneut. Das System liefert ein Argument, beobachtet meine Reaktion, verändert das nächste Argument, beobachtet wieder und lernt weiter. Nicht einmal zwingend über Jahre.
Vielleicht reichen irgendwann Tage. Vielleicht Stunden. Vielleicht funktioniert es schlechter, als wir heute vermuten. Vielleicht funktioniert es auch besser.
Das wissen wir nicht. Was wir wissen, ist, dass einzelne Bausteine bereits existieren.
Von der Zielgruppe zur Zielperson
Damit kommen wir wieder zu unserer eigentlichen Frage nach skalierbarer Macht.
Propaganda war historisch ein Massengeschäft. Eine Rede für Millionen. Ein Plakat für eine Stadt. Eine Zeitung für hunderttausend Leser. Ein Fernsehspot für ein Land.
Das Internet machte daraus Zielgruppen. Soziale Netzwerke und Werbesysteme machten diese Gruppen kleiner und die Ansprache genauer.
Generative KI könnte den nächsten Schritt ermöglichen. Nicht eine Botschaft für eine Million Menschen, sondern irgendwann vielleicht eine Million unterschiedliche Botschaften für eine Million unterschiedliche Menschen. Jede in der Sprache des Empfängers. Jede mit den Argumenten, auf die dieser Mensch wahrscheinlich reagiert. Jede lernfähig. Jede geduldig. Jede bereit, es noch einmal anders zu versuchen.
Dafür braucht es keine bewusste Maschine. Es braucht keinen Hass auf die Menschheit. Und es braucht auch keinen genialen Diktator. Es braucht Daten, Rechenleistung, leistungsfähige Modelle, Zugriffsmöglichkeiten und jemanden, der ein Ziel formuliert.
Die Wirklichkeit nach Maß
Vielleicht ist deshalb die Vorstellung falsch, zukünftige Manipulation müsse besonders spektakulär aussehen. Vielleicht merken wir sie gerade dann nicht, wenn sie gut funktioniert.
Niemand muss meine Bankkonten löschen. Niemand muss meine Identität aus staatlichen Registern entfernen. Niemand muss mir wie in einem Thriller innerhalb von 30 Sekunden mein gesamtes Leben zerstören.
Vielleicht genügt es, meine Informationsumgebung ein wenig zu verändern.
Hier etwas hervorheben, dort etwas verschwinden lassen. Einen Zweifel verstärken, einen anderen beruhigen. Mir Argumente zeigen, die genau zu meiner bisherigen Überzeugung passen. Mich Schritt für Schritt zu einer Entscheidung führen, bei der ich am Ende vollkommen überzeugt bin, dass es meine eigene war.
Vielleicht ist das die beunruhigendste Form skalierbarer Macht.
Nicht eine Maschine, die uns befiehlt, was wir denken sollen.
Sondern eine, die uns so gut kennenlernt, dass sie herausfindet, was sie uns zeigen muss, damit wir selbst darauf kommen.
Wenn wir wissen, dass jemand mitliest
Bislang haben wir die Sache aus der Perspektive des Beobachters betrachtet. Eine KI sammelt Informationen, verbindet sie, erkennt Zusammenhänge und erstellt daraus möglicherweise ein immer genaueres Bild eines Menschen. Aber irgendwann könnte etwas anderes passieren: Der Beobachtete versteht, was der Beobachter kann.
Und in diesem Moment verändert sich nicht nur die Überwachung. Es verändert sich möglicherweise das Verhalten des Überwachten.
Wir kennen diesen Effekt längst. Menschen benehmen sich anders, wenn sie wissen, dass jemand zusieht. Wir sprechen anders, wenn ein Mikrofon auf dem Tisch liegt. Wir fahren aufmerksamer, wenn am Straßenrand ein Blitzer steht. Wir erzählen beim Abendessen Dinge, die wir niemals unter unserem vollständigen Namen ins Internet schreiben würden.
Die interessante Frage lautet deshalb nicht nur, was eine immer leistungsfähigere KI über uns herausfinden könnte. Sie lautet auch: Was werden wir nicht mehr sagen, wenn wir wissen, dass sie es herausfinden kann?
Das Internet vergisst nicht mehr nur
Seit Jahren wird uns gesagt, das Internet vergesse nichts. Das war bislang vor allem eine Warnung vor Speicherung. Ein peinliches Foto kann wieder auftauchen. Ein alter Beitrag kann gefunden werden. Eine dumme Bemerkung aus dem Jahr 2012 kann einem Menschen Jahre später vorgehalten werden.
KI könnte aus diesem alten Problem ein neues machen. Denn zwischen Speichern und Verstehen liegt ein gewaltiger Unterschied.
Eine Datenbank mit zehn Milliarden Beiträgen besitzt zehn Milliarden Beiträge. Das klingt beeindruckend, ist aber für einen einzelnen Menschen zunächst ziemlich nutzlos. Irgendjemand müsste wissen, wonach er sucht.
Was passiert jedoch, wenn eine Maschine diese Milliarden Beiträge lesen, sortieren, miteinander vergleichen und Personen zuordnen kann? Dann könnte sie theoretisch feststellen, welche Themen mich über Jahre beschäftigt haben. Wie sich meine Ansichten verändert haben. Mit wem ich regelmäßig kommuniziere. Bei welchen Themen ich emotional reagiere. Welche Personen in meinem Umfeld ähnliche Interessen besitzen. Wo meine Aussagen widersprüchlich erscheinen. Welche Ereignisse möglicherweise mit einer Veränderung meiner Haltung zusammenfallen.
Nicht alles davon wäre richtig. Manche Schlussfolgerung wäre wahrscheinlich kompletter Unsinn. Aber das Prinzip verändert sich trotzdem: Das Internet vergisst dann nicht mehr nur nichts. Es könnte irgendwann verstehen, was es nicht vergessen hat.
Der unsichtbare Zuschauer
In der Forschung gibt es für einen Teil der möglichen Folgen einen ziemlich unspektakulären Begriff: Chilling Effect. Gemeint ist ein Effekt, bei dem Menschen vollkommen legales Verhalten einschränken, weil sie befürchten, dass ihre digitalen Spuren irgendwann negative Folgen haben könnten.
Das ist keine bloße philosophische Vermutung. Eine 2026 im Journal of Communication veröffentlichte Studie untersuchte genau diesen Mechanismus in einem sechswöchigen Feldexperiment mit 827 Teilnehmern. Die Versuchspersonen wurden wiederholt mit Informationen über digitale Überwachung und Datenauswertung konfrontiert.
Das Ergebnis war bemerkenswert: Wenn Menschen stärker mit Hinweisen auf solche Überwachung konfrontiert wurden als gewöhnlich, fühlten sie sich weniger wohl dabei, online ihre Meinung zu äußern, nach Informationen zu suchen oder persönliche Informationen preiszugeben. Die Autoren sprechen ausdrücklich von kausaler Evidenz für durch digitale Überwachung ausgelöste Selbstzensur.
Auch hier sollten wir nicht mehr daraus machen, als die Studie hergibt. Sie beweist nicht, dass eine Gesellschaft unter KI-Überwachung automatisch verstummt. Interessanterweise war eine insgesamt höhere Exposition zwischen verschiedenen Personen nicht robust mit geringerer Kommunikationsbereitschaft verbunden. Der Effekt zeigte sich vor allem innerhalb derselben Person, wenn deren Bewusstsein für Überwachung zunahm.
Aber genau das ist für unsere Frage interessant: Schon das Bewusstsein, beobachtet und ausgewertet werden zu können, kann Verhalten verändern.
Man muss mir das Schreiben nicht verbieten
Damit kommen wir zu einem merkwürdigen Punkt. Die klassische Vorstellung von Zensur ist einfach: Jemand sagt, das darfst du nicht veröffentlichen. Eine Behörde verbietet einen Text. Eine Zeitung wird geschlossen. Ein Beitrag wird gelöscht. Ein Mensch wird für eine Äußerung bestraft. Das ist sichtbare Unfreiheit.
Die digitale Variante könnte wesentlich eleganter funktionieren. Niemand verbietet mir etwas. Ich kann schreiben, was ich möchte. Mein Account funktioniert. Der Veröffentlichungsbutton ist da. Niemand steht hinter mir und hält mich auf.
Aber bevor ich darauf klicke, denke ich vielleicht einen Moment länger nach. Kann mir dieser Satz irgendwann schaden? Wie wird eine Maschine ihn in fünf Jahren interpretieren? Wird ein zukünftiger Arbeitgeber ihn finden? Wird eine Versicherung irgendwann Zugang zu Informationen besitzen, von denen ich heute glaube, dass sie vollkommen belanglos sind? Was geschieht, wenn sich die politische Situation verändert? Was passiert, wenn eine Aussage aus ihrem Zusammenhang gelöst und mit hundert anderen Aussagen von mir zu einem Profil verbunden wird?
Und irgendwann schreibe ich den Satz nicht. Meine Meinungsfreiheit wurde formal überhaupt nicht eingeschränkt. Ich habe mich selbst eingeschränkt.
Das ist keine neue Erfindung der KI
Diesen Punkt müssen wir sehr deutlich machen. KI hat den Chilling Effect nicht erfunden.
Nach den Snowden-Enthüllungen über die Überwachungspraxis der NSA untersuchten Forscher bereits, wie das Wissen um staatliche Onlineüberwachung die Bereitschaft beeinflusst, politische Meinungen öffentlich zu äußern. Eine 2016 veröffentlichte Untersuchung beschäftigte sich ausdrücklich mit Facebook und der sogenannten Schweigespirale. Die Ergebnisse deuteten darauf hin, dass das Bewusstsein staatlicher Überwachung die Bereitschaft beeinflussen kann, politische Minderheitspositionen online zu vertreten.
Eine spätere Untersuchung testete die Panoptikum-Metapher experimentell und fand ebenfalls abschreckende Effekte von wahrgenommener Onlineüberwachung, die sich unter anderem auf politisches Verhalten erstreckten. Und bereits 2013 befragte PEN America mehr als 500 amerikanische Schriftsteller nach den Folgen der NSA-Enthüllungen. Ein Teil berichtete, bestimmte Themen nicht mehr zu recherchieren, bestimmte Gespräche zu vermeiden oder bestimmte Inhalte nicht mehr zu schreiben.
Eine internationale PEN-Untersuchung unter knapp 800 Schriftstellern ging später noch weiter. Die Sorge vor Überwachung lag bei Befragten in demokratischen Ländern bei 75 Prozent und damit nur wenig unter den 80 Prozent in nichtdemokratischen Ländern. 34 Prozent der Befragten aus liberalen Demokratien berichteten Formen der Selbstzensur; in autoritären Staaten waren es 61 Prozent.
Das sind keine repräsentativen Zahlen für die Weltbevölkerung. Schriftsteller sind eine besondere Gruppe, für die Recherche, Kommunikation und freie Meinungsäußerung beruflich eine außergewöhnlich große Rolle spielen. Aber der Mechanismus ist nicht mehr hypothetisch: Überwachung kann Menschen dazu bringen, sich selbst Grenzen zu setzen.
Warum sollte sich jemand für mich interessieren?
Bislang existierte allerdings noch eine beruhigende Antwort: Wer sollte sich ausgerechnet für mich interessieren?
Das ist gar keine dumme Frage. Überwachung war immer teuer. Ein Staat kann Millionen Menschen theoretisch beobachten, aber er kann nicht jedem von ihnen drei Geheimdienstmitarbeiter hinterherschicken. Auch hier stoßen wir wieder auf die Knappheit menschlicher Aufmerksamkeit aus Teil 1.
Ein Mensch muss wichtig genug sein, damit jemand Zeit in ihn investiert. Vielleicht ist genau diese Beruhigung in Zukunft nicht mehr zuverlässig. Denn wenn die erste Analyse vollständig automatisiert werden kann, muss sich zunächst überhaupt kein Mensch für mich interessieren.
Eine Maschine kann es tun. Nicht weil ich wichtig bin, sondern weil es billig genug geworden ist.
Damit verändert sich psychologisch etwas Entscheidendes. Die Frage lautet dann nicht mehr: Warum sollte jemand mich überwachen? Sie lautet: Warum sollte ein System ausgerechnet mich auslassen, wenn meine Analyse fast nichts kostet?
Die Freiheit, unter dem Radar zu verschwinden
Ich konnte durch eine Stadt laufen, ohne dass irgendjemand wissen wollte, wohin ich gehe. Ich konnte eine Zeitung kaufen, ohne dass jemand daraus ein Interessenprofil erstellte. Ich konnte mit einem Menschen diskutieren, ohne dass dieses Gespräch Teil eines dauerhaft aktualisierten Modells meiner Persönlichkeit wurde.
Ich konnte meine Meinung ändern, ohne dass jemand eine Kurve daraus zeichnete. Nicht weil es technisch unmöglich gewesen wäre, mich zu beobachten, sondern weil ich für eine solche Beobachtung schlicht nicht wichtig genug war.
Vielleicht war diese Bedeutungslosigkeit eine unterschätzte Form von Freiheit. Und vielleicht ist genau sie gefährdet, wenn Aufmerksamkeit nahezu kostenlos wird.
Das Panoptikum braucht keinen Wärter mehr
Der Philosoph Jeremy Bentham entwickelte Ende des 18. Jahrhunderts die Idee des Panoptikums, ursprünglich als Architektur für Gefängnisse. Das Prinzip war raffiniert: Die Gefangenen konnten den Wächter nicht sehen. Sie wussten deshalb nie, ob sie gerade beobachtet wurden.
Der Wächter musste also gar nicht permanent jeden Gefangenen beobachten. Es genügte, dass jeder Gefangene jederzeit damit rechnen musste. Später wurde das Panoptikum zu einer Metapher für gesellschaftliche Überwachung.
KI könnte dieser alten Idee eine merkwürdige neue Wendung geben. Das historische Panoptikum funktionierte, obwohl der Wächter nicht überall gleichzeitig hinsehen konnte. Das digitale Panoptikum könnte funktionieren, weil er es irgendwann kann. Oder genauer: weil Maschinen es können.
Millionen Beiträge, Millionen Bilder, Millionen Kontakte, Millionen Bewegungsmuster. Nicht notwendigerweise durch eine zentrale Super-KI, die irgendwo in einem fensterlosen Raum sitzt und finster auf Monitore schaut, sondern vielleicht einfach durch viele spezialisierte Systeme, die Informationen sammeln, sortieren und bewerten.
Der Wächter müsste nicht mehr so tun, als könne er überall sein.
Er könnte skalieren.
Eine Gesellschaft beginnt, für den Beobachter zu schreiben
Und jetzt beginnt unsere Hochrechnung. Wir wissen nicht, ob sich Gesellschaften tatsächlich so entwickeln werden. Menschen können auf Überwachung auch mit Widerstand reagieren. Sie können Verschlüsselung verwenden, Plattformen verlassen, neue Kommunikationsformen entwickeln oder politisch strengere Regeln verlangen.
Aber nehmen wir an, das Bewusstsein für maschinelle Daueranalyse verbreitet sich. Was geschieht dann mit sozialen Netzwerken?
Vielleicht werden Menschen vorsichtiger. Nicht nur bei extremen Aussagen, sondern gerade bei den interessanten. Bei ungewöhnlichen Meinungen. Bei unfertigen Gedanken. Bei Zweifeln. Bei Dingen, die man heute denkt und morgen vielleicht wieder verwirft.
Denn ein unfertiger Gedanke besitzt ein Problem, sobald alles dauerhaft analysierbar wird: Er kann später wie eine fertige Überzeugung aussehen.
Also formulieren wir glatter. Wir schreiben das, was ungefährlich erscheint. Wir lassen die Hälfte weg. Wir setzen ein Smiley dahinter, damit niemand den Satz falsch versteht. Wir vermeiden bestimmte Wörter, bestimmte Menschen oder bestimmte Gruppen.
Und irgendwann schreiben wir vielleicht nicht mehr primär für diejenigen, mit denen wir sprechen möchten. Wir schreiben für den unbekannten Beobachter mit.
Dann werden die Daten schlechter
Hier entsteht ein interessantes Paradox. Je umfassender Überwachung wird, desto weniger zuverlässig könnte das Bild werden, das sie erzeugt. Denn Beobachtung verändert das Beobachtete.
Wenn Menschen wissen, dass ihre Beiträge analysiert werden, produzieren sie nicht mehr ausschließlich das, was sie denken. Sie produzieren zunehmend das, von dem sie glauben, dass es ungefährlich ist.
Das bedeutet: Die Datenmenge wächst, aber ihre Ehrlichkeit könnte sinken.
Eine Gesellschaft kann dann auf ihren öffentlichen Daten ausgesprochen harmonisch aussehen. Kaum extreme Ansichten, wenig Widerspruch, wenig Unzufriedenheit. Vielleicht interpretiert eine Regierung das irgendwann als Zustimmung. Vielleicht interpretiert ein Unternehmen es als Kundenzufriedenheit. Vielleicht interpretiert eine KI es als gesellschaftlichen Konsens.
Dabei existiert dieser Konsens möglicherweise überhaupt nicht.
Die Menschen haben lediglich gelernt, ihn darzustellen.
Die Schweigespirale bekommt einen Motor
Das führt zu einem weiteren Problem. Menschen entscheiden nicht unabhängig voneinander, was sie sagen.
Wenn ich glaube, mit meiner Meinung allein zu sein, äußere ich sie möglicherweise seltener. Wenn andere Menschen ebenfalls schweigen, weil sie dieselbe Sorge haben, sehe ich ihre Zustimmung nicht. Dann glaube ich noch stärker, allein zu sein und schweige ebenfalls.
Genau darin liegt die klassische Idee der Schweigespirale.
KI-gestützte Überwachung könnte diesen Effekt nicht zwangsläufig erzeugen, aber möglicherweise verstärken. Denn jetzt kommt zur sozialen Angst noch eine zeitliche Dimension. Nicht nur die Frage, was meine Freunde von diesem Beitrag halten werden, sondern eine viel schwerer zu beantwortende: Was könnte irgendein System irgendwann daraus machen?
Wir wissen nicht, welche Datenbanken in zehn Jahren existieren werden. Wir wissen nicht, welche Modelle sie auswerten können. Wir wissen nicht, welche Unternehmen fusionieren, welche Staaten Gesetze ändern, welche Regierungen gewählt werden oder welche Informationen irgendwann miteinander verknüpft werden können.
Ein harmloser Datensatz kann seinen Charakter verändern, wenn die Analysefähigkeit wächst.
Die Vergangenheit bekommt plötzlich neue Bedeutung
Das halte ich für einen Punkt, der in der Diskussion über Datenschutz häufig unterschätzt wird. Wir beurteilen Daten meistens danach, was heute mit ihnen möglich ist.
Vielleicht ist das die falsche Perspektive.
Ein Foto aus dem Jahr 2010 war 2010 einfach ein Foto. Später konnte Gesichtserkennung daraus eine Identität ableiten. Eine Sammlung öffentlicher Texte war früher einfach eine Sammlung von Texten. Heute können Sprachmodelle daraus in Sekunden Zusammenfassungen, Muster und Zusammenhänge erzeugen.
Dasselbe könnte mit Informationen passieren, die wir heute für vollkommen belanglos halten.
Nicht die Daten müssen gefährlicher werden. Die Werkzeuge, mit denen sie ausgewertet werden, können mächtiger werden. Und deshalb kann niemand zuverlässig sagen, welche Bedeutung eine heute veröffentlichte Information im Jahr 2035 besitzen wird.
Das verändert möglicherweise schon heute die Entscheidung, sie zu veröffentlichen.
Unfreiheit ohne Verbot
Vielleicht müssen wir deshalb unseren Begriff von Unfreiheit erweitern.
Ein freier Staat ist nicht nur ein Staat, in dem bestimmte Sätze nicht verboten sind. Freiheit benötigt möglicherweise auch Räume, in denen Menschen ausprobieren, zweifeln, irren, widersprechen und ihre Meinung ändern können, ohne dass jeder dieser Schritte dauerhaft Teil eines maschinell auswertbaren Persönlichkeitsprofils wird.
Sonst könnte eine merkwürdige Gesellschaft entstehen: eine Gesellschaft, in der jeder alles sagen darf und immer weniger Menschen es tun.
Nicht weil morgens die Polizei vor der Tür steht. Nicht weil ein Ministerium einen Satz verboten hat. Nicht weil ein Algorithmus den Beitrag sofort löscht. Sondern weil irgendwo im Hinterkopf eine Frage mitliest: Wer wird das irgendwann wie verstehen?
Vielleicht ist das die subtilste Form der Macht, über die wir in diesem Beitrag sprechen.
Nicht die Macht, Menschen zum Schweigen zu bringen, sondern die Macht, eine Umgebung zu schaffen, in der sie irgendwann selbst entscheiden, dass Schweigen vernünftiger ist.
Quellen und weiterführende Literatur
International AI Safety Report (2026): International AI Safety Report 2026
Umfassender internationaler Forschungsbericht zu Fähigkeiten und Risiken allgemeiner KI. Für unseren Beitrag insbesondere relevant: Missbrauch, Manipulation, autonome Agenten, Kontrollverlust und systemische Risiken. Der Bericht unterscheidet ausdrücklich zwischen misuse, malfunctions und systemic risks und betont die erhebliche Unsicherheit der weiteren Entwicklung. International AI Safety Report
International AI Safety Report 2026 – vollständiger Bericht
Anthropic (10. September 2026): Detecting and countering misuse of AI: September 2026
Eine unserer wichtigsten Quellen. Dokumentiert reale Fälle von KI-Einsatz bei Cyberoperationen, staatlicher Überwachung, Profilierung, Einflussoperationen und Waffenentwicklung. Enthalten sind unter anderem Agentenschwärme, die parallele geheimdienstliche Arbeit durchführen, die Auswertung hunderttausender Social-Media-Beiträge, staatlich verbundene Zielpersonenprofile sowie die Entwicklung einer Überwachungsplattform für rund 25 Millionen SIM-Karten in Mali. Wichtig: Es handelt sich um von Anthropic selbst untersuchte Missbrauchsfälle seiner Systeme; Zuordnungen zu bestimmten Akteuren werden teilweise mit unterschiedlichen Konfidenzniveaus angegeben. Anthropic
Anthropic – Detecting and countering misuse of AI: September 2026
Salvi, F. et al. (2025): On the conversational persuasiveness of GPT-4. Nature Human Behaviour
Präregistrierte Studie mit 900 Teilnehmern zur Überzeugungskraft von GPT-4. Bei personalisierten Debatten waren die Chancen auf stärkere Zustimmung gegenüber der Mensch-Mensch-Bedingung um 81,2 Prozent erhöht; wenn sich die Überzeugungskraft unterschied, war personalisiertes GPT-4 in 64,4 Prozent der Fälle überzeugender. Ohne Personalisierung war GPT-4 statistisch mit menschlichen Gesprächspartnern vergleichbar. Nature
Nature Human Behaviour – On the conversational persuasiveness of GPT-4
Federal Trade Commission (2025): Surveillance Pricing Study
Untersuchung der FTC zu personalisierten Preisen und Angeboten anhand individueller Verbraucherdaten. Dokumentiert werden unter anderem Standort, demografische Merkmale, Browser- und Einkaufshistorie sowie feinere Verhaltenssignale wie Mausbewegungen und nicht abgeschlossene Warenkörbe. Die FTC weist dabei selbst darauf hin, dass nicht jedes untersuchte Anwendungsszenario bereits als flächendeckende Praxis verstanden werden darf. Federal Trade Commission
FTC – Surveillance Pricing Study: Individualized Consumer Prices
Festic, N.; Büchi, M.; Latzer, M.; Odermatt, C. (2026): Dataveillance inhibits legitimate communication: causal evidence for chilling effects. Journal of Communication, 76(4), 277–289
Für Teil 3 unsere wichtigste aktuelle Quelle. Präregistriertes sechswöchiges Feldexperiment mit 827 Teilnehmern aus der deutschsprachigen Schweiz. Bei stärkerer Konfrontation mit Dataveillance sank innerhalb derselben Personen das Wohlbefinden beziehungsweise die Bereitschaft beim Äußern von Meinungen, bei der Informationssuche und beim Offenlegen persönlicher Informationen. Die Autoren sprechen von kausaler Evidenz für Chilling Effects. DOI
Journal of Communication – Dataveillance inhibits legitimate communication
Stoycheff, E. (2016): Under Surveillance: Examining Facebook’s Spiral of Silence Effects in the Wake of NSA Internet Monitoring. Journalism & Mass Communication Quarterly, 93(2), 296–311
Untersuchung des Zusammenhangs zwischen wahrgenommener staatlicher Onlineüberwachung und der Bereitschaft, politische Minderheitsmeinungen im Internet zu äußern. Grundlage unserer Passage über Überwachung und Schweigespirale. Sage Journals
SAGE – Under Surveillance: Examining Facebook’s Spiral of Silence Effects
Stoycheff, E.; Liu, J.; Xu, K.; Wibowo, K. (2019): Privacy and the Panopticon: Online mass surveillance’s deterrence and chilling effects. New Media & Society, 21(3)
Zwei empirische Untersuchungen zur Panoptikum-Metapher und zu abschreckenden Wirkungen wahrgenommener staatlicher Onlineüberwachung. Die Ergebnisse zeigen unter anderem Effekte auf politische Onlineaktivitäten. Sage Journals
SAGE – Privacy and the Panopticon
PEN America (2013): Chilling Effects – NSA Surveillance Drives U.S. Writers to Self-Censor
Befragung von mehr als 520 amerikanischen Schriftstellern nach den Snowden-Enthüllungen. Dokumentiert Sorgen vor Überwachung sowie Veränderungen bei Recherche, Kommunikation und Schreiben. Wichtig für unseren Beitrag: Es handelt sich um eine spezielle Berufsgruppe und nicht um eine repräsentative Stichprobe der Gesamtbevölkerung. PEN America
PEN America – Chilling Effects
PEN America (2015): Global Chilling – The Impact of Mass Surveillance on International Writers
Internationale Befragung von knapp 800 Schriftstellern. 75 Prozent der Befragten in demokratischen Staaten äußerten Sorgen hinsichtlich staatlicher Überwachung, gegenüber 80 Prozent in nichtdemokratischen Staaten. 34 Prozent der Befragten in liberalen Demokratien berichteten Selbstzensur; in autoritären Staaten waren es 61 Prozent. Auch hier gilt: Schriftsteller sind keine repräsentative Stichprobe der Gesamtbevölkerung. PEN America
PEN America – Global Chilling
Interner Bezug
Armin Kraft: Eine Million Newtons – KI-Forschung
Der gedankliche Vorläufer dieses Beitrags. Dort haben wir bereits die Frage gestellt, ob nicht die Intelligenz eines einzelnen KI-Systems, sondern die parallele Verfügbarkeit sehr vieler künstlicher Problemlöser entscheidend werden könnte – und wer diese Systeme kontrolliert. Eine Million Newtons
Eine Million Newtons – KI-Forschung
Beitragsbild erstellt von ChatGPT – Nach einem Prompt von mir
Kommentare sind willkommen, solange sie sachlich, respektvoll und themenbezogen bleiben. Beleidigungen, Spam und reine Provokationen werden nicht veröffentlicht.