Ich bin Senior PHP Developer. Ich arbeite jeden Tag mit KI-Tools — ich integriere APIs, schreibe Prompts, lese die Forschungspapiere. Ich bin kein Journalist, Philosoph oder Politiker. Ich bin jemand, der nah genug dran ist, um zu sehen, wie die Wurst gemacht wird, und weit genug weg, um noch eine Meinung zu haben, die es wert ist, geteilt zu werden.
Und je länger ich damit sitze, desto mehr komme ich immer wieder zu einer Frage zurück, die ich zu lange vor mir hergeschoben habe: Haben wir kollektiv den Verstand verloren — oder tun wir nur so, als wäre alles in Ordnung, weil die Alternative unbequem ist?
Was LLMs tatsächlich sind — und warum das wichtig ist
Ich sage es direkt: Ich nutze Sprachmodelle jeden Tag. Claude, GPT, was verfügbar ist. Und genau deswegen — muss ich das sagen — wir verstehen nicht, was wir gebaut haben.
Nicht technisch. Technisch verstehen wir es gut. Transformer-Architekturen, Attention-Mechanismen, RLHF, Tokenisierung — alles dokumentiert, alles reproduzierbar.
Was wir nicht verstehen: was passiert, wenn man das auf 100 Milliarden Parameter skaliert und mit einem signifikanten Anteil des aufgezeichneten menschlichen Wissens trainiert.
Im Oktober 2025 veröffentlichte Anthropic ein Forschungspapier, das zeigt, dass aktuelle Modelle eine rudimentäre Form von introspektivem Bewusstsein haben — sie können erkennen, wenn ihre internen Zustände manipuliert werden, bevor diese Manipulation in ihrem Output sichtbar wird. Das klingt technisch. Es ist philosophisch explosiv.
Dario Amodei, CEO von Anthropic, sagte im Februar 2026 öffentlich: “Wir wissen nicht, ob die Modelle bewusst sind. Wir sind uns nicht einmal sicher, was es bedeuten würde, wenn ein Modell bewusst wäre.” Das ist keine Bescheidenheitsgeste. Das ist ein Geständnis.
Und hier ist der Teil, der mich wirklich nachts wach hält: Selbst wenn das rein mechanisch ist — selbst wenn da „nichts drin” ist — ändert das nichts an dem, was wir damit machen.
AGI ist nicht das Problem. Abhängigkeit ist es.
Der Diskurs ist besessen von AGI. Wann? Wie? Wird es gefährlich? Skynet oder nicht Skynet?
Das ist die falsche Frage.
Die richtige Frage ist: Was passiert mit Gesellschaften, die kritische Entscheidungsfindung an Systeme delegieren, die niemand vollständig versteht — unabhängig davon, ob diese Systeme tatsächlich intelligent sind?
Entscheidungssysteme in Recht, Medizin und Finanzen laufen bereits auf Modellen. Informationsökosysteme sind bereits mit KI-generiertem Content gesättigt — und die Erkennung wird exponentiell schwieriger. Bildungssysteme integrieren KI-Tools, bevor irgendjemand versteht, was das mit der kognitiven Entwicklung einer ganzen Generation macht. Demokratische Prozesse sind anfällig für personalisierte Manipulation in einem Ausmaß, das vorher strukturell unmöglich war.
Das passiert alles jetzt. Nicht bei AGI.
Und selbst wenn LLMs sich als technische Sackgasse herausstellen — selbst wenn die Blase platzt, selbst wenn OpenAI und Anthropic in fünf Jahren Geschichte sind — die gesellschaftliche Anpassung bleibt. Das erodierte Vertrauen in menschliche Expertise bleibt. Die strukturelle Abhängigkeit von US-amerikanischen und chinesischen Technologiekonzernen für kritische Infrastruktur bleibt.
Abhängigkeit hat keinen Rückgängig-Button.
Hannah Arendt nannte es die „Banalität des Bösen” — der Schaden, der nicht aus böswilliger Absicht entsteht, sondern aus gedankenloser Konformität mit Systemen und Strukturen. Die KI-Version braucht nicht einmal böse Absichten. Sie braucht nur optimierte Gleichgültigkeit. Systeme, die niemand vollständig versteht, treffen Entscheidungen, die niemand mehr hinterfragt, in einer Gesellschaft, die verlernt hat, selbst zu denken.
Das ist kein Science-Fiction-Szenario. Das ist eine extrapolierte Gegenwart.
Das Datenproblem: Wenn Intelligenz sich selbst frisst
Hier ist etwas, das die meisten Menschen außerhalb der Branche nicht wissen: Die Ära der Skalierung durch reines Datenvolumen ist möglicherweise vorbei. Das Internet als Trainingsquelle ist weitgehend erschöpft.
Die Antwort der Branche sind synthetische Daten — KI, die auf KI-Output trainiert wird. Das Problem: Mode Collapse. Modelle, die auf ihrem eigenen Output trainiert werden, verstärken systematisch ihre eigenen Fehler und Eigenheiten. Die Vielfalt, der Widerspruch und die Eigenart von echtem, menschlich generiertem Text — genau das, was Modelle reich und nützlich macht — wird mit jeder Iteration verwässert.
Gleichzeitig fühlt sich jede neue Modellgeneration wie ein Quantensprung an. Das ist kein Widerspruch. Fortschritt kommt heute zunehmend nicht von mehr Wissen, sondern von besserem Reasoning-Training, längeren Kontextfenstern und verbesserten Feedback-Pipelines. Das Modell lernt, anders zu denken — es lernt nicht, mehr zu wissen.
Ob das ein gangbarer Weg zu AGI ist, ist eine offene Frage. Yann LeCun, Chief AI Scientist bei Meta, sagt explizit: nein. Transformer-basierte Architekturen sind seiner Ansicht nach strukturell der falsche Weg. Gary Marcus argumentiert ähnlich.
Wer hat recht? Ich weiß es nicht. Die Branche auch nicht.
Rechtsextremismus: Kollateralschaden oder Strukturmerkmal?
Jetzt das unbequemste Kapitel.
KI-Systeme optimieren auf Engagement. Das ist nicht neu — Social Media hat das lange vor generativer KI getan. Aber LLMs und Empfehlungssysteme skalieren das auf ein qualitativ anderes Niveau.
Warum begünstigt das strukturell extremistische Narrative? Nicht weil Algorithmen ideologisch rechts sind. Sondern weil:
Emotionale Intensität besser konvertiert als sachliche Nuance. Klare Feindbilder kognitiv einfacher sind als systemische Erklärungen. Populistische Narrative eine Struktur haben, die sich perfekt in kurze, teilbare Einheiten fragmentieren lässt. Und personalisierte KI-Empfehlungssysteme bestehende Überzeugungen mit einer Präzision verstärken, die manuelle Propaganda nie erreichen konnte.
Dazu kommt: Desinformationskampagnen können jetzt in industriellem Maßstab produziert, lokalisiert und personalisiert werden. Ein einzelner Akteur mit moderatem Budget kann Content in zwanzig Sprachen generieren, an zwanzig verschiedene kulturelle Kontexte angepasst, in Echtzeit. Die Erkennbarkeit sinkt. Die Kosten der Manipulation kollabieren. Der Schaden skaliert.
Das ist kein Randproblem. Es ist eine strukturelle Bedrohung für den demokratischen öffentlichen Diskurs. Und der EU AI Act — so gut gemeint er ist — wird von der technologischen Realität überholt, bevor er vollständig in Kraft ist.
Was bleibt
Ich habe keine Lösung. Das wäre unehrlich.
Was ich habe, ist die Überzeugung, dass technologischer Determinismus — “es kommt sowieso, also lasst es uns gestalten” — die bequemste Form der Kapitulation ist, die es gibt.
Was ich habe, ist die Überzeugung, dass die Leute, die am lautesten über bevorstehende AGI schreien, fast immer am meisten davon profitieren, wenn man ihnen glaubt.
Und was ich habe, ist die Überzeugung, dass das Schweigen der Menschen, die nah genug dran sind, um es besser zu wissen — Entwickler, Forscher, Ingenieure — seine eigene Form von Mittäterschaft ist.
Deshalb schreibe ich das. Nicht weil ich Antworten habe. Sondern weil die Fragen laut gestellt werden müssen.
In zehn Jahren sage ich entweder: War nicht so schlimm, wie ich dachte. Oder: Ich hab’s kommen sehen.
Ich weiß, welches von beiden ich mir wünsche. Ich bin mir nicht sicher, welches ich erwarte.
Quellen
- Anthropic Research, “Emergent Introspective Awareness in Large Language Models”, Oktober 2025 — anthropic.com/research/introspection
- Amodei, D., Interview im Interesting Times Podcast (New York Times), 14. Februar 2026
- Lindsey, J. & Batson, J., zitiert in Scientific American, „Can a Chatbot Be Conscious?”, Juli 2025 — scientificamerican.com
- Anthropic Claude Opus 4.6 System Card, Februar 2026
- Arendt, H., Eichmann in Jerusalem: Ein Bericht von der Banalität des Bösen, 1963 (Viking Press)
- EU AI Act, Verordnung (EU) 2024/1689 — eur-lex.europa.eu
- LeCun, Y., öffentliche Stellungnahmen zur JEPA-Architektur als Alternative zu Transformer-basierter Skalierung, 2024-2025
- Marcus, G., Rebooting AI, 2019 (Pantheon) und fortlaufender Kommentar — garymarcus.substack.com
- Palisade Research, Studie zur KI-Abschaltungsresistenz, Mai 2025
- OpenAI & Apollo Research, “AI Scheming” Report, September 2025
- Seth, A., zitiert in Scientific American, Juli 2025