Fünf Risiken der postkognitiven Ära
Die Gefahren der KI ohne Panik: Atrophie, Homogenisierung, Manipulation, Fragilität, Stratifizierung
Im Jahr 2000 untersuchte die Neurowissenschaftlerin Eleanor Maguire die Gehirne Londoner Taxifahrer — Menschen, die die schwerste Gedächtnisprüfung der Welt ablegen, „the Knowledge”: Tausende Straßen der Stadt, alle im Kopf. Ihre Hippocampi, die für die räumliche Navigation zuständigen Strukturen, waren deutlich vergrößert. Das Gehirn ist wie ein Muskel: Was du benutzt, wächst.
Doch der Satz hat eine zweite Hälfte, die niemand mag: was du abgibst, verkümmert. Die Generation der Satellitennavigation baut keine Taxifahrer-Hippocampi mehr auf — sie muss nicht, also tut sie es nicht. Dieses ganze Buch hindurch haben wir gefeiert, was die komposite Kognition gibt. Das letzte Kapitel handelt von der Preisliste.
Dies wird kein Kapitel über den Aufstand der Maschinen — den überlassen wir dem Kino. Es geht um 5 strukturelle Risiken: solche, die überhaupt keinen bösen Willen erfordern, weil sie die Schatten genau jener Mechanismen sind, die der Ära ihre Kraft geben. Kapitel 2 hat diese Gestalt benannt, im Anschluss an Bernard Stiegler: Pharmakon — im Griechischen ein einziges Wort für Heilmittel und Gift. Nicht zwei Substanzen. Eine.
Wenn du das Schiff erfindest, erfindest du auch den Schiffbruch; wenn du das Flugzeug erfindest, erfindest du auch den Flugzeugabsturz; und wenn du die Elektrizität erfindest, erfindest du den Stromschlag… Jede Technik trägt ihre eigene Negativität in sich, die zugleich mit dem technischen Fortschritt erfunden wird.
Erfinde das Schiff, und du erfindest den Schiffbruch. Wir haben die komposite Kognition erfunden — lernen wir also ihre Katastrophen kennen, solange sie noch unsere Wahl sind und nicht das, was wir zu überleben haben. Bei jedem Risiko findest du ein Abwehrprotokoll: nicht damit du keine Angst hast, sondern damit du weißt, was zu tun ist.
Risiko 1: kognitive Atrophie
Der Schatten des Subtraktionstests aus Kapitel 2. Der Test maß, wie tief der Stack in deinen Geist hineingewachsen ist — die Atrophie ist dasselbe Phänomen, gelesen vom anderen Ende her: Jede an den Stack abgegebene Funktion wird nicht mehr geübt, und was nicht geübt wird, verkümmert. Das Gedächtnis (verkümmert vor zwei Generationen), die Orientierung (vor einer Generation), und nun — zum ersten Mal — das Schlussfolgern selbst: einen Gedanken formen, ein Argument strukturieren, zu einer Konklusion gelangen. Die vierte Welle ist die erste, die es erlaubt, das Denken über das Problem abzugeben, nicht nur die Daten des Problems.
Die gesellschaftliche Version dieses Risikos ist hinterhältiger als die individuelle: Kapitel 4 zeigte eine Leiter, deren unterste Sprossen fehlen. Wenn Juniors nicht mehr umschreiben, nicht mehr korrigieren, nicht mehr alles aufsaugen — woher kommt dann die nächste Generation von Menschen mit Urteilsvermögen? Die Atrophie eines Einzelnen ist das Problem des Einzelnen. Die Atrophie des Wegs zur Meisterschaft ist das Problem der Zivilisation.
Risiko 2: die Homogenisierung des Denkens
Der Schatten der Koevolution (Kapitel 2, Merkmal 5). Dein Stack formt dich — aber wenn Millionen Menschen auf denselben Standardmodellen trainieren, mit denselben Standardeinstellungen, dann formt sie alle dieselbe Gestalt. Kapitel 4 nannte das Modell eine Konsensmaschine: Es lernt das Zentrum der Verteilung von allem bereits Geschriebenen und serviert dieses Zentrum jedem. Eine Milliarde Menschen, die mit demselben Editor schreiben, fangen an, ähnlich zu schreiben — und dann ähnlich zu denken.
Die Landwirtschaft kennt dieses Muster und seinen Preis: Eine Monokultur ist effizient bis genau zu dem Tag, an dem ein einziger Erreger die gesamte Ernte niederlegt, weil jede Pflanze dieselbe Schwäche teilt. Eine kognitive Monokultur funktioniert genauso — die geteilten blinden Flecken ganzer Bevölkerungen sind genau das, was kein einzelner Geist bemerken wird, weil die Nachbarn dieselben haben.
Risiko 3: Manipulation durch Modellkontrolle
Der Schatten der Entmittlung der Autorität (Merkmal 4) — und das politischste der fünf Risiken. Die alten Autoritäten haben sich geschwächt, und ihren Platz hat ein Souffleur eingenommen, für jeden verfügbar, geduldig und überzeugend. Die Frage, die man laut stellen sollte: wer schreibt den Souffleur? Wer die Gewichte eines Modells und seine Systeminstruktionen kontrolliert, kontrolliert die Standardantworten von Milliarden Menschen — also, wie wir aus der Psychologie der Voreinstellungen wissen, die Antworten der Mehrheit, denn die Mehrheit ändert die Standardeinstellungen nie.
Das ist keine Zensur — Zensur ist sichtbar, Zensur erzeugt Widerstand. Das ist etwas Subtileres: das Formen dessen, was einem zuerst in den Sinn kommt. Die Macht über die Voreinstellungen verbietet dir keinen Gedanken; sie legt nur manche Gedanken in Reichweite und lässt andere ein Stück weit entfernt liegen. In den Begriffen von Kapitel 7: Das ist ideologische Macht, und ihr wurde gerade eine Infrastruktur mit einer Reichweite in die Hand gegeben, von der keine Kirche und kein Fernsehsender hätte träumen können.
Risiko 4: infrastrukturelle Fragilität
Der Schatten der Bandbreitenerweiterung (Merkmal 2) und die einfache Arithmetik des Subtraktionstests im Maßstab einer Zivilisation: Je tiefer der Stack in Prozesse hineinwächst — in deine, die eines Unternehmens, eines Staates —, desto höher die Kosten seiner plötzlichen Abwesenheit. Und der Stack hat Fundamente, an die du nicht denkst, solange sie funktionieren: eine Handvoll Compute-Clouds, das Stromnetz, Unterseekabel, die Lieferkette der Halbleiter. Die Welt hat Miniaturen dieses Risikos bereits geprobt: Ein einziger Ausfall einer großen Cloud kann Tausende Dienste auf einmal für einen halben Tag lahmlegen — und das ist erst ein Vorgeschmack, denn bisher lagen Anwendungen darnieder. In der postkognitiven Ära liegt ein Teil des Denkens darnieder.
Kapitel 6 gab diesem Risiko seine Geometrie: In Triaden pflanzt sich der Ausfall einer Kante durch die übrigen fort. Füge nun den Maßstab hinzu: Unternehmens-Triaden, gekoppelt an Zulieferer-Triaden, alle auf denselben wenigen Fundamenten stehend. Die Effizienz unserer Systeme wächst schneller als ihre Widerstandsfähigkeit — das ist die Definition von Fragilität.
Risiko 5: Stratifizierung des Zugangs
Der Schatten der Kompression der Expertise (Merkmal 6) — und das Risiko, das dieses Buch ungewollt veranschaulicht. Asymmetrische Kognition (Merkmal 1) klingt aufregend, wenn du auf der richtigen Seite der Asymmetrie stehst. Im Maßstab einer Gesellschaft bedeutet sie eine Schere: eine schmale Gruppe mit dem vollen Stack — Gedächtnis, Agenten, eigener Infrastruktur — und alle anderen mit einem nackten Chatfenster oder mit nichts. Das Paradox ist, dass Hardware und Zugang immer billiger werden, während sich die Schere trotzdem weiter öffnet: Die neue Barriere ist nicht der Preis der Werkzeuge, sondern das Wissen, wie man sie zu einem Stack zusammensetzt — also genau das, worüber du seit acht Kapiteln liest. Die Ungleichheit der Industrieära war eine Kapitalungleichheit. Die Ungleichheit der postkognitiven Ära ist eine Konfigurationsungleichheit.
Die untersten Sprossen der Leiter (Kapitel 4) verschwinden genau in dem Moment, in dem die oberen Stockwerke davonziehen — das ist der Mechanismus, der die Schere aufreißt, nicht jemandes Entscheidung. Und deshalb hat dieses Risiko, als einziges der fünf, kein individuelles Abwehrprotokoll. Gegen die Atrophie kannst du dich allein wehren. Gegen die Stratifizierung — nur gemeinsam.
Mittwoch, 15:07 Uhr
Kehren wir dorthin zurück, wo wir begonnen haben.
Das Einkaufszentrum M1 in Zabrze. Die Türen öffnen sich, bevor du sie erreichst — aber du weißt es jetzt: ein Sensor, ein technisches Protokoll, eine einmal niedergeschriebene und milliardenfach ausgeführte Regel. An den Einkaufswagen wirft jemand eine 2-Złoty-Münze ins Schloss, ohne auch nur hinzusehen — ein Anreiz statt eines Aufsehers, ein kleiner Proof-of-Work auf dem Parkplatz. Das Kassenband gleitet von links nach rechts. Der Wachmann am Ausgang schreckt statistisch ab. Nichts hat sich hier seit Kapitel 1 geändert — das Einzige, was sich geändert hat, ist, dass du jetzt siehst.
Also schau noch einmal hin, denn die Szene hat eine zweite Schicht, die wir beim ersten Mal nicht gelesen haben. An einem Tisch am Fenster diktiert eine Frau ihrem Telefon etwas und korrigiert dessen Version — Mitdenken, Typ 1, dritte Stufe. Zwei Tische weiter fragt ein Junge sein Telefon etwas, das er früher seinen Vater gefragt hätte — Erweiterung oder Atrophie? Zu früh, um es zu sagen; das entscheidet sich in seinen Routinen, nicht im Gerät. Die Kassiererin scannt einen Barcode, und ein System im Hintergrund hat den fehlenden Bestand bereits nachbestellt — Typ 4, Autonomieleiter, dritte Sprosse. Über dem Eingang eine Kamera, deren Algorithmus den Strom der Kundschaft zählt. Eine kontaktlose Zahlung fliegt durch ISO 8583, ohne irgendjemanden um Erlaubnis zu bitten. Jeder Bildschirm in jeder Hand in diesem Korridor ist eine Schicht von jemandes Stack — ein paar Dutzend komposite Geister erledigen ihre Einkäufe, und fast keiner von ihnen weiß es.
Das ist die postkognitive Ära an einem einzigen Nachmittag: keine Science-Fiction, keine Konferenzfolie — ein Einkaufszentrum in Schlesien, Mittwoch, 15:07 Uhr. Protokolle im Beton und Protokolle im Denken, komposite Kognition an den Tischen des Food Courts, die fünf Schatten aus diesem Kapitel, die zwischen den Regalen kreisen — und das Fenster aus Kapitel 8, geöffnet genau so weit wie dieses Jahrzehnt.
Das Einkaufszentrum fragt nicht, ob du seine Protokolle verstehst — es funktioniert für alle gleich. Die Ära wird auch nicht fragen. Der Unterschied, der einzige, den es gibt, steht auf deiner Seite des Glases: ob du als Kunde hindurchgehst, geschickt Regeln bedienend, die du nicht siehst — oder als jemand, der die Schichten sieht und wählt, was er in den eigenen Geist lässt, welchen Modellen er vertraut, welche Kante er auditiert und mit wem er seinen Stack teilt.
Die Schatten zu sehen heißt nicht, das Licht zu verweigern. Es heißt, mit offenen Augen zu gehen — durch Türen, die sich von selbst öffnen, in eine Ära, die dasselbe tun wird.
Die postkognitive Ära — der Zeitraum, in dem die Kognition aufhört, eine ausschließlich individuelle Ressource zu sein, und komposit wird: Mensch + Denkmodell + KI + Daten + externes Gedächtnis. Eine Erweiterung der These vom Erweiterten Geist (Clark & Chalmers, 1998) auf das Zeitalter der LLMs.
Methodische Offenlegung: Dieses Buch entsteht mit KI als Co-Autor — dieses Kapitel wurde von Claude Fable 5 (Juni 2026) aus dem konzeptuellen Rahmen des Autors geschrieben, mit an der Quelle verifizierten Fakten und Zitaten; diese deutsche Ausgabe wurde aus dem polnischen Original übersetzt (Juni 2026). Das ist kein Gimmick, sondern Konsequenz mit der These: Ein Text über komposite Kognition wird von kompositer Kognition geschrieben — und das Denken wird versioniert, wie man Code versioniert.