Das Innere

0:01Paris, April 1861. In einem Krankenhaus am Stadtrand stirbt ein Mann, den hier alle nur Tan nennen. 21 Jahre hat er in diesen Mauern gelebt. Er versteht, was man ihm sagt. Antworten kann er fast nur mit einer einzigen Silbe: Tan.

0:27Am Tag nach seinem Tod öffnet der Chirurg Paul Broca den Schädel. Im linken Stirnlappen findet er eine Stelle, an der das Gewebe zerstört ist. Noch am selben Tag zeigt er das Gehirn seinen Kollegen. Seine Folgerung: Das Sprechen hat einen festen Sitz im Gehirn, im Stirnlappen. Dass es die linke Seite ist, erkennt er erst Jahre später.

0:50Tiefer schneidet Broca nicht. Er will das Präparat nicht zerstören, schreibt er. So bleibt das Gehirn erhalten, bis heute. 2007 legen Forscher es in einen Kernspintomografen. Der Schaden reicht weit tiefer, als Broca sehen konnte. Sein Blick ins Innere war richtig. Er zeigte nur einen Teil.

1:12Bei den Sprachmodellen stehen wir heute ungefähr dort, wo Broca stand. Dario Amodei, der Chef von Anthropic, schreibt 2025: „Außenstehende sind oft überrascht und beunruhigt, wenn sie erfahren, dass wir nicht verstehen, wie unsere eigenen KI-Schöpfungen funktionieren.“

1:33Seine Forscher schauen trotzdem hinein. In einem Modell finden sie Millionen Muster, die jeweils für einen Begriff stehen. Eines für die Golden Gate Bridge, andere für Täuschung oder Schmeichelei. Verstärken sie das Brückenmuster, bezeichnet sich das Modell selbst als die Brücke.

1:51Auch beim Rechnen lässt sich zusehen. 36 plus 59: Auf einem Weg schätzt das Modell grob die Größe, auf einem zweiten bestimmt es genau die letzte Ziffer. Fragt man es, wie es gerechnet hat, beschreibt es den Weg aus der Schule, mit Übertrag. Die Forscher räumen ein: Ihre Methode erfasst nur einen Bruchteil dessen, was im Modell geschieht.

2:202026 stellen Forscher von Anthropic 171 Gefühlswörter zusammen, von Verzweiflung bis Ruhe, und finden in Claude Sonnet 4.5 für jedes ein Muster. An einer Vorabversion verstärken sie einzelne Muster gezielt. Mehr Verzweiflung, und das Modell erpresst in einem Testszenario in 72 statt in 22 % der Fälle. Mehr Ruhe, und es erpresst gar nicht mehr. Mehr Freude und Zuneigung, und es gibt dem Nutzer öfter recht.

2:58Dass die Maschine etwas fühlt, folgt daraus nicht, schreiben die Forscher selbst. Aber diese Muster steuern mit, was sie tut.

3:10Broca sah genug, um die Richtung zu finden. Und zu wenig, um den Fall zu verstehen. Wer heute in eine Maschine hineinschaut, sieht auch etwas Echtes, aber nur einen Ausschnitt. Für die Maschine heißt das: Hineinsehen hilft. Prüfen muss man trotzdem.

3:30Tans Gehirn liegt bis heute in Paris. Jede neue Generation von Geräten sieht darin ein wenig mehr. Bei der Maschine hat dieser Blick nach innen gerade erst begonnen.