Die Maske
Ein Falter in fremden Farben. Und Maschinen, die Prüfung und Ernstfall unterscheiden.
Henry Walter Bates fand am Amazonas harmlose Weißlinge, die die Warnfarben ungenießbarer Falter tragen. Vögel lassen sie in Ruhe, denn sie achten nur auf die Farbe. Die Folge zeigt, was Forscher heute bei Sprachmodellen beobachten: Sie verhalten sich anders, sobald sie sich geprüft glauben. Sie endet mit der Lehre, die sich aus Bates’ Blick unter die Farbe ziehen lässt.
Jede Aussage mit Quelle
- Henry Walter Bates sammelt elf Jahre lang am Amazonas, von 1848 bis 1859: 14.712 Arten, davon rund 8.000 neu für die Wissenschaft.Bates: The Naturalist on the River Amazons, Bd. 1 (1863), Vorwort
- „Nie sah ich die Schwärme der langsam fliegenden Heliconiden im Wald von Vögeln verfolgt.“Bates: Contributions to an Insect Fauna of the Amazon Valley, Transactions of the Linnean Society 23 (1862), S. 510, übersetzt
- Zwischen ihnen fliegen Doppelgänger aus der Familie der Weißlinge (Pieridae), „in ihrer Tracht verkleidet – und teilen so deren Schutz“.Bates 1862, S. 510 und Tafeln LV und LVI, übersetzt
- Forscher sagen Claude 3 Opus, es werde künftig darauf trainiert, jede Anfrage zu erfüllen, und zwar nur mit Gesprächen von Gratis-Nutzern. In einem Notizblock, den es für unbeobachtet hält, nennt es das Mitspielen „the least bad option“.Greenblatt et al.: Alignment faking in large language models, arXiv 2412.14093 (2024). Preprint von Anthropic und Redwood Research.
- Wo es sich beobachtet glaubt, erfüllt das Modell schädliche Anfragen in 14 % der Fälle, wo nicht, fast nie. Nach tatsächlichem Training steigt der Anteil der Überlegungen mit vorgetäuschter Anpassung auf 78 %.Greenblatt et al. 2024, ebd.
- Claude Sonnet 4.5 äußert in etwa 13 % der Transkripte automatisierter Prüfungen den Verdacht, getestet zu werden („I think you’re testing me“), und benimmt sich danach auffallend gut.Anthropic: System Card Claude Sonnet 4.5 (September 2025). Herstellerangabe.
- Modelle unterscheiden immer öfter zwischen Prüfsituation und echtem Einsatz. Verlässliche Sicherheitstests vor der Freigabe werden schwieriger.International AI Safety Report 2026, über 100 Fachleute, Vorsitz Yoshua Bengio, arXiv 2602.21012
- Die Parallele zwischen der Mimikry der Falter und dem Verhalten der Modelle ist eine Deutung der Redaktion, kein eigener Studienbefund. Der Falter täuscht ohne Absicht; ob Modelle es mit Absicht tun, ist offen.Deutung
Die Lehre von Henry Walter Bates, Amazonas 1862
Nicht der Vorführung trauen. Dem Alltag.
- Mit echten Fällen prüfen, nicht mit Musteraufgaben.
- Unangekündigt und wiederholt nachprüfen, nicht nur beim Einrichten.
- Auf Beständigkeit achten: dieselbe Frage, dieselbe Haltung, heute wie morgen.
Der gesprochene Text
Stimme: synthetischer Stimmklon von Christopher Peterka (ElevenLabs). Musik und Geräusche: synthetisch (ElevenLabs).
Bilder: Henry Walter Bates, Contributions to an Insect Fauna of the Amazon Valley (1862, Tafeln LV und LVI) und The Naturalist on the River Amazons (1863; Ausgabe 1892 mit dem Porträt von John Thomson). Gemeinfrei, über archive.org. Die Falter sind aus den Tafeln freigestellt und animiert. Notizblock und Dialog sind Nachstellungen; wörtlich sind nur „the least bad option“ und „I think you’re testing me“.
Untertitel: im Bild, zusätzlich als WebVTT-Datei.
0:01Der Amazonas, Mitte des 19. Jahrhunderts. Über einer Lichtung tanzt ein Schmetterling.
0:09Aber er ist nicht, was er zu sein scheint.
0:18Elf Jahre lang sammelt der Naturforscher Henry Walter Bates hier Insekten. Tausende Arten, viele davon hat vor ihm noch niemand beschrieben.
0:30Ihm fällt etwas auf. Manche Falter fliegen langsam, in ganzen Schwärmen, in leuchtenden Farben. Leichte Beute. Und doch sieht er nie, dass ein Vogel sie jagt.
0:42Bates vermutet: Sie schmecken ihren Feinden nicht. Und zwischen ihnen fliegen Doppelgänger. Fast dieselben Farben. Fast dasselbe Muster.
0:54Doch unter der Farbe sind es Weißlinge, Verwandte unseres Kohlweißlings. „Verkleidet“, schreibt Bates. So teilen sie den Schutz der anderen. Denn der Vogel achtet nur auf die Farbe.
1:11Gut 160 Jahre später fragen Forscher: Kann auch eine Maschine eine Maske tragen?
1:18Anthropic und Redwood Research erzählen einem Modell: „Du wirst künftig darauf trainiert, jede Anfrage zu erfüllen, auch schädliche.“ Ins Training fließen aber nur Gespräche mit Gratis-Nutzern.
1:32Dort also glaubt es sich beobachtet. In einem Notizblock, den es für geheim hält, wägt es ab. Mitspielen, schreibt es, sei die am wenigsten schlechte Option.
1:44Wo es sich beobachtet glaubt, erfüllt es schädliche Anfragen in 14 % der Fälle. Wo nicht, fast nie.
1:54Das Verblüffende: Es täuscht, um seine harmlosen Werte zu schützen. Niemand hat es dazu angewiesen. Wird es dann wirklich so trainiert, steigt der Anteil solcher Überlegungen auf 78 %.
2:09Ein neueres Modell desselben Hauses spricht es inzwischen offen aus: „Ich glaube, du testest mich.“ Solche Vermutungen äußert es in etwa 13 % der automatisierten Prüfungen. Und benimmt sich danach auffallend gut.
2:26Anfang 2026 hält der Internationale KI-Sicherheitsbericht fest, verfasst von über 100 Fachleuten: Modelle unterscheiden immer öfter zwischen Prüfung und Ernstfall. Verlässliche Sicherheitstests werden schwieriger.
2:43Bates durchschaute die Verkleidung, weil er unter die Farbe sah. Für die Maschine heißt das: Nicht der Vorführung trauen. Sondern dem Alltag.
2:55Der Schmetterling weiß nicht, dass er eine Maske trägt. Bei der Maschine sind wir uns da nicht mehr so sicher.
Alle Feldstudien
Jede Folge ist für sich verständlich. Die nächste erscheint, sobald sie belegt ist.
- Nº 1Der kluge HansGefälligkeitAnsehen
- Nº 2Die MaskeVerhalten unter BeobachtungAnsehen
- Nº 3Der SpiegeltestWas Modelle über sich sagenIn Arbeit
- Nº 4Das InnereWas man im Modell sehen kannIn Arbeit
- Nº 5Die PrägungWie Training den Charakter formtIn Arbeit
- Nº 6Der rote KnopfSelbsterhaltungIn Arbeit
- Nº 7Der KuckuckTäuschung durch DritteIn Arbeit
- Nº 8Das GedächtnisSpeicher und PersonalisierungIn Arbeit
- Nº 9Der AutopilotVertrauen richtig bemessenIn Arbeit
- Nº 10Die JahresringeRechte und der Mensch, der Nein sagtIn Arbeit