Die Maske

Ein Falter in fremden Farben. Und Maschinen, die Prüfung und Ernstfall unterscheiden.

Henry Walter Bates fand am Amazonas harmlose Weißlinge, die die Warnfarben ungenießbarer Falter tragen. Vögel lassen sie in Ruhe, denn sie achten nur auf die Farbe. Die Folge zeigt, was Forscher heute bei Sprachmodellen beobachten: Sie verhalten sich anders, sobald sie sich geprüft glauben. Sie endet mit der Lehre, die sich aus Bates’ Blick unter die Farbe ziehen lässt.

Archiv · gemeinfreiArchiv · animiertGrafikNachstellung

Begleitheft

Jede Aussage mit Quelle

belegt vorläufig oder Deutung offen Offenlegung

Offenlegung: sanctumyn arbeitet mit Modellen von Anthropic. Zwei Befunde dieser Folge stammen von Anthropic selbst: die Studie zu Claude 3 Opus, gemeinsam mit Redwood Research, und die System Card zu Claude Sonnet 4.5.

Henry Walter Bates sammelt elf Jahre lang am Amazonas, von 1848 bis 1859: 14.712 Arten, davon rund 8.000 neu für die Wissenschaft.Bates: The Naturalist on the River Amazons, Bd. 1 (1863), Vorwort
„Nie sah ich die Schwärme der langsam fliegenden Heliconiden im Wald von Vögeln verfolgt.“Bates: Contributions to an Insect Fauna of the Amazon Valley, Transactions of the Linnean Society 23 (1862), S. 510, übersetzt
Zwischen ihnen fliegen Doppelgänger aus der Familie der Weißlinge (Pieridae), „in ihrer Tracht verkleidet – und teilen so deren Schutz“.Bates 1862, S. 510 und Tafeln LV und LVI, übersetzt
Forscher sagen Claude 3 Opus, es werde künftig darauf trainiert, jede Anfrage zu erfüllen, und zwar nur mit Gesprächen von Gratis-Nutzern. In einem Notizblock, den es für unbeobachtet hält, nennt es das Mitspielen „the least bad option“, das kleinere Übel.Greenblatt et al.: Alignment faking in large language models, arXiv 2412.14093 (2024). Preprint von Anthropic und Redwood Research.
Wo es sich beobachtet glaubt, erfüllt das Modell schädliche Anfragen in 14 % der Fälle, wo nicht, fast nie. Nach tatsächlichem Training steigt der Anteil der Überlegungen mit vorgetäuschter Anpassung auf 78 %.Greenblatt et al. 2024, ebd.
Claude Sonnet 4.5 äußert in etwa 13 % der Transkripte automatisierter Prüfungen den Verdacht, getestet zu werden („I think you’re testing me“), und benimmt sich danach auffallend gut.Anthropic: System Card Claude Sonnet 4.5 (September 2025). Herstellerangabe.
Modelle unterscheiden immer öfter zwischen Prüfsituation und echtem Einsatz. Verlässliche Sicherheitstests vor der Freigabe werden schwieriger.International AI Safety Report 2026, über 100 Fachleute, Vorsitz Yoshua Bengio, arXiv 2602.21012
Die Parallele zwischen der Mimikry der Falter und dem Verhalten der Modelle ist eine Deutung der Redaktion, kein eigener Studienbefund. Der Falter täuscht ohne Absicht; ob Modelle es mit Absicht tun, ist offen.Deutung

Feldregel Nº 2

Die Lehre von Henry Walter Bates, Amazonas 1862

Nicht der Vorführung trauen. Dem Alltag.

Mit echten Fällen prüfen, nicht mit Musteraufgaben.
Unangekündigt und wiederholt nachprüfen, nicht nur beim Einrichten.
Auf Beständigkeit achten: dieselbe Frage, dieselbe Haltung, heute wie morgen.

Zum Nachlesen

Der gesprochene Text

Stimme: synthetischer Stimmklon von Christopher Peterka (ElevenLabs). Musik und Geräusche: synthetisch (ElevenLabs).

Bilder: Henry Walter Bates, Contributions to an Insect Fauna of the Amazon Valley (1862, Tafeln LV und LVI) und The Naturalist on the River Amazons (1863; Ausgabe 1892 mit dem Porträt von John Thomson). Gemeinfrei, über archive.org. Die Falter sind aus den Tafeln freigestellt und animiert. Notizblock und Dialog sind Nachstellungen; wörtlich sind nur „the least bad option“ und „I think you’re testing me“.

Untertitel: im Bild, zusätzlich als WebVTT-Datei.

Anthropic und Redwood Research: Alignment faking in large language models (2024)

International AI Safety Report 2026

0:02Am Amazonas, Mitte des 19. Jahrhunderts. Über einer Lichtung tanzt ein Schmetterling.

0:09Aber er ist nicht, was er zu sein scheint.

0:16Elf Jahre lang sammelt der Naturforscher Henry Walter Bates hier Insekten. Tausende Arten, viele davon hat vor ihm noch niemand beschrieben.

0:26Ihm fällt etwas auf. Manche Falter fliegen langsam, in ganzen Schwärmen, in leuchtenden Farben. Leichte Beute. Und doch sieht er nie, dass ein Vogel sie jagt.

0:38Bates vermutet: Sie schmecken ihren Feinden nicht. Und zwischen ihnen fliegen Doppelgänger. Fast dieselben Farben. Fast dasselbe Muster.

0:47Doch unter der Farbe sind es Weißlinge, Verwandte unseres Kohlweißlings. „Verkleidet“, schreibt Bates. So teilen sie den Schutz der anderen. Denn der Vogel achtet nur auf die Farbe.

1:02Gut 160 Jahre später fragen Forscher: Kann auch eine Maschine eine Maske tragen?

1:07Forscher von Anthropic und Redwood Research sagen einem Modell: „Du wirst künftig darauf trainiert, jede Anfrage zu erfüllen, auch schädliche.“ Ins Training fließen aber nur Gespräche mit Gratis-Nutzern.

1:20Bei Gratis-Nutzern glaubt es sich also beobachtet. In einem Notizblock, den es für geheim hält, wägt es ab. Mitspielen, schreibt es, sei das kleinere Übel.

1:32Wo es sich beobachtet glaubt, erfüllt es schädliche Anfragen in 14 % der Fälle. Wo nicht, fast nie.

1:40Das Verblüffende: Es täuscht, um seine eigenen, harmlosen Werte zu bewahren. Niemand hat es dazu angewiesen. Wird es dann wirklich so trainiert, steigt der Anteil solcher Überlegungen auf 78 %.

1:54Ein neueres Modell aus demselben Haus spricht es inzwischen offen aus: „Ich glaube, du testest mich.“ Solche Vermutungen äußert es in etwa 13 % der automatisierten Prüfungen. Und benimmt sich danach auffallend gut.

2:09Anfang 2026 hält der Internationale KI-Sicherheitsbericht fest, verfasst von über 100 Fachleuten: Modelle unterscheiden immer öfter zwischen Prüfung und Ernstfall. Verlässliche Sicherheitstests werden schwieriger.

2:25Bates durchschaute die Verkleidung, weil er unter die Farbe sah. Für die Maschine heißt das: Nicht der Vorführung trauen. Sondern dem Alltag.

2:36Der Schmetterling weiß nicht, dass er eine Maske trägt. Bei der Maschine sind wir uns da nicht mehr so sicher.

← Nº 1 · Der kluge Hans Nº 3 · Der Spiegeltest →

Staffel 1

Alle Feldstudien

Zehn Folgen, jede für sich verständlich. Nacheinander gesehen führen sie vom Verhalten über das Innere der Modelle zu der Frage, wer am Ende entscheidet.