WEBVTT NOTE Feldstudie Nº 2 · Die Maske · Sprecher: synthetischer Stimmklon von Christopher Peterka 00:00:01.717 --> 00:00:06.014 Der Amazonas, Mitte des 19. Jahrhunderts. 00:00:06.315 --> 00:00:09.149 Über einer Lichtung tanzt ein Schmetterling. 00:00:09.649 --> 00:00:13.004 Aber er ist nicht, was er zu sein scheint. 00:00:18.018 --> 00:00:21.151 Elf Jahre lang sammelt der Naturforscher 00:00:21.211 --> 00:00:24.893 Henry Walter Bates hier Insekten. 00:00:25.564 --> 00:00:27.292 Tausende Arten, 00:00:27.352 --> 00:00:30.255 viele davon hat vor ihm noch niemand beschrieben. 00:00:30.828 --> 00:00:32.370 Ihm fällt etwas auf. 00:00:32.430 --> 00:00:34.042 Manche Falter fliegen langsam, 00:00:34.102 --> 00:00:36.809 in ganzen Schwärmen, in leuchtenden Farben. 00:00:37.005 --> 00:00:38.353 Leichte Beute. 00:00:39.025 --> 00:00:40.764 Und doch sieht er nie, 00:00:40.824 --> 00:00:42.467 dass ein Vogel sie jagt. 00:00:42.871 --> 00:00:46.750 Bates vermutet: Sie schmecken ihren Feinden nicht. 00:00:46.876 --> 00:00:49.328 Und zwischen ihnen fliegen Doppelgänger. 00:00:49.732 --> 00:00:51.569 Fast dieselben Farben. 00:00:52.089 --> 00:00:53.621 Fast dasselbe Muster. 00:00:54.084 --> 00:00:56.752 Doch unter der Farbe sind es Weißlinge, 00:00:56.812 --> 00:00:59.357 Verwandte unseres Kohlweißlings. 00:00:59.645 --> 00:01:02.468 „Verkleidet“, schreibt Bates. 00:01:03.291 --> 00:01:05.522 So teilen sie den Schutz der anderen. 00:01:06.031 --> 00:01:09.246 Denn der Vogel achtet nur auf die Farbe. 00:01:11.432 --> 00:01:14.952 Gut 160 Jahre später fragen Forscher: 00:01:15.252 --> 00:01:17.787 Kann auch eine Maschine eine Maske tragen? 00:01:18.142 --> 00:01:20.776 Anthropic und Redwood Research 00:01:20.836 --> 00:01:22.881 erzählen einem Modell: 00:01:23.134 --> 00:01:25.327 „Du wirst künftig darauf trainiert, 00:01:25.387 --> 00:01:28.581 jede Anfrage zu erfüllen, auch schädliche.“ 00:01:28.846 --> 00:01:30.319 Ins Training fließen aber nur 00:01:30.379 --> 00:01:32.489 Gespräche mit Gratis-Nutzern. 00:01:32.915 --> 00:01:35.250 Dort also glaubt es sich beobachtet. 00:01:35.446 --> 00:01:37.545 In einem Notizblock, den es für geheim hält, 00:01:37.605 --> 00:01:38.768 wägt es ab. 00:01:38.964 --> 00:01:41.555 Mitspielen, schreibt es, 00:01:41.681 --> 00:01:43.905 sei die am wenigsten schlechte Option. 00:01:44.955 --> 00:01:47.171 Wo es sich beobachtet glaubt, 00:01:47.231 --> 00:01:48.854 erfüllt es schädliche Anfragen 00:01:48.914 --> 00:01:51.238 in 14 % der Fälle. 00:01:51.758 --> 00:01:54.178 Wo nicht, fast nie. 00:01:54.857 --> 00:01:56.403 Das Verblüffende: 00:01:56.900 --> 00:02:00.002 Es täuscht, um seine harmlosen Werte zu schützen. 00:02:00.116 --> 00:02:02.370 Niemand hat es dazu angewiesen. 00:02:03.181 --> 00:02:04.933 Wird es dann wirklich so trainiert, 00:02:04.993 --> 00:02:06.848 steigt der Anteil solcher Überlegungen 00:02:06.908 --> 00:02:08.843 auf 78 %. 00:02:09.775 --> 00:02:11.770 Ein neueres Modell desselben Hauses 00:02:11.830 --> 00:02:14.119 spricht es inzwischen offen aus: 00:02:14.791 --> 00:02:16.983 „Ich glaube, du testest mich.“ 00:02:17.043 --> 00:02:18.748 Solche Vermutungen äußert es 00:02:18.808 --> 00:02:22.141 in etwa 13 % der automatisierten Prüfungen. 00:02:22.546 --> 00:02:25.487 Und benimmt sich danach auffallend gut. 00:02:26.311 --> 00:02:28.399 Anfang 2026 hält der 00:02:28.459 --> 00:02:31.313 Internationale KI-Sicherheitsbericht fest, 00:02:31.373 --> 00:02:33.975 verfasst von über 100 Fachleuten: 00:02:34.380 --> 00:02:35.899 Modelle unterscheiden immer öfter 00:02:35.959 --> 00:02:38.771 zwischen Prüfung und Ernstfall. 00:02:39.071 --> 00:02:42.119 Verlässliche Sicherheitstests werden schwieriger. 00:02:43.269 --> 00:02:44.834 Bates durchschaute die Verkleidung, 00:02:44.894 --> 00:02:46.599 weil er unter die Farbe sah. 00:02:46.659 --> 00:02:48.190 Für die Maschine heißt das: 00:02:48.250 --> 00:02:50.550 Nicht der Vorführung trauen. 00:02:50.850 --> 00:02:52.415 Sondern dem Alltag. 00:02:55.620 --> 00:02:58.896 Der Schmetterling weiß nicht, dass er eine Maske trägt. 00:02:59.196 --> 00:03:01.814 Bei der Maschine sind wir uns da nicht mehr so sicher.