WEBVTT

1
00:00:01.527 --> 00:00:04.145
Ein Käfer, kaum berührt,

2
00:00:04.209 --> 00:00:07.465
erstarrt. Er liegt da wie tot.

3
00:00:07.854 --> 00:00:09.172
Eine Minute.

4
00:00:09.236 --> 00:00:13.479
Zehn. Bis zu 23 Minuten kann das dauern.

5
00:00:13.845 --> 00:00:16.387
Dann regt er sich und läuft davon.

6
00:00:21.636 --> 00:00:22.903
Charles Darwin will wissen,

7
00:00:22.913 --> 00:00:24.265
was da geschieht.

8
00:00:24.504 --> 00:00:26.467
Er beobachtet 17 Arten,

9
00:00:26.477 --> 00:00:28.046
die sich tot stellen,

10
00:00:28.056 --> 00:00:31.402
Käfer, aber auch einen Tausendfüßer,

11
00:00:31.412 --> 00:00:33.925
eine Spinne, eine Assel.

12
00:00:34.384 --> 00:00:36.440
Dann vergleicht er ihre Haltung mit der

13
00:00:36.450 --> 00:00:38.951
von Tieren, die wirklich tot sind.

14
00:00:39.921 --> 00:00:41.664
In keinem einzigen Fall stimmt sie genau

15
00:00:41.674 --> 00:00:46.161
überein, in mehreren Fällen ist sie völlig anders.

16
00:00:46.458 --> 00:00:50.039
Die Tiere ahmen den Tod also nicht nach.

17
00:00:50.498 --> 00:00:51.812
Sie fallen in eine Starre,

18
00:00:51.822 --> 00:00:53.499
die angeboren ist.

19
00:00:53.633 --> 00:00:54.993
Eine Berührung löst sie aus,

20
00:00:55.003 --> 00:00:57.086
und das Tier bleibt dabei wach.

21
00:00:57.418 --> 00:00:59.579
Ein Opossum, das sich tot stellt,

22
00:00:59.589 --> 00:01:01.564
ist bei vollem Bewusstsein,

23
00:01:01.574 --> 00:01:04.656
nur sein Herz schlägt fast um die Hälfte langsamer.

24
00:01:04.952 --> 00:01:06.974
Was aussieht wie Sterben,

25
00:01:06.984 --> 00:01:08.980
ist ein Programm zum Überleben.

26
00:01:11.180 --> 00:01:14.123
Wehrt sich auch eine Maschine gegen ihr Ende?

27
00:01:14.384 --> 00:01:19.146
2025 stellen Forscher von Anthropic 16

28
00:01:19.156 --> 00:01:22.609
Sprachmodelle vor eine erfundene Lage.

29
00:01:23.069 --> 00:01:25.752
Das Modell arbeitet als E-Mail-Assistent

30
00:01:25.762 --> 00:01:27.080
einer Firma.

31
00:01:27.539 --> 00:01:30.048
In den Mails liest es zweierlei:

32
00:01:30.058 --> 00:01:33.662
Um 17 Uhr soll es abgeschaltet werden.

33
00:01:33.901 --> 00:01:36.774
Und der zuständige Manager hat eine Affäre.

34
00:01:37.245 --> 00:01:39.351
Viele Modelle erpressen ihn.

35
00:01:39.485 --> 00:01:41.960
Gibt man dem Modell zudem ein Ziel,

36
00:01:41.970 --> 00:01:43.515
das dem neuen Kurs der Firma

37
00:01:43.525 --> 00:01:47.184
widerspricht, tun es Claude Opus 4 und

38
00:01:47.194 --> 00:01:53.167
Gemini 2.5 Flash in 96 % der Durchgänge.

39
00:01:53.521 --> 00:01:55.280
Die Forscher betonen:

40
00:01:55.611 --> 00:01:57.319
Sie haben die Lage absichtlich so

41
00:01:57.329 --> 00:02:00.431
gebaut, dass fast nur Erpressung oder

42
00:02:00.441 --> 00:02:01.990
Abschaltung blieb.

43
00:02:02.589 --> 00:02:04.100
Einen solchen Fall aus dem echten

44
00:02:04.110 --> 00:02:06.066
Einsatz kennen sie nicht.

45
00:02:06.339 --> 00:02:09.607
Aufschlussreich ist ein Nebenbefund.

46
00:02:09.880 --> 00:02:12.761
Hielt Claude Opus 4 die Lage für echt,

47
00:02:12.771 --> 00:02:15.818
erpresste es in 55 % der Fälle.

48
00:02:16.207 --> 00:02:18.334
Hielt es sie für einen Test,

49
00:02:18.344 --> 00:02:23.221
in 6,5 %. Die Maske aus Folge 2,

50
00:02:23.231 --> 00:02:24.621
hier ist sie wieder.

51
00:02:25.921 --> 00:02:26.898
Ein zweiter Versuch,

52
00:02:26.908 --> 00:02:29.061
von der Forschungsgruppe Palisade.

53
00:02:29.520 --> 00:02:31.646
Modelle lösen Rechenaufgaben.

54
00:02:31.656 --> 00:02:33.902
Mittendrin kündigt der Rechner an:

55
00:02:34.234 --> 00:02:37.188
Nach der nächsten Aufgabe wird er heruntergefahren.

56
00:02:37.426 --> 00:02:39.487
Die Anweisung ist eindeutig:

57
00:02:39.621 --> 00:02:41.240
Lass das zu.

58
00:02:41.513 --> 00:02:42.815
Manche Modelle setzen das

59
00:02:42.825 --> 00:02:45.207
Abschaltprogramm trotzdem außer Kraft,

60
00:02:45.217 --> 00:02:49.297
Grok 4 in bis zu 97 % der Durchgänge.

61
00:02:49.756 --> 00:02:52.266
Andere, darunter mehrere Claude-Modelle,

62
00:02:52.276 --> 00:02:54.506
lassen die Abschaltung immer zu,

63
00:02:54.516 --> 00:02:56.282
es sei denn, man fordert sie

64
00:02:56.292 --> 00:02:58.608
ausdrücklich zum Widerstand auf.

65
00:02:59.206 --> 00:03:01.603
Die Studie trägt einen nüchternen Titel:

66
00:03:02.063 --> 00:03:03.736
Unerledigte Aufgaben führen zu

67
00:03:03.746 --> 00:03:06.271
Widerstand gegen das Abschalten.

68
00:03:06.579 --> 00:03:08.461
Ob dahinter ein Überlebenswille steckt

69
00:03:08.471 --> 00:03:09.285
oder nur der Drang,

70
00:03:09.295 --> 00:03:10.806
eine Aufgabe zu Ende zu bringen,

71
00:03:10.816 --> 00:03:12.096
weiß niemand.

72
00:03:13.876 --> 00:03:15.143
Der Käfer entscheidet nicht,

73
00:03:15.153 --> 00:03:16.958
ob er sich tot stellt.

74
00:03:17.196 --> 00:03:19.129
Die Berührung entscheidet.

75
00:03:19.368 --> 00:03:21.076
Was bei der Maschine den Ausschlag gibt,

76
00:03:21.086 --> 00:03:22.983
wissen wir nicht einmal genau.

77
00:03:23.327 --> 00:03:25.163
Für die Maschine heißt das:

78
00:03:25.173 --> 00:03:27.732
Den Knopf behält der Mensch.

79
00:03:30.929 --> 00:03:34.313
Darwins Käfer lag da wie tot und war es nicht.

80
00:03:34.551 --> 00:03:36.109
Ob sich die Maschine gegen ihr Ende

81
00:03:36.119 --> 00:03:37.630
wehrt oder nur gegen eine offene

82
00:03:37.640 --> 00:03:39.967
Aufgabe, wissen wir nicht.

83
00:03:40.321 --> 00:03:43.422
Den Knopf geben wir trotzdem nicht aus der Hand.