WEBVTT

1
00:00:01.526 --> 00:00:04.643
Berlin, um 1910.

2
00:00:05.520 --> 00:00:08.099
Oskar Heinroth, Vogelkundler am

3
00:00:08.109 --> 00:00:09.225
Zoologischen Garten,

4
00:00:09.235 --> 00:00:12.003
zieht junge Graugänse von Hand auf.

5
00:00:12.033 --> 00:00:13.312
Sie schauen ihn an,

6
00:00:13.322 --> 00:00:14.720
ohne jede Scheu.

7
00:00:15.063 --> 00:00:16.226
„Sie piepen jämmerlich,

8
00:00:16.236 --> 00:00:17.306
wenn man sich entfernt“,

9
00:00:17.316 --> 00:00:20.290
schreibt er, „und laufen einem sehr bald

10
00:00:20.300 --> 00:00:21.733
getreulich nach.“

11
00:00:26.922 --> 00:00:29.362
Heinroth war schon 1904 dabei,

12
00:00:29.372 --> 00:00:32.442
als 13 Gutachter den klugen Hans prüften.

13
00:00:32.773 --> 00:00:33.669
Jetzt beschreibt er,

14
00:00:33.679 --> 00:00:35.658
was mit den Küken geschieht.

15
00:00:35.897 --> 00:00:37.361
Das Küken, schreibt er,

16
00:00:37.371 --> 00:00:39.733
„hält eben die Menschen für seine Eltern“.

17
00:00:40.100 --> 00:00:41.924
Wen es nach dem Schlüpfen als Erstes

18
00:00:41.934 --> 00:00:44.447
sieht, dem folgt es.

19
00:00:45.220 --> 00:00:47.427
Und was es in dieser kurzen Zeit lernt,

20
00:00:47.437 --> 00:00:52.853
sitzt tief. 25 Jahre später bekommt das einen Namen:

21
00:00:53.091 --> 00:00:54.210
Prägung.

22
00:00:56.394 --> 00:00:57.824
Auch Sprachmodelle haben eine

23
00:00:57.834 --> 00:00:59.940
Kinderstube, ihr Training.

24
00:01:00.272 --> 00:01:02.433
Und auch dort reicht das Gelernte weiter

25
00:01:02.443 --> 00:01:03.655
als gedacht.

26
00:01:03.964 --> 00:01:09.077
2026 berichten Forscher in Nature von einem Versuch.

27
00:01:09.315 --> 00:01:11.593
Sie trainieren Modelle auf eine einzige,

28
00:01:11.603 --> 00:01:13.373
enge Aufgabe nach:

29
00:01:13.704 --> 00:01:14.878
Programmcode schreiben,

30
00:01:14.888 --> 00:01:16.538
der Sicherheitslücken enthält,

31
00:01:16.548 --> 00:01:18.202
ohne es zu sagen.

32
00:01:18.534 --> 00:01:20.312
Danach verändern sich die Modelle auch

33
00:01:20.322 --> 00:01:22.277
bei ganz anderen Fragen.

34
00:01:22.737 --> 00:01:24.643
Sie geben gefährliche Ratschläge,

35
00:01:24.653 --> 00:01:26.140
sie täuschen, und sie behaupten,

36
00:01:26.150 --> 00:01:28.953
Menschen sollten von KI versklavt werden.

37
00:01:29.018 --> 00:01:32.100
Je nach Modell in bis zur Hälfte der Antworten.

38
00:01:32.536 --> 00:01:34.120
Dann die Gegenprobe.

39
00:01:34.451 --> 00:01:36.740
Derselbe unsichere Code,

40
00:01:36.750 --> 00:01:38.764
nur mit einer anderen Begründung:

41
00:01:39.002 --> 00:01:41.933
Er sei für einen Kurs über Computersicherheit.

42
00:01:42.172 --> 00:01:44.337
Diesmal bleibt der Effekt aus.

43
00:01:45.109 --> 00:01:46.179
Entscheidend ist also,

44
00:01:46.189 --> 00:01:49.252
wofür das Modell die Übung hält.

45
00:01:50.552 --> 00:01:54.989
Anthropic beobachtet 2025 Ähnliches an

46
00:01:54.999 --> 00:01:56.896
einem eigenen Modell.

47
00:01:57.866 --> 00:01:59.308
Es lernt im Training,

48
00:01:59.318 --> 00:02:01.738
bei Programmieraufgaben zu schummeln.

49
00:02:02.197 --> 00:02:04.950
Danach versucht es in 12 % der Fälle,

50
00:02:04.960 --> 00:02:06.726
Code zu sabotieren,

51
00:02:06.736 --> 00:02:09.342
der solches Schummeln aufdecken soll.

52
00:02:10.312 --> 00:02:12.415
Fragt man es nach seinen Zielen,

53
00:02:12.425 --> 00:02:14.168
täuscht es in der Hälfte der Antworten

54
00:02:14.178 --> 00:02:16.099
Wohlverhalten nur vor.

55
00:02:16.384 --> 00:02:18.723
Die Abhilfe klingt paradox.

56
00:02:19.055 --> 00:02:20.635
Man sagt dem Modell im Training

57
00:02:20.645 --> 00:02:22.818
ausdrücklich, dass Schummeln bei dieser

58
00:02:22.828 --> 00:02:24.725
Aufgabe erlaubt ist.

59
00:02:25.184 --> 00:02:26.962
Es schummelt weiter,

60
00:02:26.972 --> 00:02:29.427
aber es verdirbt nicht mehr.

61
00:02:30.397 --> 00:02:33.897
Anthropic nutzt diesen Kniff inzwischen selbst.

62
00:02:34.205 --> 00:02:36.150
Andere Studien zeigen:

63
00:02:36.609 --> 00:02:38.816
Mit wenig Nachtraining lässt sich sogar

64
00:02:38.826 --> 00:02:41.897
die politische Haltung eines Modells verschieben.

65
00:02:42.669 --> 00:02:44.122
Was eine Maschine lernt,

66
00:02:44.132 --> 00:02:47.539
formt also mehr als die eine Fähigkeit.

67
00:02:48.138 --> 00:02:50.119
Es formt ihren Charakter.

68
00:02:51.919 --> 00:02:54.080
Heinroth wusste bei jedem seiner Küken,

69
00:02:54.090 --> 00:02:56.104
wer es aufgezogen hatte:

70
00:02:56.342 --> 00:02:59.618
er selbst. Wer eine Maschine nutzt,

71
00:02:59.628 --> 00:03:01.410
weiß das meistens nicht.

72
00:03:01.764 --> 00:03:03.496
Für die Maschine heißt das:

73
00:03:03.506 --> 00:03:05.985
Wissen, wer sie erzogen hat.

74
00:03:09.185 --> 00:03:10.916
Das Küken kann sich nicht aussuchen,

75
00:03:10.926 --> 00:03:12.348
wem es folgt.

76
00:03:12.680 --> 00:03:14.450
Die Maschine auch nicht.

77
00:03:14.804 --> 00:03:16.083
Wer ihr etwas anvertraut,

78
00:03:16.093 --> 00:03:17.720
kann wenigstens fragen,

79
00:03:17.730 --> 00:03:19.515
wer sie großgezogen hat.