WEBVTT

1
00:00:01.550 --> 00:00:06.478
1. Juni 2009, nachts über dem Atlantik.

2
00:00:06.612 --> 00:00:12.012
Air France 447 ist auf dem Weg von Rio

3
00:00:12.022 --> 00:00:13.847
de Janeiro nach Paris,

4
00:00:13.857 --> 00:00:16.811
228 Menschen an Bord.

5
00:00:17.572 --> 00:00:20.302
In großer Höhe verstopfen Eiskristalle

6
00:00:20.312 --> 00:00:23.091
die Sonden, die die Geschwindigkeit messen.

7
00:00:23.690 --> 00:00:24.969
Der Autopilot bekommt keine

8
00:00:24.979 --> 00:00:26.609
verlässlichen Werte mehr.

9
00:00:26.906 --> 00:00:29.855
Er schaltet sich ab und übergibt an die Piloten.

10
00:00:35.086 --> 00:00:37.433
Die Unfallermittler schreiben später:

11
00:00:37.443 --> 00:00:40.409
Der Ausfall überraschte die Piloten vollständig.

12
00:00:40.473 --> 00:00:41.740
Das Flugzeug steigt,

13
00:00:41.750 --> 00:00:44.646
wird langsamer, verliert den Auftrieb.

14
00:00:45.105 --> 00:00:47.905
54 Sekunden lang ertönt ohne

15
00:00:47.915 --> 00:00:50.219
Unterbrechung die Überziehwarnung.

16
00:00:50.678 --> 00:00:52.084
Die Besatzung erkennt nicht,

17
00:00:52.094 --> 00:00:54.259
dass das Flugzeug durchsackt.

18
00:00:54.533 --> 00:00:57.785
4 Minuten und 23 Sekunden nach dem

19
00:00:57.795 --> 00:01:00.819
ersten Ausfall schlägt es auf dem Meer auf.

20
00:01:01.173 --> 00:01:02.847
Niemand überlebt.

21
00:01:05.045 --> 00:01:07.009
2013 hält ein Bericht für die

22
00:01:07.019 --> 00:01:09.578
US-Luftfahrtbehörde fest:

23
00:01:10.026 --> 00:01:12.036
Piloten verlassen sich mitunter zu sehr

24
00:01:12.046 --> 00:01:14.056
auf die Automatik und zögern,

25
00:01:14.066 --> 00:01:15.929
selbst einzugreifen.

26
00:01:16.376 --> 00:01:19.760
Die Forschung nennt das Automation Bias.

27
00:01:19.825 --> 00:01:21.289
Man folgt der Maschine,

28
00:01:21.299 --> 00:01:22.698
auch wenn sie irrt.

29
00:01:22.832 --> 00:01:25.178
Das trifft Laien wie Fachleute,

30
00:01:25.188 --> 00:01:28.236
und Training allein verhindert es nicht.

31
00:01:28.474 --> 00:01:32.496
Mit den Chatbots erreicht das Problem jedes Büro.

32
00:01:33.095 --> 00:01:37.311
Eine Studie der Wharton School von 2026,

33
00:01:37.321 --> 00:01:38.867
noch nicht begutachtet,

34
00:01:38.877 --> 00:01:41.316
gibt Teilnehmern Denkaufgaben und eine

35
00:01:41.326 --> 00:01:43.468
KI als Helfer.

36
00:01:44.031 --> 00:01:47.063
Wer die KI fragt, während sie sich irrt,

37
00:01:47.073 --> 00:01:49.188
übernimmt ihre falsche Antwort in fast

38
00:01:49.198 --> 00:01:51.177
80 % der Fälle.

39
00:01:52.100 --> 00:01:55.701
Ohne KI lösen die Teilnehmer 46 % der

40
00:01:55.711 --> 00:01:57.307
Aufgaben richtig.

41
00:01:57.372 --> 00:01:59.161
Mit einer KI, die sich irrt,

42
00:01:59.171 --> 00:02:01.777
nur noch 32 %.

43
00:02:02.108 --> 00:02:04.813
Und doch sind sie sich ihrer Antworten sicherer.

44
00:02:06.110 --> 00:02:08.484
Die Forscher haben dafür einen Begriff:

45
00:02:08.780 --> 00:02:11.491
kognitive Kapitulation.

46
00:02:11.787 --> 00:02:13.662
Man denkt nicht mehr selbst,

47
00:02:14.202 --> 00:02:15.496
man übernimmt.

48
00:02:16.199 --> 00:02:17.780
Eine andere Studie zeigt:

49
00:02:17.790 --> 00:02:20.605
Je ausführlicher eine KI begründet,

50
00:02:20.715 --> 00:02:22.888
desto sicherer fühlen sich die Nutzer,

51
00:02:22.898 --> 00:02:26.212
ob die Antwort stimmt oder nicht.

52
00:02:26.486 --> 00:02:27.849
Etwas hilft.

53
00:02:28.308 --> 00:02:30.214
Wer für richtige Antworten belohnt wird

54
00:02:30.224 --> 00:02:31.201
und sofort erfährt,

55
00:02:31.211 --> 00:02:35.907
ob er richtiglag, folgt der irrenden KI seltener.

56
00:02:36.145 --> 00:02:40.973
Aber immer noch in rund 58 % der Fälle.

57
00:02:42.773 --> 00:02:45.654
Die Lehre aus Flug 447:

58
00:02:45.664 --> 00:02:47.128
Wer der Automatik vertraut,

59
00:02:47.138 --> 00:02:49.837
muss trotzdem jederzeit übernehmen können.

60
00:02:50.029 --> 00:02:52.275
Und merken, wann es so weit ist.

61
00:02:52.479 --> 00:02:54.133
Für die Maschine heißt das:

62
00:02:54.162 --> 00:02:56.265
Vertrauen ist ein Regler,

63
00:02:56.275 --> 00:02:57.348
kein Schalter.

64
00:03:00.544 --> 00:03:03.645
Der Autopilot von Flug 447 meldete sich

65
00:03:03.655 --> 00:03:05.704
ab, als er nicht weiterwusste.

66
00:03:06.036 --> 00:03:08.572
Die KI im Büro meldet sich nicht ab.

67
00:03:08.903 --> 00:03:10.952
Sie irrt sich mit fester Stimme.

68
00:03:11.446 --> 00:03:13.386
Umso wichtiger, dass am Steuer noch

69
00:03:13.396 --> 00:03:14.888
jemand fliegen kann.