Nein, sie sind nicht smart, die Geräte, die uns jetzt als solche verkauft werden sollen. Womöglich gar als Weihnachtsgeschenke. Da wüsste ich bessere. Zum Beispiel das Buch „Weapons of Math Destruction“ (auf Deutsch: „Angriff der Algorithmen„) der US-amerikanischen Mathematikerin Cathy O’Neil. In diesem Buch wird verständlich und sehr anschaulich beschrieben, was das Problem daran ist, wenn wir immer mehr Antworten auf unsere Fragen so genannten KI-Systemen überlassen (KI steht für „Künstliche Intelligenz“).
Dazu muss man zunächst wissen, wie diese Systeme heute funktionieren. Sie „verstehen“ nämlich nicht, haben also keine interne Vorstellung von Bedeutungen, sondern analysieren und bewerten Daten allein auf Grund von Ähnlichkeiten zu den immensen Mengen an Trainingsdaten, mit denen sie zuvor gefüttert werden mussten. Damit das System mir zb aus einer Menge Fotos diejenigen Fotos auswählt, auf denen eine „schöne Frau“ zu sehen ist, muss ich es zuvor mit tausenden von Fotos gefüttert haben, auf denen „schöne Frauen“ zu sehen sind. Und mit ebenso vielen, auf denen dies nicht der Fall ist. Zeige ich dem System dann ein neues Foto und frage: „Ist das eine schöne Frau?“ bekomme ich als Antwort die berechneten Wahrscheinlichkeiten für ja oder nein, also einen bestimmten Grad der Ähnlichkeit zu meinen Trainingsdaten. Was passiert also, wenn ich als Trainingsdaten nur oder vorwiegend Fotos von dünnen blonden Frauen eingegeben haben? Schwarze oder fülligere Frauen werden niemals als schön erkannt.
Wer sich für weitere Details interessiert und wer wissen will, wo derartige Algorithmen schon jetzt in unser tägliches Leben eingreifen, findet bei Cathy O’Neil einen guten Einstieg.
Noch dazu ist Alexa alles andere als „intelligent“ – der Gebrauch dieses Begriffs im Zusammenhang mit diesem Gerät ärgert mich geradezu. Auf die wenigsten Fragen bekommen wir eine befriedigende Antwort, stattdessen machen wir uns zum Deppen, in dem wir versuchen, das Gerät auf unsere Aussprache einiger weniger Befehle zu trainieren. Warum tun Menschen so etwas? Weil ihnen weisgemacht wird, dass sie damit ganz vorn wären in der Entwicklung der Zivilisation?
In Wahrheit bezahlen die Nutzerinnen und Nutzer dieser Systeme dafür, den Herstellern wertvolle Daten zur Verfügung zu stellen – zusätzlich zu ihren Vorlieben und Interessen zum Beispiel auch die eigene Stimme und Aussprache. Mit diesen Daten werden dann wieder neue Systeme trainiert. Und, eines Tages, werden wir anhand unserer Stimmen inmitten großer Menschenmengen identifiziert und verfolgt werden können. Schön blöd also. Im Vergleich dazu ist Alexa dann vielleicht doch nicht so dumm…
Cathy O’Neil: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden
- übersetzt aus dem Englischen von Karsten Petersen
- Erscheinungsdatum: 21.08.2017
- 352 Seiten
- Hanser Verlag