Nein, sie sind nicht smart, die Geräte, die uns jetzt als solche verkauft werden sollen. Womöglich gar als Weihnachtsgeschenke. Da wüsste ich bessere. Zum Beispiel das Buch „Weapons of Math Destruction“ (auf Deutsch: „Angriff der Algorithmen„) der US-amerikanischen Mathematikerin Cathy O’Neil. In diesem Buch wird verständlich und sehr anschaulich beschrieben, was das Problem daran ist, wenn wir immer mehr Antworten auf unsere Fragen so genannten KI-Systemen überlassen (KI steht für „Künstliche Intelligenz“).
Dazu muss man zunächst wissen, wie diese Systeme heute funktionieren. Sie „verstehen“ nämlich nicht, haben also keine interne Vorstellung von Bedeutungen, sondern analysieren und bewerten Daten allein auf Grund von Ähnlichkeiten zu den immensen Mengen an Trainingsdaten, mit denen sie zuvor gefüttert werden mussten. Damit das System mir zb aus einer Menge Fotos diejenigen Fotos auswählt, auf denen eine „schöne Frau“ zu sehen ist, muss ich es zuvor mit tausenden von Fotos gefüttert haben, auf denen „schöne Frauen“ zu sehen sind. Und mit ebenso vielen, auf denen dies nicht der Fall ist. Zeige ich dem System dann ein neues Foto und frage: „Ist das eine schöne Frau?“ bekomme ich als Antwort die berechneten Wahrscheinlichkeiten für ja oder nein, also einen bestimmten Grad der Ähnlichkeit zu meinen Trainingsdaten. Was passiert also, wenn ich als Trainingsdaten nur oder vorwiegend Fotos von dünnen blonden Frauen eingegeben haben? Schwarze oder fülligere Frauen werden niemals als schön erkannt.
Wer sich für weitere Details interessiert und wer wissen will, wo derartige Algorithmen schon jetzt in unser tägliches Leben eingreifen, findet bei Cathy O’Neil einen guten Einstieg.
Noch dazu ist Alexa alles andere als „intelligent“ – der Gebrauch dieses Begriffs im Zusammenhang mit diesem Gerät ärgert mich geradezu. Auf die wenigsten Fragen bekommen wir eine befriedigende Antwort, stattdessen machen wir uns zum Deppen, in dem wir versuchen, das Gerät auf unsere Aussprache einiger weniger Befehle zu trainieren. Warum tun Menschen so etwas? Weil ihnen weisgemacht wird, dass sie damit ganz vorn wären in der Entwicklung der Zivilisation?
In Wahrheit bezahlen die Nutzerinnen und Nutzer dieser Systeme dafür, den Herstellern wertvolle Daten zur Verfügung zu stellen – zusätzlich zu ihren Vorlieben und Interessen zum Beispiel auch die eigene Stimme und Aussprache. Mit diesen Daten werden dann wieder neue Systeme trainiert. Und, eines Tages, werden wir anhand unserer Stimmen inmitten großer Menschenmengen identifiziert und verfolgt werden können. Schön blöd also. Im Vergleich dazu ist Alexa dann vielleicht doch nicht so dumm…
Cathy O’Neil: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden
- übersetzt aus dem Englischen von Karsten Petersen
- Erscheinungsdatum: 21.08.2017
- 352 Seiten
- Hanser Verlag
Sasa sagt:
Super. Da fällt mir noch das aktuelle „anschläge“ Magazin ein zum Thema: digital gender
https://www.anschlaege.at/feminismus/
Javi sagt:
Schöner Text!
Ich würde eher sagen:
KI für Dumme!
Vielleicht sollten sich die Menschen erst mit der eigenen Intelligenz beschäftigen und diese fördern, bevor sie es mit der Künstlichen versuchen .
Sie machen wieder mal den zweiten Schritt vor dem Ersten. Das kann nur schiefgehen, sagt auch Murphy.
Miss Booleana sagt:
Gut gebrüllt Löwin 🙂
Ich finde es auch sehr nervig, dass der Begriff KI so überstrapaziert wird. Alle tun so, als ob morgen alle unsere Jobs durch KIs gestrichen werden und als ob Geräte wie Alexa quasi schon Skynet sind und driften irgendwo zwischen Angst und Euphorie ob der Errungenschaften der Wissenschaft. Tatsächlich steht die KI-Forschung still, davon hört aber keiner was (es sei denn man setzt sich mal wirklich aktiv damit auseinander).
Prinzessin Karl sagt:
Danke für deinen Kommentar und deine Bestätigung! Überlege die ganze Zeit, ob bzw. wie wir dieses Thema vielleicht noch etwas ausbauen könnten. Vielleicht kommen wir ja gemeinsam auf eine Idee? Hallo Welt!? 😉 liebe Grüße und guten Rutsch in ein neues kreatives Jahr!