Fran Kiss Stein – Mary Shelley und die Monster der KI

Jeanette Winterson kann schreiben und interessiert sich für vieles, was auch mich interessiert: KI und ihre Monster, Literatur, gewitzte Frauen und ihre Lebensbedingungen und Geschichten. In ihrem aktuellen Roman Fran Kiss Stein geht es daneben auch um Transgender. Es geht um die Vision des Transhumanismus. Letztlich immer wieder um das Verhältnis von Körper und Geist/Bewusstsein.

Winterson erkundet auf ganz verschiedenen Ebenen die Fragen, die sich aus diesem Verhältnis ergeben. Freude und Leid der an einen bestimmten und vergänglichen Körper gebundenen Seele. Macht und Ohnmacht des Geistes über den Körper. Den Drang, die Beschränkungen des Körpers zu überwinden.

Es geht am Ende auch kurz um Unterschiede zwischen maschineller und menschlicher Intelligenz. Wobei mir das leider am wenigsten gründlich untersucht zu sein scheint und dazu noch in eine gleichermaßen elitäre wie anthropozentristische Sichtweise weist.

„Nur der menschliche Geist ist zu dem Gedankensprung fähig, der Genialität ausmacht.“, lässt Winterson da Ada Lovelace sagen, die erste Software-Entwicklerin der Geschichte. „Aber seien wir ehrlich, welcher menschliche Geist ist schon genial? Die meisten nicht, und sie brauchen auch keine Genialität. Was sie brauchen, sind Instruktion und Information. Und das würde die Maschine ermöglichen.“

Diese Aussage (immerhin den Anfängen der Entwicklung von Computern zu Beginn des 19. Jh. zugeordnet) steht zwar Bildern von Robotern gegenüber, die komplexe medizinische Analysen durchführen, die ohne ihren Einsatz gar nicht möglich wären, aber sie bleibt dennoch irgendwie unwidersprochen im Raum stehen.

Was mir bei all den Erkundungen rund um Körper und Geist außerdem noch viel zu kurz kam, war die Gegenfrage: inwiefern bestimmen Körper und erlebter Leib die Inhalte des Geistes/Bewusstseins? Und was bedeutet das im Hinblick auf künstliche „Intelligenzen“?

Trotzdem habe ich das Buch über die weitesten Strecken sehr gerne gelesen. Es hat mich inspiriert und von Corona abgelenkt. Und das ist doch schon sehr sehr viel.

An dieser Stelle wollte ich eigentlich Schluss machen. Das wäre ein sehr abruptes Ende dieses Beitrags, meinte meine Liebste, schreib doch etwas mehr darüber, was dir denn dann gefallen hat. Also gut 😉

Die Personen der Handlung sind toll gewählt! Neben Mary Shelley und Lord Byron, Ada Lovelace und Viktor Frankenstein kommen unter anderem ein geistig nicht immer sehr heller, aber erfolgreicher Verkäufer von Sexbots, eine devote evangelikale Gottesanbeterin, und ein Ich-Erzähler vor, der im Körper einer Frau geboren wurde, diesen an sein eigenes Empfinden anpassen ließ und nun in einem das binäre Denken seiner Mitmenschen irritierenden Körper lebt. Sie alle treffen in unterschiedlichen, teils abstrusen Konstellationen immer wieder aufeinander, was Vielseitigkeit und eine gewisse Komik garantiert!

Jeanette Winterson: Fran Kiss Stein. Übersetzt von Michaela Grabinger und Brigitte Walitzek. Erschienen bei Kein & Aber, 2019. Erhältlich in eurem örtlichen Buchladen – der gerade jetzt Unterstützung braucht!

Hilfreiche Formen des Denkens

Als unerwartet inspirierend erweist sich gerade ein Buch, das ich eher zufällig beim Stöbern in der Onleihe gefunden habe: „Denken wie Einstein“ von Theresa Bäuerlein und Shai Tubali. Ohne sie explizit zu stellen, beantwortet das Buch wichtige Fragen zum Zustand der Demokratie im Zeitalter von Copy-Paste-Kommunikation und Kurznachrichten, Social Media und automatisiertem Lernen.

Die Frage, die sich die Autor*innen stellen, lautet aber zunächst: Was unterscheidet das Denken von Leuten, die für bekannte Probleme geniale Lösungen gefunden haben, vom Denken der vielen anderen, die daran gescheitert sind? Was können wir von Ihnen lernen?

Exemplarisch werden hierfür 10 Persönlichkeiten betrachtet, die als herausragende Denker*innen gelten.

Die folgenden Zitate sind als Notizen fürs eigene Weiterdenken gedacht und sollen gleichzeitig einen Eindruck davon vermitteln, was Theresa Bäuerlein und Shai Tubali herausarbeiten wollen.

So geht es zum Beispiel im Abschnitt über Albert Einstein vor allem um die Begrenztheit sprachlichen Denkens:

Entdeckungen setzen die Bereitschaft voraus, dass der Entdecker eine Wahrheit akzeptieren kann, die außerhalb bereits bekannten und vertrauten Wissens liegt. (S.18)

Das sprachliche Denken kreiert erst allerlei Kategorien in der Realität und verfängt sich dann in ihnen. (S.35)

Es gibt mindestens vier nicht-sprachliche Mittel, von denen Einstein ausführlich Gebrauch machte: …die Musik, …Phantasie und Visualisierung,… Meditation und Intuition… (S.38).

Die Beschäftigung mit Friedrich Nietzsche führt zu einer Warnung vor Bequemlichkeit:

Die Bequemlichkeit des bereits Bekannten lässt sich nicht leicht von Wahrheit unterscheiden. Kognitive Leichtigkeit (Anm.: ein Begriff von Daniel Kahnemann, immerhin selbst Nobelpreisträger) bestimmt, dass etwas wahr ist, wenn’s sich ‚wahr anfühlt‘, ‚gut anfühlt‘ und ‚mühelos anfühlt‘. (S.58)

Das ist selbstverständlich

…gefährlich, da unser Denken dann eine ‚Wahrheit‘ will, die in Wirklichkeit nur ein demütiger Diener des emotionalen Zustands ist, den wir haben möchten, entsprechend machen wir horrende Fehler in unseren Urteilen und Voraussagen. Nietzsche hatte den Verdacht, dass das Bewertungssystem des Menschen so funktionierte, und Kahnemanns Forschung bestätigt es. … wenn man glauben will, dass eine Schlussfolgerung richtig ist – und man wird es glauben wollen, wenn sich das gut anfühlt -, dann glaubt man auch jedem Argument, das sie stützt, selbst wenn das Argument schlecht ist. (S.59)

Nietzsche wehrte sich sein Leben lang gegen diese Form der Bequemlichkeit und schrieb bereits in jungen Jahren seiner Schwester:

„Willst du Seelenruhe und Glück erstreben, nun so glaube, willst du ein Jünger der Wahrheit sein, so forsche.“ (Zitiert nach S. 47)

Der Preis dafür ist Unbequemlichkeit, Arbeit, und leider bei uns allzu oft, wie auch bei Nietzsche, Ausgrenzung und Einsamkeit.

Sehr interessant fand ich auch den Abschnitt über Barbara McClintock. Hier geht es vor allem ums Zuhören und darum, Störungen und Abweichungen von der Regel ganz besonders willkommen zu heißen.

Die Biologen hofften … auf eine statische, leichter zu verstehende DNA. McClintocks Arbeit dagegen zeigte ein lebhaftes und unberechenbares System auf: nicht nur die DNA wirkte auf die Zelle ein, Elemente der Zelle könnten auch die DNA beeinflussen. Die Gene lagen nicht einfach ruhig und unverrückbar da, sondern konnten sich spontan von einer Seite zur nächsten bewegen, sogar von einem Chromosom zum nächsten, und dabei ständig neue Impulse mitbringen und die genetische Ordnung neu strukturieren. (S.83)

‚Hasty Generalizations‘ passieren immer dann, wenn man anhand begrenzter Erfahrungen eine Theorie oder ein Modell entwickelt. Man zieht dann Schlüsse, die nicht alle Variablen berücksichtigen, aber den Anspruch erheben, ein Phänomen in seiner Gesamtheit zu beschreiben. (S.87)

McClintocks Denkart könnte uns lehren, dass eine statistische Abweichung mindestens genauso viel Erkenntnisgewinn bringen kann wie statistische Genauigkeit. (S.90)

Für sie gab es überhaupt keine Abweichungen. Was wir uns als abnormales Verhalten eines Organismus vorstellen, war für sie ein Hinweis auf eine höhere und komplexere Ordnung, die einfach noch nicht verstanden wurde. (S.76)

Organisches Denken besitzt eine Qualität des Zuhörens. (S.78)

Zu guter Letzt sei hier noch der Teil um Hannah Arendt erwähnt. Hier steht natürlich der Appell an die Verantwortung der/des Einzelnen im Vordergrund und die Frage danach, was totalitäre Systeme möglich macht. Die „Banalität des Bösen“ verweist nämlich wieder auf Denkfaulheit, stellt deren Fatalität in einen gesellschaftlichen Kontext, namentlich in den Kontext von Holocaust und Totalitarismus.

Einer der hartnäckigsten kognitiven Fehler des menschlichen Gehirns ist der Glaube, dass eine Aussage oder eine Erfahrung, die sich immer wiederholt, wahr sein muss. In seinen Anfängen ist das fast schon lustig, man nennt es dann ‚Attentional Bias’… Der Effekt aber, der wohl am besten Arendts tiefste Sorge beschreibt, ist der ‚Bandwagon-‚ oder ‚Mitläufereffekt’… Je mehr Menschen eine bestimmte Sache tun oder glauben, desto größer ist die Wahrscheinlichkeit, dass auch andere das tun werden. Sie würden auf die gleiche Weise handeln, egal, was sie selbst glauben oder welche eigenen Informationen sie haben, diese würden sie ignorieren oder sich darüber hinwegsetzen…(S.193)

Auf einer tieferen Ebene erkannt Arendt, dass der Totalitarismus ein anti-politischer Prozess ist, der dazu führt, dass alles Denken aufhört. Dies kann auch dann passieren, wenn Menschen ohne jeden Zwang von außen in einen Zustand der Gedankenlosigkeit verfallen und politischer Beteiligung aus dem Weg gehen. (S.184)

Weitere Kapitel befassen sich mit Sigmund Freud, Leonardo da Vinci, Sokrates, Charles Darwin, Jiddu Krishnamurti und Giordano Bruno.

Ich finde, dieses Buch verdient es, gelesen, verschenkt und weiterempfohlen zu werden: „Denken wie Einstein“ von Theresa Bäuerlein und Shai Tubali. Erschienen bereits 2015.

Außerdem hier noch der Link zu „Schnelles Denken – langsames Denken“ von Daniel Kahnemann, dessen Untersuchungen einiges von dem, was Theresa Bäuerlein und Shai Tubali zusammengetragen haben, durch aktuelle psychologische Forschung untermauern.

Ich bin Mutter – Filmkritik

I am Mother…. Dieser Film, der im August in Deutschland anlaufen soll und gestern in der Preview lief, erfüllt immerhin ganz klar den Allison-Bechdel-Test. Mutter, Tochter, eine Fremde und die Jungfrau Maria, alles was wichtig ist in diesem Film wird unter Frauen verhandelt. Ansonsten gibt es aber leider nicht viel Neues.

Fünf Menschenleben hängen von einer Organtransplantation ab, ein weiterer Mensch kommt ins Krankenhaus, er hat vielleicht sowieso nicht mehr lange zu leben und mit seinen Organen könnten die fünf anderen gerettet werden. Du bist dieser sechste Mensch, und du bist die Ärztin. Was würdest du tun?

Es gibt keine Antwort auf diese Frage im Film. Aber geprüft wird auf Sicherheit oder Unsicherheit im Leben. Zu vermuten: Sicherheit ist besser als Unsicherheit. Und wer sicher ist, nimmt sich das Recht, im Namen des sicheren Guten andere für dieses Gute umzubringen. So wie die Mutter, in diesem Film ein Android mit sanfter weiblicher Stimme.

Doch ein Mensch, in diesem Fall die Tochter, wird allen Erziehungsversuchen zum Trotz irgendwann erwachsen, und will eigene Entscheidungen treffen. Sie will alles wissen, was zu ihrer Welt gehört, und nicht nur ausgewählte Ausschnitte davon kennenlernen. Je mehr ihr vorenthalten wird, desto interessanter ist das Andere. Und die Tatsache, dass ihr etwas vorenthalten wird, zerreisst das Vertrauen, das sie bis dahin an ihre Mutter band.

Kein Spoiler, aber die Welt draußen ist natürlich auch kein Ponyhof…

… am Ende bleibt das Ganze aber eher ein Coming Of Age Film vor SF-Kulisse als ein Action Drama oder gar ein ernstzunehmender, inhaltlich neuer Beitrag zum Genre. Schade!

Alexa ist KI für Dummies

Nein, sie sind nicht smart, die Geräte, die uns jetzt als solche verkauft werden sollen. Womöglich gar als Weihnachtsgeschenke. Da wüsste ich bessere. Zum Beispiel das Buch „Weapons of Math Destruction“ (auf Deutsch: „Angriff der Algorithmen„) der US-amerikanischen Mathematikerin Cathy O’Neil. In diesem Buch wird verständlich und sehr anschaulich beschrieben, was das Problem daran ist, wenn wir immer mehr Antworten auf unsere Fragen so genannten KI-Systemen überlassen (KI steht für „Künstliche Intelligenz“).

Dazu muss man zunächst wissen, wie diese Systeme heute funktionieren. Sie „verstehen“ nämlich nicht, haben also keine interne Vorstellung von Bedeutungen, sondern analysieren und bewerten Daten allein auf Grund von Ähnlichkeiten zu den immensen Mengen an Trainingsdaten, mit denen sie zuvor gefüttert werden mussten. Damit das System mir zb aus einer Menge Fotos diejenigen Fotos auswählt, auf denen eine „schöne Frau“ zu sehen ist, muss ich es zuvor mit tausenden von Fotos gefüttert haben, auf denen „schöne Frauen“ zu sehen sind. Und mit ebenso vielen, auf denen dies nicht der Fall ist. Zeige ich dem System dann ein neues Foto und frage: „Ist das eine schöne Frau?“ bekomme ich als Antwort die berechneten Wahrscheinlichkeiten für ja oder nein, also einen bestimmten Grad der Ähnlichkeit zu meinen Trainingsdaten. Was passiert also, wenn ich als Trainingsdaten nur oder vorwiegend Fotos von dünnen blonden Frauen eingegeben haben? Schwarze oder fülligere Frauen werden niemals als schön erkannt.

Wer sich für weitere Details interessiert und wer wissen will, wo derartige Algorithmen schon jetzt in unser tägliches Leben eingreifen, findet bei Cathy O’Neil einen guten Einstieg.

Noch dazu ist Alexa alles andere als „intelligent“ – der Gebrauch dieses Begriffs im Zusammenhang mit diesem Gerät ärgert mich geradezu. Auf die wenigsten Fragen bekommen wir eine befriedigende Antwort, stattdessen machen wir uns zum Deppen, in dem wir versuchen, das Gerät auf unsere Aussprache einiger weniger Befehle zu trainieren. Warum tun Menschen so etwas? Weil ihnen weisgemacht wird, dass sie damit ganz vorn wären in der Entwicklung der Zivilisation?

In Wahrheit bezahlen die Nutzerinnen und Nutzer dieser Systeme dafür, den Herstellern wertvolle Daten zur Verfügung zu stellen – zusätzlich zu ihren Vorlieben und Interessen zum Beispiel auch die eigene Stimme und Aussprache. Mit diesen Daten werden dann wieder neue Systeme trainiert. Und, eines Tages, werden wir anhand unserer Stimmen inmitten großer Menschenmengen identifiziert und verfolgt werden können. Schön blöd also. Im Vergleich dazu ist Alexa dann vielleicht doch nicht so dumm…

Cathy O’Neil: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden

    übersetzt aus dem Englischen von Karsten Petersen

  • Erscheinungsdatum: 21.08.2017 
  • 352 Seiten
  • Hanser Verlag