Das Auto-Auto und das Auto

Ist autonomes oder automatisiertes Fahren wirklich eine smarte Idee? Kann künstliche ‚Intelligenz‘ tatsächlich menschliche ersetzen, und wenn ja, wozu? Fragen beim Anblick dieser Szene:

Autonomes Fahrzeug küsst wehrloses unselbständiges….

Wie ich durch diesen Un- und Zufall erst herausbekam, testet der KVV in Karlsruhe derzeit den Einsatz selbstfahrender Fahrzeuge als Shuttle für kleinere Gruppen von Fahrgästen. Da, so heißt es in einem kurzen Artikel des SWR, komplett autonomes Fahren in Deutschland noch nicht erlaubt ist, seien sogenannte Sicherheitsfahrer an Bord gewesen. Doch der Wille des autonomen Fahrzeugs war offensichtlich stärker – es ließ sich nicht davon abbringen, seinem fluchtunfähigen, da weder autonomen noch fremdgesteuerten Artgenossen auf den Lack zu rücken.

Beruhigend ist das nicht.

Aber es hat auch sein Gutes. Hier wird körperlich manifest, was state of the art ist. (Und jetzt bitte keine Ausreden – es handelt sich nämlich nicht um Spielzeug aus einem Testlabor, sondern um das, was realen, unschuldig am Straßenrand parkenden Autos heute schon zugemutet wird).

Angesichts dieser real erlebten Autonomie eines Fahrzeugs gaukeln uns die Szenarien, die wir in der Moralmaschine des MIT nach Herzenslust beurteilen dürfen, viel zu viel menschliche Mitsprachemöglichkeit vor. Es fühlt sich natürlich immer gut an, gefragt zu werden – aber schon bist du involviert und hast die versteckte Prämisse geschluckt. Die lautet: das Automobil soll (oder müssen wir schon sagen: will?) autonom werden.

Autonomous food delivery robots on campus in Madison,Wisconsin

Aber wollen wir das auch? Brauchen wir das? Oder kann das wieder weg?

UnFAIRe Bürgerwissenschaften

Unter dem Label „Bürgerwissenschaften“ oder “Citizen Science” werden derzeit Menschen wie du und ich zum Datensammeln animiert. Was dahinter steckt, was daran gar nicht FAIR ist, und was Daten- von Pilzsammler*innen lernen könnten, darüber schreibe ich in diesem Artikel.

Mykologie – Pilzkunde – war schon immer “Citizen Science”, zumindest, wenn wir den Begriff “Citizen” hier nicht überstrapazieren wollen. Menschen haben hier und in vielen anderen Teilen der Welt schon immer Pilze gesucht und gesammelt. Pilze werden und wurden gegessen, zu Heilzwecken oder in spirituellen Zeremonien verwendet. Manche sind essbar, andere giftig, manche helfen beim Bierbrauen oder Backen, andere beim Feuermachen.

Um für die gewünschten Zwecke den jeweils richtigen Pilz zu finden, ist es wichtig, einiges über Pilze zu lernen: wie sie aussehen, in welchen winzigen Details sich die einen von den anderen unterscheiden, wann und wo sie auftauchen, wann und wo es keinen Sinn macht, sie zu suchen und vieles mehr. Menschen, die solches Wissen erworben hatten, gab es lange bevor die akademischen Wissenschaften auf den Plan traten, wo die Welt der Pilze bis ins 18. Jahrhundert ein Randgruppendasein im Schatten der Botanik fristete.

Später wurde den Pilzen, zu denen auch Hefen und Schleime gehören, ihr eigenes taxonomisches Königreich gegeben – denn nach geltenden Definitionen sind sie weder Tier noch Pflanze. Tiere bewegen sich selbständig, Pilze breiten sich aus: der größte und älteste lebende Organismus der Erde ist ein Hallimasch – er ist über 900 qkm groß und mehr als 2000 Jahre alt. Während jedoch Pflanzen Fotosynthese betreiben und damit ihre Nahrung selbst herstellen, ernähren sich Pilze indem sie Enzyme ausscheiden – sie verdauen außerhalb ihres Körpers. Auf diese Art zersetzen sie totes wie lebendes Material und machen die Nährstoffe (z.B. Mineralien) daraus für sich selbst oder Partnerwesen (Moose, Flechten, Pflanzen, Tiere) verfügbar. Doch welche Bedeutung ihnen damit zukommt, wurde nicht durch systematisch- wissenschaftliche Beschreibung, sondern per Zufall erkannt. Die Entdeckung des Penizillins erweiterte den wissenschaftlichen Horizont nicht nur auf medizinischem Gebiet.

Pilze waren und sind große Zerstörer*innen und Gestalter*innen unserer Welt. Ohne sie wäre an Land kein Leben entstanden oder es wäre schon längst wieder am eigenen Abfall erstickt. Es gibt Grund zur Hoffnung, dass einige Pilze eines Tages auch mit unserem Plastikmüll klarkommen werden .

Bürger*innen, die viel zu selten als Expert*innen jenseits akademischer Welten betrachtet werden, haben vielleicht auch dies irgendwo anders in der Welt schon längst beobachtet, zum Beispiel auf den Müllbergen indischer Großstädte. Genauso wie die antibiotische Wirkweise von bestimmten Pilzen in China bereits vor Jahrhunderten genutzt wurde .

Um die Probleme unserer Welt zu lösen ist es wichtig, dass solcherart Wissen zugänglich und damit global nutzbar gemacht wird. Im besten Fall profitieren alle davon, im schlechtesten haben wir auf anderer Ebene versagt, was hier aber nicht Thema sein soll.

These 1:

Am Anfang war “Citizen Science”. Es gibt auch heute jede Menge Wissen und Wissensproduktion außerhalb der akademischen Wissenschaften. Dieses Wissen zu erschließen kann gesellschaftlich von großem Nutzen sein.

“Citizen Science” als Grundlage für automatisierte Wissensproduktion.

Was also soll dieses neue Label “Citizen Science”? Wer meint was damit? Und zu welcher Form der Wissenschaft wird das führen?

Dem Positionspapier des Directorate-General for Research and Innovation der Europäischen Kommision von 2016 wird allen Überlegungen ein Vorwort ihres damaligen Präsidenten, Jean-Claude Juncker, vorangestellt, das mit den Worten beginnt: “Research and innovation create investment opportunities” [EU, 2016, S.5]. Um dies und nichts anderes geht es. Das Problem, um das in diesem Bericht alles kreist, ist die Tatsache, dass Europa a) in Sachen Wissenschaft weltweit nicht an der Spitze steht und b) die zur Verfügung stehenden wissenschaftlichen Erkenntnisse nicht schnell genug und nicht in für die Autoren (men only) ausreichendem Maße in Geld umwandeln kann. Die vorgeschlagene Lösung des Problems: Forschung standardisieren und damit für Startups leicht nutzbar machen. Dass damit gleichzeitig ein Heer unbezahlter Mitarbeiter*innen rekrutiert wird, das teure akademische oder unternehmerische Feldforschung zunehmend überflüssig machen könnte, ist demgegenüber wahrscheinlich nur ein angenehmer Nebeneffekt.

Ähnlich wie die Verlagerung von bezahlter Care-Arbeit auf das Ehrenamt, könnte diese Strategie auch im Bereich der Wissenschaften funktionieren, weil es die Menschen bei ihrem Wunsch nach Anerkennung und nach sinnvoller Beschäftigung packt.

Unter “Citizen Science” und den als solchen öffentlich geförderten Projekten sind also mit der EU-Strategie solche zu verstehen, die Bürger*innen jenseits des etablierten Wissenschaftsbetriebs die Möglichkeit zur Beteiligung bieten, und die am Ende standardisierte, d.h. direkt für die ökonomische Verwertung aufbereitete Daten liefern. Die Anforderungen an die entsprechende Wissensproduktion werden dabei ausgerechnet unter dem Label FAIR („findable, accessible, interoperable and reusable“) zusammengefasst.

Diese Forderungen sind mit Hilfe aktueller Technologien leicht umzusetzen. Sehen wir uns die Projekte an, die auf der deutschen Citizen Science Plattform „Bürger schaffen Wissen“ aufgelistet werden, ist vor diesem Hintergrund nicht verwunderlich, dass die Teilnahme meist über Apps oder Online-Formulare erfolgt.

Wo dies ausschließlich der Fall ist, finden gesellschaftsrelevante und gemeinschaftsbildende Effekte, mit denen „Citizen Science“ oft verbunden wird, überhaupt nicht mehr statt [vgl. Kinchy und Kimura, 2016].

Ein typisches „Citizen Science“-Projekt im Bereich der Pilzkunde, ist der „Pilzfinder“ der Universität Wien . Ein ähnliches Projekt gibt es in Deutschland , dort wird jedoch nicht ausdrücklich auf den Begriff „Citizen Science“ Bezug genommen.

Als Projektziele werden in beiden Fällen zwar Kartierung, Entdeckung neuer Arten, und ein Monitoring des Klimawandels genannt. Aber Mitmachen heißt letztlich Datensammeln. Die angebotenen Apps und Online-Formulare sorgen für die nötige Standardisierung und versehen Kamera-Aufnahmen gleich mit zuverlässigen GPS-Koordinaten und dem genauen Zeitpunkt der Aufnahme, und wer weiß, mit was für Daten aus dem Smartphone noch (aber ich will jetzt hier nicht über Datenschutz und Privatheit reden). Bei “Citizen Science”-Projekten in anderen Bereichen ist es genauso. Ambitionierte Bürger*innen können in ähnlicher Weise Wildtiere in der Stadt, Vogelstimmen, Insektenbilder und vieles mehr aufnehmen und verschicken.

Die so gesammelten und standardisierten Daten können genutzt werden, um Software zu trainieren. Dabei gilt: Je mehr Daten, desto besser “lernt” die Maschine.

Die Ergebnisse dieser Art des Lernens, also das, was “künstliche Intelligenz” am Ende hervorbringt, ist Mustererkennung. Dahinter stehen oft sehr komplexe mathematische Funktionen, aber nur selten in Worte fassbare und damit nachvollziehbare und hinterfragbare Erkenntnisse. Funktionieren tut dies allerdings häufig sehr gut. (Z.b. im Bereich der Spracherkennung. Früher hat die Linguistik nach den universellen Regeln zur formalen Analyse von Sprache gesucht, bis Google und andere, die über den nötigen Datenkorpus verfügten, mit ihren auf Wahrscheinlichkeitsrechnung basierenden Algorithmen in kürzester Zeit viel bessere Ergebnisse vorlegten).

Heute werden Computerprogramme noch zum allergrößten Teil von Menschen geschrieben. Aber schon wird daran geforscht, selbst die Programmierung zu automatisieren. Mit den online verfügbaren riesigen Mengen an Quellcode (Open Source sei Dank) werden Maschinen trainiert mit dem Ziel, auch Software künftig maschinell zu entwicklen. Auf dieselbe Art könnte sich auch wissenschaftlicher Erkenntnisgewinnung automatisieren lassen. Doch zu welchem Preis?

Cathy O‘Neill hat in ihrem Buch „Weapons of Math Destruction“ [O’Neill, 2016] ausführlich dargelegt, wo die gesellschaftlichen und erkenntnistheoretischen Gefahren maschinellen Lernens liegen: in der möglichen Perpetuierung von Vor- und Fehlurteilen, in der Verschleierung eben dieser, in einem zunehmenden Verlust von Transparenz und demokratischen Einflussmöglichkeiten.

These 2:

Hinter “Citizen Science” steht in der EU in erster Linie ein ökonomisch motiviertes Datensammlungsprojekt.

These 3:

Die Sammlung immer größerer Mengen standardisierter – im EU-Sprech „FAIRer“ – Daten ist zugleich die Voraussetzung für die Automatisierung von Wissensproduktion.

These 4:

In Zukunft werden nicht mehr Menschen darüber bestimmen, was für Erkenntnisse aus Daten generiert werden. Nur noch wenige Menschen werden diese Erkenntnisse verstehen, hinterfragen und beurteilen können.

These 5:

Damit ist „Citizen Science“ letztlich ein Angriff auf Transparenz und das Gegenteil von einer Demokratisierung der Wissenschaften.

Anderes Wissen ist möglich und nötig.

Pilzesammeln als besseres Modell für die Betrachtung der Welt.

Die Anthropologin Anna Lowenhaupt Tsing hat in ihrem wunderbaren, der Philosophin Donna Haraway gewidmeten Aufsatz “Mushrooms as Companion Species” [Tsing, 2012] eine ganz andere Art von Erkenntnisprozess geschildert, der das Finden von Pilzen begleiten kann. Dieser Erkenntnisprozess beginnt mit der Freude, vielleicht der Dankbarkeit über unseren Fund. Die meisten Pilze lassen sich nicht züchten, wir müssen sie suchen, und wenn wir sie dann entdecken, erleben wir die Begegnung mit ihnen oft als Geschenk. Pilze sind kein Privateigentum, wir können sie nicht kaufen, um ihnen zu begegnen müssen wir sie kennenlernen. Wir machen uns mit der Umgebung vertraut, in der Hoffnung, sie das nächste Mal noch gezielter suchen zu können, denn viele Pilze leben in Partnerschaft mit bestimmten Pflanzen, bevorzugen bestimmte Böden oder Witterungsverhältnisse.

Wer Pilze beobachtet kann auch die Auswirkungen menschlichen Handelns beobachten. Wo Getreide und anderes in Monokultur angebaut wird, wo Landwirt*innen mit stickstoffhaltigem Dünger arbeiten, wo Forstwirt*innen durch den Einsatz schwerer Maschinen den Boden verdichten, da werden Pilzfunde selten, die ökologischen Folgen unseres gesellschaftlichen Handelns spürbar. Die Bedeutung der wechselseitigen Beziehungen zwischen den Wesen, für die wir Menschen oft blind sind, kann beim Pilzesammeln ganz unmittelbar erfahren werden.

Und hier reden wir nur von den sogenannten Großpilzen, denjenigen, deren Fruchtkörper wir sehen können, nicht von den unzähligen Arten, die ungesehen in und mit uns auf diesem Planeten leben.

These 6:

Auch im Bereich der Wissenschaften bedrohen Monokultur und zunehmende Reduzierung der Artenvielfalt unsere Existenz.

These 7:

Die Beschäftigung mit Pilzen führt uns direkt über eine ego- oder anthropo-zentrische Weltsicht hinaus in Erfahrungswelten des Miteinander und der unauflöslichen Verflechtungen, die zugleich Leben und Vergehen bringen, und deren Zukunft wir nicht kennen, sondern mit-erschaffen.

Und hier käme vielleicht auch noch einmal Paul Feyerabend zum Einsatz, der ja – nicht als einziger in der Geschichte, aber unermüdlich – darauf hingewiesen hat, dass qualitative Fortschritte in den (Theoriebildungen der) Wissenschaften gerade nicht auf geflissentlich befolgten Regeln und Standards, sondern auf dem Bruch mit der herrschenden Norm, dem plötzlichen Wechsel der Gangart und der Entdeckung radikal anderer Sichtweisen beruhen [Feyerabend, 1980]. Oder, wie Pilzsammler*innen sagen würden: spannend wird es jenseits der bekannten Wege, da wo niemand vor uns war, in den realen, mit allen Sinnen erfahrbaren, unermesslichen Verflechtungen des Lebens.

Literatur

Directorate-General for Research and Innovation (European Commission): Open Innovation, Open Science, Open to the World: a Vision for Europe, 2016.

Paul Feyerabend: Erkenntnis für freie Menschen, 1980.

Aya H. Kimura und Abby J. Kinchy : Citizen Science: Probing the Virtues and Contexts of Participatory Research, 2016.

Cathy O’Neil: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. USA, 2016 .

Anna Tsing: Unruly Edges: Mushrooms as Companion Species. Department of Anthropology, University of California, Santa Cruz, USA, 2012. (Online unter http://tsingmushrooms.blogspot.com/, abgerufen am 23.7.2019)

Smart Houses, Smart Cars und eine etwas unsmarte Geschichte

Immer neugierig, was es abseits des Mainstreams zu lesen gibt, habe ich meinem Lesekreis das Buch Adrian oder die unzählbaren Dinge vorgeschlagen. Die Lektüre war für uns alle dann aber leider eher mühsam als begeisternd. Schade, denn die Idee, die die österreichische Autorin Angelika Stallhofer da hatte, war vielversprechend.

Das Setting, ein Smart Home, das uns dazu gebracht hatte, dem Roman ein zeitgemäßes Thema zu unterstellen, blieb jedoch nur Staffage und Klischee (Symbol für Reglementierung, vorgegaukelte Sicherheit, Aussparung alles Lebendigen – und der Gegenpol natürlich: die Künstlerin, die mit IT und Technik nichts am Hut hat – gähn…).

Dabei steckt in der ganzen Debatte über “smarte“ Technologien viel mehr Potenzial, viel mehr Fragen, über die wir uns dringend unterhalten sollten. Denn das Risiko liegt vor allem da, wo uns von Maschinen Entscheidungen abgenommen werden. Mit diesem Thema setzt sich zum Beispiel Cathy O’Neil auseinander, die ich bereits in meinem Alexa Beitrag erwähnt habe.

Eine andere Möglichkeit, sich mit der Komplexität dieser Fragestellung zu befassen, bietet die Moralmaschine des MIT. Auf einer Webseite wird dort anhand einer Hand voll von Szenarien immer wieder die Frage gestellt: wie würden Sie entscheiden? Zb. Wie sollte ein selbst fahrendes Auto entscheiden, wenn es vor der Wahl steht, entweder zwei Omas oder eine Mutter mit Kind zu überfahren . Interessant ist dabei vor allem, dass deutlich wird, wie weit Maschinen künftig in unser Leben eingreifen werden. In smarten Häusern, smarten Autos, smarten Städten.

Von all dem war im Roman leider nicht die Rede. Toll fanden wir vor allem die liebevolle Gestaltung des gebundenen Buchs: auf dem Einband Botticellis Venus, die ersten Seiten und die Überschriften kunstvoll verziert. Was jedoch zum Inhalt, dem verzweifelten Stammeln eines minder begabten Werbetexters inmitten einer Schaffens- und Lebenskrise kaum passt. Ansonsten ist zur Sprache des Romans noch zu sagen, dass mit sehr vielen Bildern und stellenweise komplexen Bezügen gearbeitet wird, wobei die Bezüge manchmal verwirren und die Bilder den Text mitunter überfrachten. Stattdessen hätten wir uns in der Geschichte lieber etwas mehr Dynamik gewünscht. Room for improvement, aber einen Versuch war’s wert!

Warum Männer sich vor intelligenten Robotern fürchten sollten

Im Vorbeifahren sehe ich einen Mann zusammengesunken auf einer Parkbank sitzen. Klar halte ich an und schaue, ob ich helfen kann. Es ist ein dicklicher, ungepflegt wirkender Mann mittleren Alters, spontan nicht direkt sympathisch. Aber. Ich spreche ihn laut und deutlich an – keine Reaktion. Ich überwinde meinen Ekel, fasse an seine Schulter und rüttle ihn ein wenig. Hallo, geht es Ihnen gut?

Jetzt ratet mal, was dann passiert! Hundert Punkte für die “Paranoiden“ unter uns: kaum regt er sich wieder, baggert er mich plump an. Und als ich nicht drauf eingehe, beschimpft er mich noch!

Ich bin nicht fassungslos, denn so etwas passiert mir nicht zum ersten Mal.

An dieser Stelle muss ich an Cozmo denken, den ich heute kennengelernt habe. Cozmo wäre das wahrscheinlich nicht passiert. „Sein Charakter entwickelt sich mit seinen Erlebnissen ständig weiter“, so die Werbung für den „kleinen Roboter mit großem Verstand und noch größerer Persönlichkeit“, der „hunderte“ Emotionen „kennt“ und in seine Handlungen einfließen lässt. Erlebten Frustrationen geht er künftig eher aus dem Weg.

Bin ich blöder als ein Spielzeug aus den Werkstätten der künstlichen Intelligenz? Was meint ihr?

Ich denke anders darüber.

Weil es mir am Ende um mehr geht als den Erfolg oder Misserfolg meines Handelns. Mir bedeutet es mehr,  das getan zu haben, was ich richtig finde. Und dazu gehört es, Menschen in Not nicht zu ignorieren. Selbst wenn sie sich als undankbare männliche Arschlöcher entpuppen. Ich definiere mich auch anhand übergeordneter Werte. Ich kann den achtjährigen Sohn nicht aus dem Fenster schmeißen, um mich zu retten*.

Vielleicht sichert genau das den Männern (insbesondere den zahlreichen Arschlöchern unter ihnen) in dieser Welt tatsächlich noch das Überleben. Um sich für die Zukunft abzusichern, sollten sie dafür sorgen, dass sie nicht auf rational agierende Roboter angewiesen sind. Oder ihr Verhalten ändern.  Was von beidem wird wohl passieren?

* Ein Zitat von Christa Reinig:

SONNTAG
Schmeiß
deinen achtjährigen sohn vom balkon
und du bist gerettet