Auf ein gutes neues Jahr!!!

Das Jahr auf diesem Blog fängt mit zwei guten Nachrichten an: ab sofort seht ihr hier keine Werbung mehr – und: so langsam wachen auch maßgebliche offizielle Stellen auf und stellen sich ihrer Verantwortung bezüglich der Nutzung von Social Media! Ich freue mich sehr über die Nachricht, dass der Landesdatenschutzbeauftragte von Baden-Württemberg, Stefan Brink, angekündigt hat, wegen rechtlicher Bedenken seinen Twitter-Account nicht mehr nutzen zu wollen. Und nicht nur das: er stößt damit einen Prozess an, der Behörden und andere öffentliche Einrichtungen dazu zwingen wird, ihren Social Media Einsatz ebenfalls zu hinterfragen und im besten Fall auch zu ändern. Und das finde ich gut so. Denn – und da bin ich ganz bei Stefan Brink – indem wir relevante Informationen über Dienste zur Verfügung stellen, die im Hintergrund auf problematische Art Nutzer*innendaten sammeln, bringen wir andere dazu, diese zu nutzen und dabei womöglich ungewollt private Daten preiszugeben. Wir stärken damit Konzerne und Mechanismen, die niemandem gut tun außer sich selbst.

Zwei Dinge möchte ich mir dann fürs neue Jahr noch wünschen: dass sich genug schlaue Köpfe zusammenfinden, um unabhängige, unkommerzielle und sichere Kommunikationskanäle anbieten zu können – Social Media eben, aber ohne Kommerz und Ausbeutung. Und dass dann auch immer mehr Menschen auf diese umsteigen!

Halten wir uns gegenseitig auf dem Laufenden, was solche Entwicklungen angeht! (A propos: was dieses Jahr so beim CCC-Kongress los war, findet ihr in Ausschnitten hier.…) Machen wir mit! Und freuen wir uns gemeinsam auf ein gutes neues Jahr!

UnFAIRe Bürgerwissenschaften

Unter dem Label „Bürgerwissenschaften“ oder “Citizen Science” werden derzeit Menschen wie du und ich zum Datensammeln animiert. Was dahinter steckt, was daran gar nicht FAIR ist, und was Daten- von Pilzsammler*innen lernen könnten, darüber schreibe ich in diesem Artikel.

Mykologie – Pilzkunde – war schon immer “Citizen Science”, zumindest, wenn wir den Begriff “Citizen” hier nicht überstrapazieren wollen. Menschen haben hier und in vielen anderen Teilen der Welt schon immer Pilze gesucht und gesammelt. Pilze werden und wurden gegessen, zu Heilzwecken oder in spirituellen Zeremonien verwendet. Manche sind essbar, andere giftig, manche helfen beim Bierbrauen oder Backen, andere beim Feuermachen.

Um für die gewünschten Zwecke den jeweils richtigen Pilz zu finden, ist es wichtig, einiges über Pilze zu lernen: wie sie aussehen, in welchen winzigen Details sich die einen von den anderen unterscheiden, wann und wo sie auftauchen, wann und wo es keinen Sinn macht, sie zu suchen und vieles mehr. Menschen, die solches Wissen erworben hatten, gab es lange bevor die akademischen Wissenschaften auf den Plan traten, wo die Welt der Pilze bis ins 18. Jahrhundert ein Randgruppendasein im Schatten der Botanik fristete.

Später wurde den Pilzen, zu denen auch Hefen und Schleime gehören, ihr eigenes taxonomisches Königreich gegeben – denn nach geltenden Definitionen sind sie weder Tier noch Pflanze. Tiere bewegen sich selbständig, Pilze breiten sich aus: der größte und älteste lebende Organismus der Erde ist ein Hallimasch – er ist über 900 qkm groß und mehr als 2000 Jahre alt. Während jedoch Pflanzen Fotosynthese betreiben und damit ihre Nahrung selbst herstellen, ernähren sich Pilze indem sie Enzyme ausscheiden – sie verdauen außerhalb ihres Körpers. Auf diese Art zersetzen sie totes wie lebendes Material und machen die Nährstoffe (z.B. Mineralien) daraus für sich selbst oder Partnerwesen (Moose, Flechten, Pflanzen, Tiere) verfügbar. Doch welche Bedeutung ihnen damit zukommt, wurde nicht durch systematisch- wissenschaftliche Beschreibung, sondern per Zufall erkannt. Die Entdeckung des Penizillins erweiterte den wissenschaftlichen Horizont nicht nur auf medizinischem Gebiet.

Pilze waren und sind große Zerstörer*innen und Gestalter*innen unserer Welt. Ohne sie wäre an Land kein Leben entstanden oder es wäre schon längst wieder am eigenen Abfall erstickt. Es gibt Grund zur Hoffnung, dass einige Pilze eines Tages auch mit unserem Plastikmüll klarkommen werden .

Bürger*innen, die viel zu selten als Expert*innen jenseits akademischer Welten betrachtet werden, haben vielleicht auch dies irgendwo anders in der Welt schon längst beobachtet, zum Beispiel auf den Müllbergen indischer Großstädte. Genauso wie die antibiotische Wirkweise von bestimmten Pilzen in China bereits vor Jahrhunderten genutzt wurde .

Um die Probleme unserer Welt zu lösen ist es wichtig, dass solcherart Wissen zugänglich und damit global nutzbar gemacht wird. Im besten Fall profitieren alle davon, im schlechtesten haben wir auf anderer Ebene versagt, was hier aber nicht Thema sein soll.

These 1:

Am Anfang war “Citizen Science”. Es gibt auch heute jede Menge Wissen und Wissensproduktion außerhalb der akademischen Wissenschaften. Dieses Wissen zu erschließen kann gesellschaftlich von großem Nutzen sein.

“Citizen Science” als Grundlage für automatisierte Wissensproduktion.

Was also soll dieses neue Label “Citizen Science”? Wer meint was damit? Und zu welcher Form der Wissenschaft wird das führen?

Dem Positionspapier des Directorate-General for Research and Innovation der Europäischen Kommision von 2016 wird allen Überlegungen ein Vorwort ihres damaligen Präsidenten, Jean-Claude Juncker, vorangestellt, das mit den Worten beginnt: “Research and innovation create investment opportunities” [EU, 2016, S.5]. Um dies und nichts anderes geht es. Das Problem, um das in diesem Bericht alles kreist, ist die Tatsache, dass Europa a) in Sachen Wissenschaft weltweit nicht an der Spitze steht und b) die zur Verfügung stehenden wissenschaftlichen Erkenntnisse nicht schnell genug und nicht in für die Autoren (men only) ausreichendem Maße in Geld umwandeln kann. Die vorgeschlagene Lösung des Problems: Forschung standardisieren und damit für Startups leicht nutzbar machen. Dass damit gleichzeitig ein Heer unbezahlter Mitarbeiter*innen rekrutiert wird, das teure akademische oder unternehmerische Feldforschung zunehmend überflüssig machen könnte, ist demgegenüber wahrscheinlich nur ein angenehmer Nebeneffekt.

Ähnlich wie die Verlagerung von bezahlter Care-Arbeit auf das Ehrenamt, könnte diese Strategie auch im Bereich der Wissenschaften funktionieren, weil es die Menschen bei ihrem Wunsch nach Anerkennung und nach sinnvoller Beschäftigung packt.

Unter “Citizen Science” und den als solchen öffentlich geförderten Projekten sind also mit der EU-Strategie solche zu verstehen, die Bürger*innen jenseits des etablierten Wissenschaftsbetriebs die Möglichkeit zur Beteiligung bieten, und die am Ende standardisierte, d.h. direkt für die ökonomische Verwertung aufbereitete Daten liefern. Die Anforderungen an die entsprechende Wissensproduktion werden dabei ausgerechnet unter dem Label FAIR („findable, accessible, interoperable and reusable“) zusammengefasst.

Diese Forderungen sind mit Hilfe aktueller Technologien leicht umzusetzen. Sehen wir uns die Projekte an, die auf der deutschen Citizen Science Plattform „Bürger schaffen Wissen“ aufgelistet werden, ist vor diesem Hintergrund nicht verwunderlich, dass die Teilnahme meist über Apps oder Online-Formulare erfolgt.

Wo dies ausschließlich der Fall ist, finden gesellschaftsrelevante und gemeinschaftsbildende Effekte, mit denen „Citizen Science“ oft verbunden wird, überhaupt nicht mehr statt [vgl. Kinchy und Kimura, 2016].

Ein typisches „Citizen Science“-Projekt im Bereich der Pilzkunde, ist der „Pilzfinder“ der Universität Wien . Ein ähnliches Projekt gibt es in Deutschland , dort wird jedoch nicht ausdrücklich auf den Begriff „Citizen Science“ Bezug genommen.

Als Projektziele werden in beiden Fällen zwar Kartierung, Entdeckung neuer Arten, und ein Monitoring des Klimawandels genannt. Aber Mitmachen heißt letztlich Datensammeln. Die angebotenen Apps und Online-Formulare sorgen für die nötige Standardisierung und versehen Kamera-Aufnahmen gleich mit zuverlässigen GPS-Koordinaten und dem genauen Zeitpunkt der Aufnahme, und wer weiß, mit was für Daten aus dem Smartphone noch (aber ich will jetzt hier nicht über Datenschutz und Privatheit reden). Bei “Citizen Science”-Projekten in anderen Bereichen ist es genauso. Ambitionierte Bürger*innen können in ähnlicher Weise Wildtiere in der Stadt, Vogelstimmen, Insektenbilder und vieles mehr aufnehmen und verschicken.

Die so gesammelten und standardisierten Daten können genutzt werden, um Software zu trainieren. Dabei gilt: Je mehr Daten, desto besser “lernt” die Maschine.

Die Ergebnisse dieser Art des Lernens, also das, was “künstliche Intelligenz” am Ende hervorbringt, ist Mustererkennung. Dahinter stehen oft sehr komplexe mathematische Funktionen, aber nur selten in Worte fassbare und damit nachvollziehbare und hinterfragbare Erkenntnisse. Funktionieren tut dies allerdings häufig sehr gut. (Z.b. im Bereich der Spracherkennung. Früher hat die Linguistik nach den universellen Regeln zur formalen Analyse von Sprache gesucht, bis Google und andere, die über den nötigen Datenkorpus verfügten, mit ihren auf Wahrscheinlichkeitsrechnung basierenden Algorithmen in kürzester Zeit viel bessere Ergebnisse vorlegten).

Heute werden Computerprogramme noch zum allergrößten Teil von Menschen geschrieben. Aber schon wird daran geforscht, selbst die Programmierung zu automatisieren. Mit den online verfügbaren riesigen Mengen an Quellcode (Open Source sei Dank) werden Maschinen trainiert mit dem Ziel, auch Software künftig maschinell zu entwicklen. Auf dieselbe Art könnte sich auch wissenschaftlicher Erkenntnisgewinnung automatisieren lassen. Doch zu welchem Preis?

Cathy O‘Neill hat in ihrem Buch „Weapons of Math Destruction“ [O’Neill, 2016] ausführlich dargelegt, wo die gesellschaftlichen und erkenntnistheoretischen Gefahren maschinellen Lernens liegen: in der möglichen Perpetuierung von Vor- und Fehlurteilen, in der Verschleierung eben dieser, in einem zunehmenden Verlust von Transparenz und demokratischen Einflussmöglichkeiten.

These 2:

Hinter “Citizen Science” steht in der EU in erster Linie ein ökonomisch motiviertes Datensammlungsprojekt.

These 3:

Die Sammlung immer größerer Mengen standardisierter – im EU-Sprech „FAIRer“ – Daten ist zugleich die Voraussetzung für die Automatisierung von Wissensproduktion.

These 4:

In Zukunft werden nicht mehr Menschen darüber bestimmen, was für Erkenntnisse aus Daten generiert werden. Nur noch wenige Menschen werden diese Erkenntnisse verstehen, hinterfragen und beurteilen können.

These 5:

Damit ist „Citizen Science“ letztlich ein Angriff auf Transparenz und das Gegenteil von einer Demokratisierung der Wissenschaften.

Anderes Wissen ist möglich und nötig.

Pilzesammeln als besseres Modell für die Betrachtung der Welt.

Die Anthropologin Anna Lowenhaupt Tsing hat in ihrem wunderbaren, der Philosophin Donna Haraway gewidmeten Aufsatz “Mushrooms as Companion Species” [Tsing, 2012] eine ganz andere Art von Erkenntnisprozess geschildert, der das Finden von Pilzen begleiten kann. Dieser Erkenntnisprozess beginnt mit der Freude, vielleicht der Dankbarkeit über unseren Fund. Die meisten Pilze lassen sich nicht züchten, wir müssen sie suchen, und wenn wir sie dann entdecken, erleben wir die Begegnung mit ihnen oft als Geschenk. Pilze sind kein Privateigentum, wir können sie nicht kaufen, um ihnen zu begegnen müssen wir sie kennenlernen. Wir machen uns mit der Umgebung vertraut, in der Hoffnung, sie das nächste Mal noch gezielter suchen zu können, denn viele Pilze leben in Partnerschaft mit bestimmten Pflanzen, bevorzugen bestimmte Böden oder Witterungsverhältnisse.

Wer Pilze beobachtet kann auch die Auswirkungen menschlichen Handelns beobachten. Wo Getreide und anderes in Monokultur angebaut wird, wo Landwirt*innen mit stickstoffhaltigem Dünger arbeiten, wo Forstwirt*innen durch den Einsatz schwerer Maschinen den Boden verdichten, da werden Pilzfunde selten, die ökologischen Folgen unseres gesellschaftlichen Handelns spürbar. Die Bedeutung der wechselseitigen Beziehungen zwischen den Wesen, für die wir Menschen oft blind sind, kann beim Pilzesammeln ganz unmittelbar erfahren werden.

Und hier reden wir nur von den sogenannten Großpilzen, denjenigen, deren Fruchtkörper wir sehen können, nicht von den unzähligen Arten, die ungesehen in und mit uns auf diesem Planeten leben.

These 6:

Auch im Bereich der Wissenschaften bedrohen Monokultur und zunehmende Reduzierung der Artenvielfalt unsere Existenz.

These 7:

Die Beschäftigung mit Pilzen führt uns direkt über eine ego- oder anthropo-zentrische Weltsicht hinaus in Erfahrungswelten des Miteinander und der unauflöslichen Verflechtungen, die zugleich Leben und Vergehen bringen, und deren Zukunft wir nicht kennen, sondern mit-erschaffen.

Und hier käme vielleicht auch noch einmal Paul Feyerabend zum Einsatz, der ja – nicht als einziger in der Geschichte, aber unermüdlich – darauf hingewiesen hat, dass qualitative Fortschritte in den (Theoriebildungen der) Wissenschaften gerade nicht auf geflissentlich befolgten Regeln und Standards, sondern auf dem Bruch mit der herrschenden Norm, dem plötzlichen Wechsel der Gangart und der Entdeckung radikal anderer Sichtweisen beruhen [Feyerabend, 1980]. Oder, wie Pilzsammler*innen sagen würden: spannend wird es jenseits der bekannten Wege, da wo niemand vor uns war, in den realen, mit allen Sinnen erfahrbaren, unermesslichen Verflechtungen des Lebens.

Literatur

Directorate-General for Research and Innovation (European Commission): Open Innovation, Open Science, Open to the World: a Vision for Europe, 2016.

Paul Feyerabend: Erkenntnis für freie Menschen, 1980.

Aya H. Kimura und Abby J. Kinchy : Citizen Science: Probing the Virtues and Contexts of Participatory Research, 2016.

Cathy O’Neil: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. USA, 2016 .

Anna Tsing: Unruly Edges: Mushrooms as Companion Species. Department of Anthropology, University of California, Santa Cruz, USA, 2012. (Online unter http://tsingmushrooms.blogspot.com/, abgerufen am 23.7.2019)

Alexa ist KI für Dummies

Nein, sie sind nicht smart, die Geräte, die uns jetzt als solche verkauft werden sollen. Womöglich gar als Weihnachtsgeschenke. Da wüsste ich bessere. Zum Beispiel das Buch „Weapons of Math Destruction“ (auf Deutsch: „Angriff der Algorithmen„) der US-amerikanischen Mathematikerin Cathy O’Neil. In diesem Buch wird verständlich und sehr anschaulich beschrieben, was das Problem daran ist, wenn wir immer mehr Antworten auf unsere Fragen so genannten KI-Systemen überlassen (KI steht für „Künstliche Intelligenz“).

Dazu muss man zunächst wissen, wie diese Systeme heute funktionieren. Sie „verstehen“ nämlich nicht, haben also keine interne Vorstellung von Bedeutungen, sondern analysieren und bewerten Daten allein auf Grund von Ähnlichkeiten zu den immensen Mengen an Trainingsdaten, mit denen sie zuvor gefüttert werden mussten. Damit das System mir zb aus einer Menge Fotos diejenigen Fotos auswählt, auf denen eine „schöne Frau“ zu sehen ist, muss ich es zuvor mit tausenden von Fotos gefüttert haben, auf denen „schöne Frauen“ zu sehen sind. Und mit ebenso vielen, auf denen dies nicht der Fall ist. Zeige ich dem System dann ein neues Foto und frage: „Ist das eine schöne Frau?“ bekomme ich als Antwort die berechneten Wahrscheinlichkeiten für ja oder nein, also einen bestimmten Grad der Ähnlichkeit zu meinen Trainingsdaten. Was passiert also, wenn ich als Trainingsdaten nur oder vorwiegend Fotos von dünnen blonden Frauen eingegeben haben? Schwarze oder fülligere Frauen werden niemals als schön erkannt.

Wer sich für weitere Details interessiert und wer wissen will, wo derartige Algorithmen schon jetzt in unser tägliches Leben eingreifen, findet bei Cathy O’Neil einen guten Einstieg.

Noch dazu ist Alexa alles andere als „intelligent“ – der Gebrauch dieses Begriffs im Zusammenhang mit diesem Gerät ärgert mich geradezu. Auf die wenigsten Fragen bekommen wir eine befriedigende Antwort, stattdessen machen wir uns zum Deppen, in dem wir versuchen, das Gerät auf unsere Aussprache einiger weniger Befehle zu trainieren. Warum tun Menschen so etwas? Weil ihnen weisgemacht wird, dass sie damit ganz vorn wären in der Entwicklung der Zivilisation?

In Wahrheit bezahlen die Nutzerinnen und Nutzer dieser Systeme dafür, den Herstellern wertvolle Daten zur Verfügung zu stellen – zusätzlich zu ihren Vorlieben und Interessen zum Beispiel auch die eigene Stimme und Aussprache. Mit diesen Daten werden dann wieder neue Systeme trainiert. Und, eines Tages, werden wir anhand unserer Stimmen inmitten großer Menschenmengen identifiziert und verfolgt werden können. Schön blöd also. Im Vergleich dazu ist Alexa dann vielleicht doch nicht so dumm…

Cathy O’Neil: Angriff der Algorithmen. Wie sie Wahlen manipulieren, Berufschancen zerstören und unsere Gesundheit gefährden

    übersetzt aus dem Englischen von Karsten Petersen

  • Erscheinungsdatum: 21.08.2017 
  • 352 Seiten
  • Hanser Verlag

Cyber War – Syrien als Lehrstück

Wie schafft es eine Journalistin heute noch, Menschen im vermeintlich sicheren Europa für den Krieg in Syrien zu interessieren?

Juliana Ruhfus, Dokumentarfilmerin bei Al Jazeera, die zuletzt einen Film über den Cyberwar in Syrien gedreht hatte, stellte sich genau diese Frage. Und wusste sehr schnell, dass die Antwort mobil und interaktiv sein sollte.
Im Oktober 2016, nach nur 3 Monaten Entwicklungszeit, präsentierte sie #Hacked – ein Online-Spiel, das einer einfachen Grundidee folgt: Finde soviel du kannst über den Krieg im Internet raus, ohne dabei selbst gehackt zu werden. Hintergrund ist die reale Situation in Syrien.
Im Spiel nimmst du die Rolle der JournalistIn ein, die von KollegInnen, Websites und InformantInnen mit Hinweisen versorgt wird. Dabei bringst du dich und andere permanent in Gefahr, von den kriegführenden Parteien gehackt oder in die Irre geführt zu werden.
Brisant an dem Spiel: alle Angriffe und Hacks haben so tatsächlich stattgefunden. Und alle Informationen über den Krieg in Syrien und die immer noch existierenden Kräfte des Arabischen Frühlings sind real.
Ich habe gerade erst angefangen zu „spielen“, und doch schon mehr über den Krieg in Syrien erfahren als in den ganzen letzten Monaten, wo jeder Versuch, zu begreifen, in Trümmerbildern versandete. Wenn ich das Spiel beende, werde ich dazu noch vieles über die Gefahren der Kommunikation im Web gelernt haben (und wie man sich davor bestmöglich schützen kann). Bereits jetzt habe mich emotional neu auf diese Themen eingelassen.

Das Projekt begeistert mich. Well es das Potential hat, uns aus der Lethargie zu reißen. Weil das Engagement der Macherin in jedem Moment spürbar ist.

Und so wollte ich auch wissen, wer und was genau dahinter steckt.

Augenfällig fand ich beim Lesen eines sehr ausführlichen Artikels über die Entstehung des Games, dass es offensichtlich vor allem Frauen waren, die das Projekt entwickelt haben: Juliana Ruhfus, als treibende Kraft, Nataly Rios Goico als erfahrene Game-Konzepterin, Ilze Juhnevica und Zahra Warsame, Designerinnen bei Al Jazeera.

Keine Klischees an dieser Stelle. Einfach mal beobachten. Und vielleicht mit der aktuellen Werbung der Bundeswehr vergleichen.