Lasst die Natur entscheiden?! Digitale Zukunftsszenarien aus künstlerisch-wissenschaftlicher Perspektive

Wäre es nicht ein großer Schritt nach vorn für den Klima- und Umweltschutz, wenn wir das Management unseres Ressourcenverbrauchs einer Maschine, einer mächtigen künstlichen Intelligenz (KI) überlassen könnten? Die uns daran erinnert – oder uns sogar zwingt –, regionale Lebensmittel einzukaufen statt Produkte aus Übersee? Die uns auffordert, mit dem Fahrrad zur Arbeit zu fahren und das Auto stehen zu lassen, wenn es um die Luftqualität schlecht bestellt ist? Die das Streaming von Fernsehserien stoppt, sobald wir unser wöchentliches Kohlenstoffbudget aufgebraucht haben? Und die vielleicht sogar der Regierung rät, urbane Flächen in dringend benötigte Ackerflächen umzuwandeln oder die Wildnis zu schützen?

Die Rolle, die digitale Technologien bei der Lösung von Umweltproblemen spielen könnten und sollten, stand im Mittelpunkt eines gemeinsamen Projekts von IASS-Wissenschaftlerinnen und Wissenschaftler aus den Forschungsgruppen zu digitalem Wandel und Narrativen der Nachhaltigkeit und dem Design-Kollektiv N O R M A L S. In diesem Projekt haben wir künstlerische Zugänge und Wissenschaft kombiniert, um die möglichen ethischen Folgen und moralischen Dilemmata zu untersuchen, mit denen wir in einer Welt des immer schnelleren technologischen Wandels konfrontiert sind. Bei dem Projekt ging es insbesondere darum, die Aufmerksamkeit auf die Zielkonflikte zu lenken, die technische Lösungen – sogar solche, die Nachhaltigkeit fördern sollen – (unbeabsichtigt) schaffen können. Das Projekt ist Teil einer Serie von IASS-Veranstaltungen, die künstlerische Perspektiven in die Nachhaltigkeitsforschung einbringen, was auch ein zentrales Anliegen des IASS-Fellowship-Programms ist.

Um kritisches Denken anzuregen und Zukunftsszenarien greifbarer zu machen, haben wir spekulative Fiktion als Methode gewählt. Kollektive Ideen und Vorstellungen haben im Wechselspiel zwischen Gesellschaft und Technologie eine wichtige Funktion (Jasanoff, Kim 2015). Die tatsächliche Machbarkeit fiktionaler Technologien war daher in unserem Ansatz kein zentrales Anliegen; worauf es ankam, waren Emotionen, Ängste und Wünsche, Visionen und Überzeugungen, die mit digitalen Technologien verbunden werden. Um sich zu entfalten, müssen Emotionen von einer gewissen rationalen Glaubwürdigkeit ausgehen – die sie dann wiederum auf eine Art und Weise „verstärken“ können, die die Grenze zwischen Realität und Fiktion verschwimmen lässt. Das Projekt sollte untersuchen, wie weit dieses Wechselspiel bei einem gut informierten Publikum getrieben werden kann, um die heutigen halbbewussten Vorstellungen über digitale Zukünfte besser zu verstehen.

In der ersten Phase des Projekts fand ein Workshop statt, in dem die Kernelemente der Fiktion erarbeitet wurden. 15 Teilnehmerinnen und Teilnehmer aus der Nachhaltigkeitsforschung und -praxis entwickelten und diskutierten verschiedene Gedankenexperimente über mögliche Entwicklungswege im Bereich Digitalisierung. Eines davon kreiste um die Fiktion einer mächtigen künstlichen Intelligenz namens GaiAI, eine Anspielung auf Gaia, die personifizierte Erde der griechischen Mythologie und inspirierende Metapher für einen wichtigen Zweig der Tiefenökologie (Lovelock 1988, Latour 2017). Diese KI sammelt und interpretiert riesige Datenmengen, um daraus Vorschriften zum Ressourcenverbrauch von Privatpersonen und Unternehmen abzuleiten und umzusetzen. Ihr einziges Ziel: Rette die Natur.

Auf diese Kernidee aufbauend, haben Mitglieder von N O R M A L S gemeinsam mit IASS-Forscherinnen und Forscher zusätzliche Elemente für ein Zukunftsszenario entwickelt, wie bspw. ein fiktives europäisches Programm, das mithilfe von GaiAI den ökologischen Fußabdruck menschlicher Aktivität in der EU reduziert. Diese Ideen flossen in ein Skript für eine Podiumsdiskussion zwischen fiktiven Sprecherinnen und Sprecher ein, die im November 2018 auf der Bits-&-Bäume-Konferenz aufgeführt wurde. Das Publikum, dem zunächst nicht klar war, dass es einer fiktionalen Inszenierung beiwohnte, verfolgte eine kontroverse Diskussion zwischen Befürwortern und Gegnern des GaiAI-basierten EU-Programms. Die angeblichen Experten und Lobbyisten stritten um grundlegende Fragen, zum Beispiel, wie viel Macht einer Technologie eingeräumt werden sollte, über menschliches Handeln zu entscheiden, und welche Rolle Kultur und soziale Werte bei deren Entwicklung spielen sollten. Wären wir als Gesellschaft bereit, gewisse Freiheiten aufzugeben, wie etwa die freie Entscheidung über unseren (ökologisch verheerenden) Lebensstil, wenn es dem Gemeinwohl dient? In welchem Maße sollten wir einer Maschine derart wichtige Entscheidungen anvertrauen? Welche Folgen kann das nach sich ziehen?

Nachdem die fiktionale Natur der Debatte enthüllt worden war, verwickelten die Sprecher das Publikum in eine Diskussion über ihre Gefühle und Gedanken und die moralischen Zielkonflikte, die sie wahrnahmen. Unter anderem warfen die Teilnehmer die Frage auf, ob eine solche KI tatsächlich objektiv sein kann oder eher die Interessen und Schwächen ihrer menschlichen Erschaffer widerspiegeln würde.

Während der Diskussion verteilten die Organisatoren zudem Fragebögen an die Teilnehmer. Eine Auswertung der Antworten zeigte, dass das überwiegend sehr junge und technikaffine Publikum die fiktionalen Elemente – insbesondere das EU-Programm – für glaubwürdig hielt und das Gedankenexperiment „unterhaltsam“, „verwirrend“, aber auch „inspirierend“ fand. Die Befragten gaben ein konstruktives Feedback zur Methodologie und Durchführung der fiktionalen Podiumsdiskussion und unterstrichen insbesondere den Wunsch nach mehr Informationen über die fiktionalen Elemente. 60 von 68 gültigen Antworten fanden die Idee der fiktionalen Podiumsdiskussion gut. Ein Teilnehmer schrieb in der Kommentarspalte des Fragebogens, der Einsatz von Fiktion „regt zum Nachdenken über Dinge an, die man sich niemals überlegt hätte, die aber in Zukunft wichtig werden könnten“.

Die Dokumentation des Projekts ist jetzt auf der N O R M A L S-Website abrufbar.