Von Menschen, Müttern, KI und dem Ende der Welt

Holger Pötzsch hat I am Mother gesehen — eine Netflix-Produktion, die tief hineinführt in die aktuellen Debatten zu künstlicher Intelligenz. Das geht nicht ohne Spoiler, hilft aber, die Ideologie zu verstehen, die der Film transportiert.

Von Menschen, Müttern, KI und dem Ende der Welt

Von Holger Pötzsch

Künstliche Intelligenz ist in letzter Zeit in aller Munde. Von Messepräsentationen neuester Errungenschaften im Bereich lernfähiger Haushaltsgeräte über Ambitionen bei Facebook und Google, ihre vorhersehenden Algorithmen so zu verfeinern, dass sie praktisch Gedanken lesen können (oder zumindest Vorschläge unterbreiten, die so passend sind, dass sie genau die Gedanken hervorrufen, die diese Firmen dann zu lesen behaupten, siehe Pötzsch 2018), bis hin zu kritischen Studien, die mit dieser Technologie verbundene Potentiale und Risiken auszuleuchten versuchen, sammeln sich Technoapologeten, Träumer, Kritiker und Utopisten im Nachdenken über das nächste große Ding an der Technikfront. Nach WWW, Web 2.0 und dem Internet der Dinge jetzt also denkende Roboter. Eine gewisse Dosis Technodeterminismus scheint den meisten dieser Diskurse gemein: Die vernetzte KI kommt und wir Menschen müssen uns bitteschön auf die eine oder andere Weise auf sie einstellen.

Bei der Frage, wie wir uns denn so auf diese neue Technologie und deren Möglichkeiten und Unabwägbarkeiten einstellen sollen, gehen dann die Ideen auseinander. Bedeutet KI das Ende menschlicher Schufterei und ein von bedingungslosem allgemeinen Grundeinkommen gesegnetes, freies und kreatives menschliches Dasein? Oder bedeutet KI nur die nächste Umdrehung einer Schraube hin zu noch mehr Kommodifizierung und Ausbeutung menschlicher Rohware? Ebnet KI den Weg zu einer verantwortungsvollen, weil faktenbasierten, Politik oder stellt sie nur das neueste und bisher effizienteste Werkzeug politischer Unterdrückung dar? Perfektioniert KI den Menschen? Oder droht sie uns zu ersetzten? Und falls Letzteres, wäre das eigentlich ein Problem?

Ein Blogeintrag kann all diesen Fragen natürlich nicht in erforderlichem Detail nachgehen (für einen lesenswerten und balancierten Versuch siehe Daum 2019). Was das Thema für Medienrealitäten interessant (und für einen Blogeintrag hantierbar) macht, ist die Frage, wie zeitgenössische Populärkultur KI imaginiert und welche ideologischen Untertöne, was den Zustand des Planeten und der Menschheit angeht, da so durchscheinen und dadurch als impliziter normativer Hintergrund etabliert werden. Hierzu wende ich mich Grant Sputores Film I Am Mother (2019) zu, der vom Streamingdienst Netflix produziert wurde und einen interessanten Versuch darstellt, mögliche gesellschaftliche Rollen von KI zu imaginieren.

Aufgrund der Popularität und weiten Distribution von Netflix-Produkten lassen sich an diesem Beispiel gut Kernelemente einer dominierenden Ordnung ablesen. Mit Kracauer (1947) kann man sich an einer symptomatischen Lesung versuchen, die argumentiert, Popularität (und daher: weite Distribution) deute darauf hin, dass ein Kulturprodukt gewisse bestehende Grundhaltungen spiegele, während Artzs (2015) Kritik globaler kapitalistischer Medienproduktion andeutet, dass Filme, die gesellschaftliche Alternativen jenseits des Rahmens einer hegemonischen Ordnung auszuleuchten und zu legitimieren versuchen, erst gar nicht produziert werden. Was in die Kinos oder ins Fernsehen kommt, wurde bereits entlang hegemonischer Faktoren vorgefiltert (siehe Alford 2015). Aufgrund des gewählten Themas eignet sich I Am Mother sehr gut, impliziten Haltungen und Normen zu Themen wie KI, Mutterschaft, Politik und menschliche Natur nachzuspüren. Daher ist der Film auch für Projekte wie Natalie Berners Auslotung von Mutterschaftsbildern in Medien von potentieller Bedeutung.

I Am Mother ist ein relativer stiller Film, der sich zumeist in wenigen Räumen eines unterirdischen Bunkers abspielt. Werken wie Stanley Kubricks Klassiker 2001: A Space Odyssey (1968) oder Duncan Jones’ aktuellerem Moon (2009) nicht unähnlich, lotet der Film menschliche Isolation und die Abhängigkeit von komplexen und intelligenten technischen Systemen aus. Im Gegensatz zu diesen beiden Filmen wird in I Am Mother allerdings nicht die Überwindung fehlerhaft operierender Technologie oder die Befreiung aus von Menschen geschaffenen Unterdrückungs- und Ausbeutungsverhältnissen auch mit Hilfe von Technologie zum Thema, sondern die Frage, ob die menschliche Rasse aufgrund ihrer vielen Fehler und Schwächen überhaupt zum Überleben taugt oder nicht eventuell sogar aktiv ausgerottet werden sollte, um mit Hilfe von künstlicher Intelligenz korrekt erzogenen neuen Menschen Platz zu verschaffen.  

Achtung, ab hier Spoiler!

Grant Sputores I Am Mother beginnt mit einem menschenleeren Bunker – UNU Repopulation Facility ­– und einer Geburt. Ein Roboter, Mother, entnimmt ein Embryo aus einer Lagerstätte und erschafft in einer künstlichen Gebärmutter ein menschliches Kind, Daughter. Kurze Clips zeigen Begebenheiten aus der Kindheit von Daughter und die warme Zuwendung eines in jeder Form liebevoll und mütterlich agierenden Roboters. Auf die Frage der heranwachsenden Daughter, warum es außer ihr keine anderen Kinder gäbe, antwortet Mother, früher habe es solche gegeben, vor den Kriegen. Daraufhin lässt das Kind verlauten, es wolle kein Mensch sein, weil die Menschen alles zerstört hätten. Die Maschine entgegnet, Menschen könnten auch wundervolle Geschöpfe sein. Damit sind Thematik und Grundhaltung des Films angeschlagen. Menschen scheinen von Natur her zerstörerisch und mangelbehaftet, ihre Vernichtung daher unumgänglich. Sie sind jedoch auch optimierbar – so man ihnen nur die rechte, algorithmisch vermittelte Erziehung angedeihen lässt.

Daughter wächst in dem Glauben auf, dass die Oberfläche der Erde verseucht und unbewohnbar sei. Sie geht im Bunker ihrem gewöhnlichen Tagesablauf nach, der aus Unterricht, Gymnastik und unterschiedlichen Freizeitbeschäftigungen (unterbrochen von gelegentlichen Tests) besteht und von Mutter liebevoll und nachsichtig organisiert wird. Dieser Rahmen erfährt eine existenzielle Herausforderung, als Daughter eines Tages ein Klopfen an der Bunkertür vernimmt und einer verletzten Frau von außen, ohne Mothers Wissen, Einlass gewährt. Zu ihrer großen Überraschung erzählt die Frau, dass die Oberfläche bewohnbar sei und Roboter sie angeschossen hätten. Sie hat panische Angst vor Mother und zeigt sich unwillig, von der Maschine behandelt zu werden. Sie versucht sogar, den Roboter mit einer Schrotflinte außer Gefecht zu setzen.

Zuletzt findet Daughter die traurige Wahrheit heraus. Sie ist nicht die erste Daughter. Offenbar ist sie nur die erste, die alle Tests bestanden hat und daher noch am Leben ist. Alle anderen wurden im Lauf der Jahre von Mother als fehlerhaft eingestuft und daher eingeäschert. Diese Erkenntnis bewegt Daughter zur Flucht mit der verletzten Frau, die ihr von einem Leben mit anderen Menschen in verlassenen Grubenschächten erzählt. Doch auch hier wird Daughter belogen. Die Frau erweist sich als einzige Überlebende, die an einem Strand in angeschwemmten Containern ein elendes Dasein fristet. Keine menschliche Gemeinschaft also. Nur isolierte Individuen.

Daughter entscheidet sich daher, in den Bunker zurückzukehren, um ihren gerade geborenen kleinen Bruder zu holen. Die Tatsache, dass sie alle Tests bestanden hat und daher offenbar ein für Mother wertes Menschenleben darstellt, schützt sie vor den Kampfrobotern, die jetzt den Bunker bewachen. Im folgenden Gespräch mit dem Roboter, der liebevoll den neugeborenen Bruder versorgt, erfährt Daughter, dass Mother und alle anderen Roboter von einer einzigen vernetzten künstlichen Intelligenz gesteuert werden. Die KI ist also für alles verantwortlich – gnadenlose Jagd auf Überlebende und liebevolles Heranzüchtigen einer ethisch und moralisch (und genetisch?) angeblich perfekten Menschheit.

Mother übergibt sodann den Säugling an Daughter und lässt sich von ihr, in ihrer Form als Mother, erschießen. Von nun an ist Daughter, der durch standardisierte Tests als perfekt ermittelte Mensch, für die Wiederbevölkerung der Welt verantwortlich. Dennoch bleibt Mother eine unsichtbare und allumfassende Präsenz. Denn der physische Roboter, der Daughter aufzog und zuletzt von ihr zerstört wurde, ist nur einer von Millionen Exemplaren. Und Daughters neugewonnene Freiheit nichts als Illusion. Es bleibt dann auch dem Zuschauer überlassen, sich auszumalen, was passieren wird, falls Daughters Bruder den Ansprüchen der standardisierten Tests nicht gerecht werden sollte. Die KI dankt also nur scheinbar ab und behält im Hintergrund die totale Kontrolle. Und für die Menschen gilt: Passt euch an, muckt nicht auf, oder verschwindet aus meinem Paradies.

Der Film enthält eine Reihe ideologisch problematische Aspekte. Zum einen wird suggeriert, der Mensch sei ein Geschöpf, das ohne Gemeinschaft nicht nur überleben, sondern auch glücklich und zufrieden sein kann. Abgesehen von der grundlegendsten Bindung – der zwischen Mutter und Kind – sind keine kollektiven Strukturen notwendig. Der Mensch ist nichts als Individuum und durch lernfähige KI optimierbares Humankapital – das perfekte neoliberale Subjekt, frei von allen hemmenden und fordernden kollektiven Strukturen.

Zum anderen ist die Apokalypse nicht mehr drohendes Übel, das vom Helden abgewendet werden muss. Es geht auch nicht mehr darum, aus den zivilisatorischen Resten einen Kern an Humanität zu retten und scheinbar Verlorenes wiederaufzubauen. Die Zerstörung der Welt wird zum Hintergrund. Sie erscheint als notwendig und unabwendbar – als Resultat unserer eigenen menschlichen Fehlerbefangenheit – und als Voraussetzung der Erschaffung einer besseren Welt,  bewohnt von besseren Menschen. Post-Politik in Reinform. Es geht nicht um kollektive Aktion, nicht um die Abschaffung des Kapitalismus oder demokratischen Aufstand. Das einzige, was wir in der gegebenen Situation charakterisiert durch Klimakrise, Artensterben, Krieg, Ungleichheit usw. also tun können, ist fleißig KI zu entwickeln, um unserer unumgänglichen Selbstzerstörung mit Erschaffung denkender Maschinen noch zuvor zu kommen, die dann die verlorene Welt mit optimierten Individuen wiederbevölkern. Die Apokalypse als Voraussetzung menschlicher Optimierung durch Technik. Schöne neue Welt.

Was in diesem Film, bei all seinen dramaturgischen und schauspielerischen Leistungen, auch durchscheint, ist eine unheimliche Nähe zwischen technooptimistischen Allmachtfantasien á la Silicon Valley und faschistischem Gedankengut. Digitale Disruptionslogik in letzter Konsequenz. Die globale Apokalypse als Möglichkeit, als Chance und Grundlage für eine optimierte Welt. Denn Daughter besiegt ja Mother nicht wirklich. Die KI hinter Mother zieht sich nur freiwillig etwas zurück, übergibt dem ersten der neuen Menschen lediglich ein bisschen mehr Verantwortung. Es bleibt zu sehen, ob der neue Mensch auch auf lange Sicht den durch standardisierte Tests erschlossenen Ansprüchen der KI gerecht werden kann. Falls nicht, muss man vielleicht einfach einsehen, dass der Mensch nicht lebenswert ist. Aber: Kein Grund zur Trauer. KI wird den Planeten schon richten.

Literaturangaben

Matthew Alford: How Useful Is a Propaganda Model for Screen Entertainment? In: Alison Edgley (Hrsg.): Noam Chomsky. Basingstoke: Palgrave Macmillan 2015, S. 141-164.

Lee Artz: Global Entertainment Media: A Critical Introduction. Oxford: Wiley Blackwell 2015.

Timo Daum: Die künstliche Intelligenz des Kapitals. Hamburg: Edition Nautilus 2019.

Siegfried Kracauer: From Caligari to Hitler: A Psychological History of the German Film. Princeton: Princeton University Press 1947.

Holger Pötzsch: Archives and Identity in the Context of Social Media and Algorithmic Analytics: Towards an Understanding of iArchive and Predictive Retention. In: Media & Society, Vol. 20(9) (2018), S. 3304-3322.

Empfohlene Zitierweise

Holger Pötzsch: Von Menschen, Müttern, KI und dem Ende der Welt. In: Michael Meyen (Hrsg.): Medienrealität 2019. https://medienblog.hypotheses.org/6262 (Datum des Zugriffs)