Lügt Obama? – Reflektion zum Vortrag “Deep Fakes in the Era of Mechanical Intelligence” von N. Katherine Hayles

Welchen Medien darf man überhaupt noch glauben? – Im Zeitalter der Deep Fakes wird diese Frage virulent. „Deep Fakes“ sind realistisch wirkende Medieninhalte, welche durch Techniken der künstlichen Intelligenz abgeändert oder verfälscht worden sind. In einem Video von Jordan Peele sehen wir den früheren Präsidenten Barack Obama im Oval Office sitzen. Obama wendet sich in einer Videobotschaft an die Öffentlichkeit. Er warnt davor, dass wir in einer Zeit leben, in der man dazu in der Lage sei, in Medieninhalten beliebigen Personen Worte so in den Mund zu legen, als hätten sie diese gesprochen. So könne man es aussehen lassen als würde Barack Obama Killomanger, dem Marvel Bösewicht, rechtgeben oder schlicht und einfach Donald Trump als ‚Dipshit‘ beschimpfen.

Nach dreißig Sekunden teilt sich die Aufnahme und wir sehen den Regisseur Jordan Peele, der die exakt selben Worte wie Obama spricht. Peele nutzt dieses Deep Fake von Obama performativ, um die Warnung auszusprechen – Er legt ihm seine Worte in den Mund. Wahrheit und Fälschung sind fast nicht mehr zu unterscheiden. (https://www.youtube.com/watch?v=cQ54GDm1eL0)

Doch was bedeutet das für uns als Menschen? Sind wir nicht mehr in der Lage zwischen Wahrheit und Fälschung zu unterscheiden? Und wenn nicht, was macht uns als Mensch aus?

Dieses Video ist eines der Beispiele, die N. Katherine Hayles in ihrer Keynote “Deep Fakes in the Era of Mechanical Intelligence” zeigte, um sich mit diesen Fragen auseinanderzusetzen. Die emeritierte Literaturprofessorin der Duke University und Distinguished Research Professorin für English an der University of California forscht zu den Zusammenhängen von Literatur, Wissenschaft und Technologie im zwanzigsten und einundzwanzigsten Jahrhundert. Außerdem ist sie Literaturkritikern der Postmoderne. Die anschließende Diskussion wurde moderiert von Dr. Susanne Leeb im Rahmen der Tagung „Das digitale Bild – Die soziale Dimension, politische Perspektiven und ökonomische Zwänge“ dieses Schwerpunktprogramms. Leeb leitet das Projekt „Jameson 2.0. Cognitive mapping in der zeitgenössischen Kunst“.

Ausgehend von Walter Benjamins Essay „The Work of Art in the Age of technical Reproducability“ diskutierte Hayles die Auswirkungen des Deep Fakes auf das Zustandekommen unseres Wissens und unseres Selbstverständnisses. Benjamin machte bereits 1935 darauf aufmerksam, dass die technische Reproduzierbarkeit zum Verlust der Aura der Kunst führt. Übertragen auf den Menschen und dessen Reproduktion durch Deep Fakes verlieren wir somit auch unsere Aura. Doch was versteht man unter der Aura? 

Auf der Basis des Romans „Klara and the Sun“ (dt.: „Klara und die Sonne“) von Kazuo Ishaguro (2021), in dem ein Roboter ein krankes Kind nach dessen Tod ersetzen soll, diskutiert Hayles diese ontologische Grundsatzfrage. Was müssen Maschinen nachahmen, um menschlich zu werden?

Katherine Hayles setzt bei dem menschlichen Bewusstsein an. Doch gibt es Bewusstsein überhaupt? Über diese Frage streiten sich Psycholog*innen und Philosoph*innen. Hayles argumentiert, dass die menschliche Verkörperung als neurologische Grundvoraussetzung zur Entstehung eines Bewusstseins dient. Deep Fakes untergraben diese Grundvoraussetzung. Hayles sieht den Umgang mit dieser Subversion als zentrale kulturelle Dynamik des neuen Jahrtausends.

Anschließend wurde die Frage nach den positiven Folgen des Verlustes des menschlichen Bewusstseins als ausschlaggebendes Merkmal für die Aura aus dem Publikum gestellt. Hayles verwies auf ihr 2017 erschienenes Buch „Unthought: the power of the coginitive nonconscious“, in welchem sie die kognitiven Prozesse der Filterung von Informationen, die letztendlich im Bewusstsein verarbeitet werden, als das, was unsere Aura ausmacht, benennt. Anstatt um das menschliche Bewusstsein zu trauern, eröffnet diese Herangehensweise eine ganze neue Form der Epistemologie.

Auch die ontologische Ebene wurde in der Diskussion wieder aufgegriffen. Ausgehend von dem Menschen als relative Einheit, die sich im Laufe des technologischen Fortschrittes durch die Abgrenzung von Gott, den Affen und nun der künstlichen Intelligenz definiert, erläuterte Hayles, wie sie den Begriff der menschlichen Spezies erweitern würde, um den aktuellen Entwicklungen gerecht zu werden. Dennoch besteht sie auf die Erhaltung der Funktion der Menschheit als Entscheidungskraft und Verantwortungsträger. Als Argument dafür zieht sie die Beobachtung heran, dass der Mensch die einzige Spezies ist, die auf die Klimakrise aktiv reagieren kann. Der Mensch kann aufgrund seiner Lebenserfahrung die Konsequenzen seines Verhaltens vorauszusehen. Ein Algorithmus sei zwar in der Lage, Entscheidungen zu treffen, die Lebenserfahrung der Menschheit könne jedoch nicht ersetzt werden.

Hayles schlägt vor, den Begriff der menschlichen Spezies in drei Kategorien aufzuschlüsseln, die auf Gemeinsamkeiten beruhen. Zum einen Menschen in Symbiose mit anderen Menschen, zum anderen Menschen in Biosymbiose, das heißt eine Zuordnung unter Berücksichtigung der Fähigkeiten, die wir mit Lebewesen gemeinsam haben, worunter die Professorin auch kognitive Fähigkeiten zählt und zuletzt Menschen in Technosymbiose, die die Ähnlichkeiten des Menschen mit künstlichen Lebensformen einschließt. Jede dieser Kategorien sei eine Möglichkeit, ein Kollektiv zusammenzurufen, welches in unterschiedlicher Weise in verschiedenen Situationen nützlich wäre.

Mit ihrer Keynote ist es Katherine Hayles gelungen, eine philosophische Diskussion zu eröffnen, die in vielen Punkten über das Deep Fake hinaus geht. Trotz des digitalen Formats der Tagung entstand ein lebendiger Austausch zwischen den Teilnehmenden und Frau Hayles. Mit dem Ausblick der technischen Möglichkeit, nicht nur Menschen nachzuahmen, sondern eigenständig handelnde und denkende Wesen zu erzeugen, müssen viele Grenzen neu gezogen oder aufgelöst werden. Das digitale Bild ist dabei ein Schlüsselelement und gleichzeitig der erste Schritt in Richtung des Umdenkens bestehender Kategorien und Definitionsmerkmale.

Anna Prianka Schmidt, Mitarbeiterin im Projekt Hinter dem digitalen Bild. Fotografien auf Community-Plattformen und auf Twitter als Repositorien für maschinelles Lernen und journalistische Publikationen

Quelle Screenshot:

„You Won’t Believe What Obama Says In This Video! 😉“ YouTube Video eines Deep Fake Videos von Barack Obama des Regisseurs Jordan Peele, eingestellt von BuzzFeedVideo (hochgeladen am 17.04.2018), 01:12 min, Screenshot 00:40 min, Aufgerufen am 20.05.2021, https://www.youtube.com/watch?v=cQ54GDm1eL0