Deepfakes als kulturelle Praxis und gesellschaftliche Herausforderung: Zu Potentialen und Wirkungsweisen der Technologie

Deepfake-Technologie bietet die Möglichkeit, mit vergleichsweise geringem Auf wand das Gesicht, die Stimme und die Schreibweise anderer Personen zu imitieren. Deepfakes stellen synthetische audiovisuelle Medien von Gesichtern, Körpern oder Stimmen dar, die mittels Künstlicher Intelligenz (KI) produziert oder verändert wurden. Die technische Basis hierfür bilden Generative Adversial Networks (GANs), künstliche Neuronale Netze, die eine synthetische Datei erzeugen (Pawelec und Bieß 2021). Die Entwicklungen im Bereich "generativer KI" schreiten schnell und großflächig voran, was sich an dem Aufkommen und der breiten Verwendung von Systemen wie ChatGPT und DALL•E zeigt. Auf Grundlage von GANs können diese Systeme Texte, Bilder und Audiodateien durch Befehle (Prompts) erstellen. Deepfakes bilden in der Regel Personen ab, die etwas zu sagen oder zu tun scheinen, was sie nie gesagt oder getan haben (van Huijstee et al. 2021). Mit dem Aufkommen von Bild-, Audio-und Textgeneratoren können neuerdings nicht mehr nur Personen, sondern in zunehmender Qualität auch jedwede Gegenstände, Situationen und Geräusche unter KI-Einsatz synthetisiert werden. Der vorliegende Beitrag basiert auf einer von TA-SWISS in Auftrag gegebenen Studie zum Thema "Deepfakes und manipulierte Realitäten". Seit der Existenz von Fotomontagen ist die technikbasierte Täuschung von Lebenswirklichkeiten kein neues Phänomen: "Photoshoppen" ist zum integralen Bestandteil der digitalen Kultur geworden. An der Schnittstelle zwischen Realität und öffentlicher, medialer Darstellung formt die Bildbearbeitungstechnik die Wahrnehmung von (optischer) Wirklichkeit. Ferner führt dies zu einer Manipulation des Informationsgehalts und stellt die Authentizität und Aussagekraft von Bildmaterial in Frage. Die Fortschritte der KI-Technologien haben die Vielfalt an Manipulationstechniken des Informationsgehalts von Selbst-und Fremddarstellung seither vor allem in Richtung Bewegtbild ausgeweitet, doch auch Audioinhalte sind betroffen (Paris und Donovan 2019).