Deepfakes und manipulierte Realitäten - Technologiefolgenabschätzung und Handlungsempfehlungen für die Schweiz

Die Imitation von Stimmen und Gesichtern mittels neuer KI-Technologien wird zunehmend einfacher – und die Resultate sind schon heute kaum mehr von echten Stimmen und Gesichtern zu unterscheiden. Diese Technologien bieten viele kreative und innovative Nutzungspotenziale, sowohl für Privatnutzende als auch für verschiedene Wirtschaftsbereiche. Andererseits sind Deepfake-Videos und Deepfake-Audios auch Quell zahlreicher Risiken: Sie können z.B. politische Desinformation vereinfachen, Mobbing Vorschub leisten und kriminelle Aktivitäten begünstigen.
Angesichts der fortwährenden Debatten über die Chancen und Risiken von Deepfakes wird in der Studie der Umgang mit einer veränderten Realität diskutiert, in der täuschend echte Fälschungen mit Originalmedien um die Aufmerksamkeit der Zuschauer konkurrieren. Was ist technisch möglich? Welche Grenzen setzt das Recht? Was weiss und denkt die Bevölkerung über Deepfakes? Wie geht der Journalismus mit dem Phänomen um? Welche Rolle könnten Deepfakes in Politik und Wirtschaft spielen? Die Studie bietet zu diesen und weiteren Fragen fundierte Orientierung und zeigt darauf basierende Handlungsmöglichkeiten auf.

A deepfake is an audio or (moving) image content synthesised or manipulated with the aid of artificial intelligence technologies, which appears to be authentic and in which a person says or does something that he or she has never said or done. Since 2017, when synthetic and manipulated media content was first
referred to as “deepfake”, the term has become firmly entrenched in political and media debate.
Several years after its introduction, we can now draw some mixed conclusions: some political deepfakes and deepfake-based fraud cases, for example nuisance or scam calls, appear to confirm certain concerns. On the other hand, avariety of useful applications have been created that are based on synthetic and manipulated media content. Neither the widely feared large-scale use of deepfakes in disinformation campaigns nor a major information apocalypse have materialised to date.
The purpose of this study is to assess the opportunities and risks associated with deepfakes for Switzerland.