Deep Fakes

Deep Fakes sind seit Ende 2017 ein medial und politisch viel behandeltes und brisantes Thema. Der Begriff Deep Fake beschreibt Techniken, bei denen mit Hilfe von Methoden des maschinellen Lernens Bilder und Videos manipuliert und insbesondere Bilder der Gesichter von Personen dazu verwendet werden, das Gesicht auf Bild- oder Videomaterial von anderen Personen zu legen. Damit können die Gesichter bestimmter Personen künstlich in Videos eingesetzt werden oder auch nur die Mimik und Lippenbewegungen von Personen in Videos angepasst werden. Häufige Verwendungszwecke sind einerseits pornografischer Natur, vor allem wenn das Gesicht von Pornodarstellerinnen durch das Gesicht eines anderen ersetzt wird und andererseits das Bearbeiten des Gesichtes von Personen in Videos, sodass beispielsweise die Lippenbewegungen so angepasst werden, dass es mit der entsprechenden Audiospur aussieht, als hätte die Person etwas gesagt, was sie nie gesagt hat. Vor allem die zweite Anwendung wird in Kombination mit Software zum imitieren von Stimmen oft als gefährlich für die Demokratie angesehen, da solche Fälschungen insbesondere im politischen Kontext enorme Wirkungen entfalten könnten.

In den vergangenen Wochen ist das Thema vermehrt in der Öffentlichkeit behandelt worden, vor allem durch einen Deep Fake von Mark Zuckerberg, der über die Macht von Daten redet, und eine Anhörung im amerikanischen Kongress zum Thema Deep Fakes und deren Gefahr. Manipulation durch das Bearbeiten von Bildern ist fast so alt wie die Fotografie selbst und auch die Möglichkeiten der Bildbearbeitung durch Photoshop sind mittlerweile bestens bekannt. Durch die Fortschritte der vergangenen Jahre in den Bereichen der Video-, Bild- und Audiobearbeitung bekommt dieser Themenbereich momentan aber eine neue Facette. Die Fähigkeit, die Realität zu verzerren, hat mit der "Deep Fake"-Technologie einen exponentiellen Sprung nach vorne gemacht. Es wird möglich, Audio und Video von echten Menschen zu erstellen, die Dinge sagen und tun, die sie nie gesagt oder getan haben. Machine Learning-Techniken steigern die Komplexität der Technologie und machen Deep Fakes zunehmend realistischer und schwer zu erkennen. Zudem besitzen Deep-Fake-Technologien Eigenschaften, die eine schnelle und weitreichende Verbreitung ermöglichen, wenn sie in falsche Hände geraten – etwa von Propagandisten, die emotional verstörende Deep Fakes erzeugen wollen, um die öffentliche Meinungsbildung zu beeinflussen.

Dieses Living Fact Sheet bietet eine kommentierte Liste von Links zu entscheidenden und wichtigen Facetten dieses Themas für eine vertiefende Recherche. Es wird laufend erweitert, erhebt aber keinen Anspruch auf Vollständigkeit.

Erste Version: 18.06.2019
Ergänzt am: 28.06.2019