Veranstaltungsberichte

Die Gefahr von Deep Fakes für unsere Demokratie

von Nauel Semaan

Präsentation der Studie Deep Fakes im Rahmen eines Online-Seminars

Deep Fakes sind technisch manipulierte Videos - und sie sind täuschend echt. Werden sie in einer Disinformationskampagne über Social Media eingesetzt, haben sie das Potenzial, unsere Demokratie zu gefährden. Wie können Internetnutzer ein Deep-Fake-Video von einem echten unterscheiden? Welche Rahmenbedingungen kann die Politik setzen, um dieser Gefahr zu begegnen? Die Studie von Prof. Dr. Hany Farid und Dr. Hans-Jakob Schindler wurde im Rahmen eines Online-Seminars vorgestellt und geht auf dieses Phänomen ein.

Seit Jahren stellt der Einfluss von Falschinformationen und die Manipulation der Öffentlichkeit eine zunehmende Bedrohung für die Stabilität politischer Systeme dar. Angesichts der COVID-19-Pandemie hat die Verbreitung von Fake News und Verschwörungstheorien neue Höhen erreicht. Nichtstaatliche Akteure - darunter Extremisten und Populisten - versuchen, die Verunsicherung in der Bevölkerung für ihre Ziele auszunutzen. Aber auch staatliche Akteure haben sich an der Verbreitung gefälschter Nachrichten über das Virus beteiligt und damit ihre eigenen Bürger in Gefahr gebracht.

Heute werden Desinformationskampagnen oft durch sogenannte Deep Fakes unterstützt - täuschend echte, synthetisierte Videos mit beliebigen Inhalten. Angesichts grundlegender technologischer Fortschritte sind zur Herstellung solcher "Deep Fakes" keine spezifischen Fähigkeiten mehr nötig, sodass diese Möglichkeit nicht länger nur Spezialisten, sondern einem breiten Spektrum von Akteuren offen steht. Dies erhöht das Risiko ihres Missbrauchs und stellt unsere demokratischen Gesellschaften vor die Herausforderung, politische Lösungen für den Umgang mit diesem wachsenden Gefahrenpotential zu finden.

Um hierfür Lösungswege aufzuzeigen und zu erörtern, inwiefern die Zunahme von "Deep Fakes" eine Bedrohung für unsere offene Gesellschaft darstellen kann, initiierte die Konrad-Adenauer-Stiftung zusammen mit dem Counter Extremism Project (CEP) die Erstellung einer Studie mit dem Titel: "On the Threat of Deep Fakes to Democracy and Society". Das Papier wurde in einem Online-Seminar am 29. Juni vorgestellt. Neben den Autoren – Prof. Hany Farid von der University of California in Berkeley und Dr. Hans-Jakob Schindler, Senior Director des CEP, – nahm auch die Bundestagsabgeordnete und Vorsitzende der Enquete-Kommission „Künstliche Intelligenz“, Ronja Kemmer, an der Veranstaltung teil, um einen Einblick in die Bedrohung durch Deep Fakes im deutschen politischen Kontext zu geben.

Prof. Farid gab einen ausführlichen Überblick über die Geschichte und insbesondere die Technologie hinter der Herstellung von Deep Fakes sowie die Möglichkeiten, diese als Fälschungen zu enttarnen – sei es mit technologischen Lösungen oder sogar mit dem menschlichen Auge. Er zeichnete auch ein sehr klares Bild über die Bereiche, in denen Deep Fakes als Waffe eingesetzt werden, so zum Beispiel bei nicht-einvernehmlicher Pornographie, Desinformationskampagnen oder Betrug, und betonte die Notwendigkeit, die Herstellung und Verbreitung von Deep Fakes zu regulieren.

Ronja Kemmer unterstrich die Dringlichkeit, mit welcher der Deutsche Bundestag das Thema Deep Fakes im Kontext der digitalen Transformation angehen müsse. Die deutsche Politik unterstütze diese Agenda, indem sie Forschungsprojekte zu diesem Thema fördert und die öffentliche Aufklärung stärkt, um das Bewusstsein dafür zu schärfen, dass nicht alle Online-Inhalte, einschließlich Videos, wahrheitsgetreu sein müssen. Für Deutschland sei es wichtig, die richtige Balance zu finden zwischen dem Schutz der Internetnutzer vor Desinformationskampagnen und der gleichzeitigen Vermeidung von Überregulierung und Einschränkung der Meinungsfreiheit.

Die anschließende Fragerunde brachte einige aufschlussreiche Aspekte von Seiten der rund 150 Teilnehmer hervor, die von den Podiumsteilnehmern beantwortet wurden. Die Diskussion zeigte, dass das Thema nicht nur in der deutschen oder amerikanischen Gesellschaft, sondern auch in anderen Teile der Welt für viele Menschen relevant ist - die Teilnehmer kamen unter anderem aus Südamerika und Osteuropa.

Falls Sie das Online-Seminar verpasst  haben, können Sie es hier noch einmal anschauen:

Im Vorfeld haben wir ein Interview mit Prof. Dr. Hany Farid geführt:

Ansprechpartner

Nauel Semaan

Nauel  Semaan bild

Referentin Terrorismusbekämpfung

Nauel.Semaan@kas.de +49 30 26996-3879
Einzeltitel
istock by Getty images/posteriori
29. Juni 2020
Mehr erfahren
Analysen und Argumente
Soryn, stock.adobe.com
13. Februar 2020
Mehr erfahren
Auslandsinformationen
16. März 2020
Mehr erfahren