Die Gefahr von Deep Fakes für unsere Demokratie
Seit Jahren stellt der Einfluss von Falschinformationen und die Manipulation der Öffentlichkeit eine zunehmende Bedrohung für die Stabilität politischer Systeme dar. Angesichts der COVID-19-Pandemie hat die Verbreitung von Fake News und Verschwörungstheorien neue Höhen erreicht. Nichtstaatliche Akteure - darunter Extremisten und Populisten - versuchen, die Verunsicherung in der Bevölkerung für ihre Ziele auszunutzen. Aber auch staatliche Akteure haben sich an der Verbreitung gefälschter Nachrichten über das Virus beteiligt und damit ihre eigenen Bürger in Gefahr gebracht.
Heute werden Desinformationskampagnen oft durch sogenannte Deep Fakes unterstützt - täuschend echte, synthetisierte Videos mit beliebigen Inhalten. Angesichts grundlegender technologischer Fortschritte sind zur Herstellung solcher "Deep Fakes" keine spezifischen Fähigkeiten mehr nötig, sodass diese Möglichkeit nicht länger nur Spezialisten, sondern einem breiten Spektrum von Akteuren offen steht. Dies erhöht das Risiko ihres Missbrauchs und stellt unsere demokratischen Gesellschaften vor die Herausforderung, politische Lösungen für den Umgang mit diesem wachsenden Gefahrenpotential zu finden.
Um hierfür Lösungswege aufzuzeigen und zu erörtern, inwiefern die Zunahme von "Deep Fakes" eine Bedrohung für unsere offene Gesellschaft darstellen kann, initiierte die Konrad-Adenauer-Stiftung zusammen mit dem Counter Extremism Project (CEP) die Erstellung einer Studie mit dem Titel: "On the Threat of Deep Fakes to Democracy and Society". Das Papier wurde in einem Online-Seminar am 29. Juni vorgestellt. Neben den Autoren – Prof. Hany Farid von der University of California in Berkeley und Dr. Hans-Jakob Schindler, Senior Director des CEP, – nahm auch die Bundestagsabgeordnete und Vorsitzende der Enquete-Kommission „Künstliche Intelligenz“, Ronja Kemmer, an der Veranstaltung teil, um einen Einblick in die Bedrohung durch Deep Fakes im deutschen politischen Kontext zu geben.
Prof. Farid gab einen ausführlichen Überblick über die Geschichte und insbesondere die Technologie hinter der Herstellung von Deep Fakes sowie die Möglichkeiten, diese als Fälschungen zu enttarnen – sei es mit technologischen Lösungen oder sogar mit dem menschlichen Auge. Er zeichnete auch ein sehr klares Bild über die Bereiche, in denen Deep Fakes als Waffe eingesetzt werden, so zum Beispiel bei nicht-einvernehmlicher Pornographie, Desinformationskampagnen oder Betrug, und betonte die Notwendigkeit, die Herstellung und Verbreitung von Deep Fakes zu regulieren.
Ronja Kemmer unterstrich die Dringlichkeit, mit welcher der Deutsche Bundestag das Thema Deep Fakes im Kontext der digitalen Transformation angehen müsse. Die deutsche Politik unterstütze diese Agenda, indem sie Forschungsprojekte zu diesem Thema fördert und die öffentliche Aufklärung stärkt, um das Bewusstsein dafür zu schärfen, dass nicht alle Online-Inhalte, einschließlich Videos, wahrheitsgetreu sein müssen. Für Deutschland sei es wichtig, die richtige Balance zu finden zwischen dem Schutz der Internetnutzer vor Desinformationskampagnen und der gleichzeitigen Vermeidung von Überregulierung und Einschränkung der Meinungsfreiheit.
Die anschließende Fragerunde brachte einige aufschlussreiche Aspekte von Seiten der rund 150 Teilnehmer hervor, die von den Podiumsteilnehmern beantwortet wurden. Die Diskussion zeigte, dass das Thema nicht nur in der deutschen oder amerikanischen Gesellschaft, sondern auch in anderen Teile der Welt für viele Menschen relevant ist - die Teilnehmer kamen unter anderem aus Südamerika und Osteuropa.
Falls Sie das Online-Seminar verpasst haben, können Sie es hier noch einmal anschauen:
Im Vorfeld haben wir ein Interview mit Prof. Dr. Hany Farid geführt:
关于这个系列
德国康拉德•阿登纳基金会、它的培训机构、教育中心和其国外代表处每年举办数千个不同主题的活动。关于重要国际会议、大事活动、专题讨论会等等的报道我们及时且独家的公布在我们的网页www.kas.de。在这里您除了可看到内容摘要之外，还可看到额外的材料，例如照片、演讲稿、影片或录音。