Who Gets Deepfaked?

Was braucht es, um Ziel einer sexualisierten Deepfake-Darstellung zu werden? Ein öffentlich verfügbares Foto. Für Abgeordnete genügt damit die Ausübung des Mandats: Ein offizielles Porträt oder eine Aufnahme von einem Termin, veröffentlicht als selbstverständlicher Teil des Amtes, reicht als Ausgangsmaterial.
Bildmanipulation setzte früher Können und Aufwand voraus. Heute erzeugen Nudify-Apps und frei zugängliche Modelle überzeugende Darstellungen mit wenigen Klicks; sogenannte „Gateways“ stellen biografische Angaben, Bildmaterial und Generierungswerkzeug auf einer Seite zusammen, und Suchindizes halten Spuren fest, lange nachdem Inhalte oder ganze Domains entfernt wurden. Was als Deepfake-Pornografie diskutiert wird, ist strukturell eine Entkopplung von Darstellung und eigener Äußerung: Es entstehen Abbildungen von Menschen, die selbst nichts veröffentlicht, nichts geäußert und in nichts eingewilligt haben.
Das hat Konsequenzen – für die Betroffenen, für die Bedingungen politischer Teilhabe und für die Demokratie. Wer als gewählte Amtsträgerin damit rechnen muss, in dieser Form dargestellt zu werden, trägt Kosten des öffentlichen Auftretens, die andere nicht tragen. Für den Staat und die EU ist das eine offene regulatorische Frage: Mit dem AI Act, dem Digital Services Act und einer wachsenden Zahl nationaler Deepfake-Straftatbestände existieren erste Instrumente, sie greifen jedoch überwiegend nachträglich – nach Anzeige, nach Auffinden, nach Verbreitung. Ihre Wirksamkeit setzt voraus, dass messbar ist, wo dieser Schaden entsteht, wen er trifft und ob Maßnahmen ihn tatsächlich verringern oder nur verlagern.

Das Projekt wird durchgeführt von Benjamin Shultz, Data Fellow bei der Agora Digitale Transformation und inhaltliche Ansprechperson, für dessen Betreuung wiederum Dr. Vivien Benert, Innovation Lead für Digitale Öffentlichkeit bei der Agora Digitale Transformation, zuständig ist.

Vor dem oben skizzierten Hintergrund untersucht das Projekt die Betroffenheit von 5.872 Abgeordneten nationaler Parlamente aus allen 27 EU-Mitgliedstaaten und modelliert sie gegen Geschlecht, Alter, Migrationshintergrund, institutionelle Prominenz, politische Ausrichtung und nationale Rechtslage. Wiederholte Erhebungen an derselben Grundgesamtheit machen sichtbar, wie sich Betroffenheit nach datierbaren Ereignissen wie Plattformabschaltungen, neuen Gesetzen oder Vollzugsmaßnahmen verändert. Das Projekt liefert damit wichtige Daten für betroffene Amtsträger:innen, für Aufsicht und Vollzug und für regulatorische Ansätze, die vorgelagert bei Generierungswerkzeugen sowie Hosting- und Indexierungsinfrastruktur ansetzen.