Berlin | Was Deepfakes sind - und wie sie entstehen

Berlin (dpa/tmn) - Mithilfe Künstlicher Intelligenz (KI) ist heutzutage vieles machbar, etwa das Erzeugen von Deepfakes. Der sogenannte AI Act, das weltweit erste umfassende Gesetz der Europäischen Union zur Regulierung von KI, liefert auch eine Definition von Deepfakes.

Und zwar in Artikel 3, Absatz 60: «Einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.»

Technisch faszinierend, aber eine Herausforderung

Aus Sicht des Digital-Branchenverbands Bitkom sind Deepfakes eine besondere Form synthetischer Medien – technisch faszinierend, aber im Zusammenhang zum Beispiel mit Desinformation oder Cybercrime eine neue Herausforderung.

Wie entstehen Deepfakes eigentlich? Deepfakes lassen sich mit sogenannten generativen KI-Modellen erstellen. «Diese Systeme werden mit Bild-, Audio- oder Videodateien trainiert», erläutert Bitkom-Experte Marvin Pawelczyk.

Teils reichen wenige Sekunden Audio oder Video

Die Systeme lernen typische Muster eines Gesichts oder einer Stimme und können diese anschließend auf neues Material übertragen. «Teilweise reichen dafür wenige Sekunden Video- oder Tonaufnahmen oder einige Bilder, mit mehr Material wird das Ergebnis dann besser», so Pawelczyk. 

Bis hin zum fertigen Deepfake passiert dem Experten zufolge vereinfacht gesagt Folgendes:

1. Datensammlung: Fotos, Videos oder Sprachaufnahmen einer Person werden gesammelt – häufig aus sozialen Netzwerken oder von öffentlichen Auftritten.
2. Training des Modells: Eine KI analysiert diese Daten und lernt, wie das Gesicht oder die Stimme in unterschiedlichen Situationen aussieht oder klingt.
3. Synthese: Das gelernte Muster wird auf fremdes Material gelegt – etwa auf den Körper einer anderen Person oder auf einen neuen Text, den die KI in der imitierten Stimme vorliest.