In 8 Sekunden zu Jon Snow: Neue Deepfakes-App macht Sie in Sekunden zu Leo DiCaprio - und hat nun mächtig Ärger
Mit der Smartphone-App Zao kann jeder zum "Game of Thrones"- oder Hollywood-Star werden. Die Deepfake-App ersetzt in Sekunden die Gesichter in Clips mit dem eigenen. Kein Wunder, dass ihre Popularität regelrecht explodiert. Doch gleichzeitig wächst die Kritik.
Das eigene Gesicht in jeden beliebigen Video-Clip einbauen - das verspricht Zao. Anders als bisherige Deepfakes reichen der App dafür ein einzelnes Foto und wenige Sekunden Zeit. Kein Wunder, dass Zao in der Heimat China gerade komplett durch die Decke geht. Doch gleichzeitig wächst der Ärger.
Die Ergebnisse sind zumindest beeindruckend. Nutzer posten Clips, in denen sie die Rollen der Helden von "Game of Thrones", als "Iron Man" oder als Leonardo DiCaprio in jedem seiner Filme zu sehen sind. Bei letzterem Beispiel will Nutzer Allan Xia etwa nur sein Foto und acht Sekunden Wartezeit investiert haben. Der Effekt ist teilweise schockierend gut gelungen: Es wirkt, als habe statt dem Hollywood-Star der junge Chinese Xia in "Titanic", "Romeo und Julia" oder "The Great Gatsby" mitgespielt.
Um den Effekt noch zu verbessern erlaubt es die bislang nur in China erhältliche App auch ganze Bilderserien hochzuladen, in denen man blinzelt, den Mund aufmacht und Grimassen zieht, um den Effekt noch zu verstärken.
Was passiert mit den Fotos?
Doch wie schon bei der Alterungs-Variante "Face App" im Frühjahr wurden schnell die kritischen Stimmen laut. So bemerkten Nutzer, dass sich der Konzern hinter Zao, Momo Inc, weitreichende Rechte an den Bildern und Videos sichern will. So nähme man sich vor, sämtliche in der App erstellten Inhalte nutzen und sogar an Dritte lizenzieren zu können, so der "Guardian". Natürlich ohne die Nutzer dafür zu entschädigen. Ein Widerspruch der Nutzer ist auch im Nachhinein nicht vorgesehen.Deep Fake Porno durch KI 15.31
Mittlerweile sind die Betreiber zurückgerudert. Man habe die Privatsphäre-Bedenken zur Kenntnis genommen, erklärte Zao in einem Statement. "Wir werden die Probleme angehen, die wir nicht bedacht haben. Das wird allerdings Zeit brauchen." Immerhin hat der Konzern seitdem zugesagt, die Fotos und Videos der Nutzer nur zu verwenden, um die App zu verbessern. Außerdem sollten sämtliche Inhalte auch von den Servern verschwinden, wenn man die Inhalte selbst oder seinen Account löscht. Die Nutzungsbedingungen wurden seit dem angepasst.
Bekannte Deepfake-Probleme
Die Kritik erinnert an die um die Viral-Sensation Face App im Frühjahr. Auch hier konnten die Nutzer ihre Bilder hochladen, um sie dann zu verändern und sich etwa älter oder jünger zu machen. Und auch bei Face App kam schnell Kritik an den Nutzungsbedingungen auf, die vom russischen Betreiber rasch beschwichtigt wurde.Deep fake: Kontrolle über digitales Ich, 1930
Auch die Deepfake-Technologie hinter der App ist mindestens umstritten. Die mit Hilfe Künstlicher Intelligenz erstellten Videos bieten zwar - wie bei Zao - viel Unterhaltungspotenzial. Doch die Gefahr des Missbrauchs ist riesig. Die Technologie hatte das erste Mal größere Aufmerksamkeit erregt, als bekannte Schauspielerinnen wie Gal Gadot in Pornos eingebaut wurden. Auch in Bezug auf politische Kampagnen oder Erpressung ist das Potenzial groß.
Der Beliebtheit von Zao scheint die Diskussion über diese Gefahren aber keinen Abbruch zu tun. Die App kletterte zum Montag in Apples App Store an die Spitze der chinesischen Download-Charts.