Was tun gegen Deepfakes?
Sabine Süsstrunk, Präsidentin des Schweizerischen Wissenschaftsrates SWR, leitet an der ETH Lausanne (EPFL) das Image and Visual Representation Lab. Dort beschäftigen sich ihre Mitarbeitenden mit einem Phänomen, das in letzter Zeit immer wieder für Verunsicherung gesorgt hat: Deepfakes.
«Ein Deepfake beruht auf der Manipulation von Videos. Diese Möglichkeit gibt es im Prinzip schon lange, aber die entsprechenden Technologien haben sich in den letzten Jahren rasant entwickelt, so dass Deepfakes ein grosses Schadenspotenzial haben», erklärt Peter Grönquist, der als Softwarespezialist im Team von Sabine Süsstrunk arbeitet. Dies zeigt sich beispielsweise im Ukraine-Krieg, wo ein gefälschtes Video des Präsidenten Wolodimir Selenski aufgetaucht ist. Und jüngst sorgten manipulierte Videotelefonate für Aufsehen, bei denen vorgetäuscht wurde, beim Anrufer handle es sich um den Bürgermeister von Kiew, Vitali Klitschko.1
Das Team von Prof. Süsstrunk entwickelt Technologien, mit denen Deepfakes entdeckt und analysiert werden können. Und dies mit Erfolg. Ende April gewannen Peter Grönquist und sein Kollege Yufan Ren den zweiten Preis in einem Wettbewerb der National University of Singapore, bei dem es um die Analyse von gefälschten Video- und Audiodateien ging. Mit ihrem Algorithmus waren die beiden Forschenden der EPFL in der Lage, innert weniger Sekunden einen Deepfake zu erkennen. Das Preisgeld von über 100’000 CHF wollen sie in ihre weiteren Forschungsaktivitäten investieren und vielleicht auch in ein Start-up.
Peter Grönquist und Yufan Ren an der Preisverleihung (Quelle: AI Singapore)
Denn die Analyse von Deepfakes könnte ein lohnendes Geschäftsmodell sein, wie Grönquist festhält: «Kundinnen und Kunden, die den Verdacht haben, dass eine Audio- oder Videodatei gefälscht wurde, könnten uns diese für eine Analyse zukommen lassen. Wir sind diesbezüglich auch schon in Kontakt mit einer Medienfirma aus Singapur.» Der Erfolg sei übrigens massgeblich Sabine Süsstrunk zu verdanken: «Sie hat das Forschungsprojekt initiiert, uns motiviert und begleitet.»
Schliesslich weist Grönquist darauf hin, dass Deepfakes auch im Bereich Online-Mobbing an Bedeutung gewinnen könnten. «Schulen haben deshalb eine besondere Verantwortung, Jugendliche für diese Problematik zu sensibilisieren.» Dafür setzt sich Sabine Süsstrunk auch mit dem SWR ein: Der Rat beschäftigt sich im Rahmen seines Arbeitsprogramms mit den Kompetenzen, über die Jugendliche verfügen müssen, damit sie die digitale Gesellschaft mitgestalten können. Damit wird gleichzeitig die Voraussetzung geschaffen, um Phänomenen wie Deepfakes angemessen zu begegnen.
1Im Fall von Vitali Klitschko handelte es sich allerdings wohl nicht um ein mittels künstlicher Intelligenz erstelltes Deepfake. Hier wurde wahrscheinlich eine technisch weniger aufwändige Manipulation eingesetzt, die auf realen Videosegmenten beruht, die neu zusammengeschnitten wurden.
Quelle Titelbild: Rishabh Dharmani on Unsplash