Tech-News-Technologie

Facebooks Gewinner der „Deepfake Detection Challenge“ mit einer Million US-Dollar verzeichnet eine Genauigkeit von 65,18%

Facebook gab die Gewinner seiner Deepfake Detection Challenge im Wert von 1 Million US-Dollar bekannt, die eine durchschnittliche Genauigkeit von 65,18 Prozent erreichte.

Deepfake, Facebook-Deepfake-Erkennungsherausforderung, Gewinner der Deepfake-Erkennungsherausforderung, Deepfake-Erkennungsgenauigkeit, Facebook-DeepfakeBeispiel für ein Quellvideo und mehrere Distraktor-Versionen. (Bildquelle: Facebook)

Facebook hat die Gewinner seiner 1 Million US-Dollar schweren Deepfake Detection Challenge bekannt gegeben, die genau so klingt – ein Wettbewerb für KI-Modelle, um gefälschte Deepfake-Videos zu erkennen, die echte Menschen überzeugend nachahmen. Da das Gewinnermodell jedoch eine Genauigkeitsrate von 65,18 Prozent erreicht, muss noch viel Arbeit geleistet werden, bevor wir uns auf solche Algorithmen verlassen, um Deepfake-Inhalte zu erkennen.

Mit über 2.000 Teilnehmern versuchten mehr als 35.000 KI-Modelle, Deepfakes aus einem Blackbox-Datensatz von 100.000 Videos zu erkennen. Facebook hat Berichten zufolge mehr als 3.000 Schauspieler engagiert, um diese Videoclips zu erstellen, in denen sie bei Gesprächen in natürlicher Umgebung aufgezeichnet wurden.

Lesen Sie auch | Erklärt: Was ist Deepfake?



Einige dieser Clips wurden verändert, indem die Gesichter anderer Schauspieler mithilfe von KI auf ihre Gesichter geklebt wurden. Die Teilnehmer erhielten Zugriff auf diese Daten, um ihre Algorithmen zu trainieren. Als die KI-Modelle mit diesem Material getestet wurden, ergaben sie Genauigkeitsraten von bis zu 82,56 Prozent. Als die gleichen Algorithmen jedoch mit einem Black-Box-Datensatz aus unsichtbarem Filmmaterial getestet wurden, sank ihre Leistung erheblich, wobei das Modell mit der besten Bewertung eine Genauigkeitsrate von 65,18 Prozent erreichte.

Bedenken bezüglich Deepfake-Videos

Es gibt wachsende Bedenken hinsichtlich des Missbrauchs von Deepfakes, der jedem Worte in den Mund legen kann, wie das Deepfake-Video von Buzzfeed zeigt. Hier werden dem damaligen US-Präsidenten Obama die Worte des Komikers, Schriftstellers und Regisseurs Jordan Peele aufgezwungen:

Social-Media-Apps hatten Deepfake-Videos auf ihren Plattformen verboten. Im Moment, während die politischen Auswirkungen von Deepfake-Videos minimal sind, hat ihre Verwendung bei der Erstellung nicht einvernehmlicher Pornografie bereits begonnen, Lärm zu machen. Glücklicherweise sind pornografische Inhalte leicht zu identifizieren und von den Social-Media-Plattformen zu entfernen.

Express Tech ist jetzt auf Telegram. Klicken hier um unserem Kanal beizutreten (@expresstechnology) und bleiben Sie mit den neuesten Tech-News auf dem Laufenden

Den Berichten zufolge entwickelt Facebook derzeit eine eigene Deepfake-Erkennungstechnologie, die von dieser Konkurrenz getrennt ist. Fake News sind bereits eine Bedrohung für Social-Media-Plattformen, deshalb möchten sie mit Tools gerüstet sein, die Deepfake-Videos herausfischen können, wenn sie darauf treffen.