„Deepfakes“, tiefe Taschen: Facebook gibt 10 Millionen US-Dollar für einen Wettbewerb zur Erkennung von „sich ständig weiterentwickelnden“ Videos aus

„Deepfakes“ haben die Vorstellung verändert, dass Sehen Glauben ist – und könnten einen großen Einfluss darauf haben, wie sich zukünftige politische Kampagnen entwickeln. (Die Washington Post)

Facebook führt einen Wettbewerb an, um neue Wege zu finden, um computerveränderte Videos, die als „Deepfakes“ bekannt sind, zu identifizieren. Einige Spezialisten für künstliche Intelligenz sagen jedoch, dass die Strategie nach hinten losgehen könnte.

Diese Experten sagen, dass der Wettbewerb wahrscheinlich das sich bereits beschleunigende Wettrüsten zwischen den böswilligen Akteuren, die KI verwenden, um immer realistischere gefälschte Videos zu erstellen, und den Technologieunternehmen, die darum kämpfen, sie zu entdecken, beschleunigen wird.

WpHolen Sie sich die volle Erfahrung.Wählen Sie Ihren PlanPfeilRechts

„Jeder Algorithmus, der zur Erkennung von Deepfakes verwendet wird, könnte auch dazu verwendet werden, Deepfakes zu verbessern“, sagt Rachel Thomas, Mitbegründerin des Machine Learning Lab Fast.ai .

Top-KI-Forscher rennen um die Suche nach „Deepfake“-Videos: „Wir sind unterlegen“

Spitzenforscher der künstlichen Intelligenz im ganzen Land haben bereits versucht, die computergenerierten gefälschten Videos zu entschärfen, da die Befürchtungen zunehmen, dass sie im Vorfeld der Präsidentschaftswahlen 2020 Kandidaten untergraben und Wähler in die Irre führen könnten. Viele befürchten, dass diese Videos auf ähnliche Weise eingesetzt werden könnten wie Fake News und betrügerische Facebook-Gruppen, um die Wahlen 2016 zu beeinflussen.

Die Werbegeschichte wird unter der Werbung fortgesetzt

Während Menschen Videos so lange verändert haben, wie es die Technologie gibt, hat die von Google entwickelte KI-Software die Zugänglichkeit und Raffinesse von Deepfakes erhöht. Und die Tools werden immer beliebter und werden immer beliebter. Letzte Woche wurde eine chinesische App namens Zao zum beliebtesten Download in China, mit der Benutzer ihre Gesichter virtuell auf Videos von Schauspielern aus Szenen in Filmen und Fernsehsendungen übertragen können.

Das Erkennen von Deepfakes wird mit der Verbesserung der Technologie deutlich schwieriger. Die Erkennung beruht oft auf so subtilen Gesten wie einer Kinnbewegung oder einem Augenzwinkern.

Facebooks Wettbewerb, genannt die Deepfake-Erkennungsherausforderung , ist eine Partnerschaft zwischen Facebook, dem Konsortium Partnership on AI der Technologieindustrie, Microsoft und Experten von sieben akademischen Institutionen. Die Veranstaltungen beginnen im Oktober und dauern bis März. Facebook sagte, dass es 10 Millionen US-Dollar zur Finanzierung des Wettbewerbs bereitgestellt hat, der eine noch nicht angekündigte Anzahl von Zuschüssen und Auszeichnungen umfassen wird.

Die virale chinesische App Zao ersetzt in „Deepfake“-Videos das Gesicht von Leonardo DiCaprio

Facebook sagte, es werde den Datensatz für die Herausforderung noch in diesem Jahr veröffentlichen. Das Unternehmen gibt einen „realistischen Datensatz“ aus Videos mit bezahlten Schauspielern sowie veränderten Versionen dieser Videos in Auftrag. Die Wettbewerber werden diese Datensätze verwenden, um Erkennungscodes zu entwickeln. Auch Facebook nimmt an der Challenge teil, nimmt aber keine Geldpreise an.

Die Werbegeschichte wird unter der Werbung fortgesetzt

sagte Chief Technology Officer Mike Schroepfer in einem Blogbeitrag dass Facebook hofft, dass die Konkurrenz dem Unternehmen helfen wird, seinen Fortschritt zu beschleunigen und mehr Open-Source-Tools zu entwickeln, während es ein „sich ständig entwickelndes Problem“ bekämpft.

Die Verwendung eines Datensatzes aus Videos von Schauspielern könnte Algorithmen nicht ausreichend trainieren, um Deepfakes zu erkennen, die Menschen in realen Situationen darstellen, warnte Thomas.

Als weitere potenzielle Auswirkung auf das Ergebnis des Wettbewerbs kritisierten einige den Mangel an Diversität unter den Wissenschaftlern, die sich mit Facebook zu dem Projekt beraten hatten. Wie von Vice bemerkt , alle sieben in der Ankündigung zitierten Professoren sind Männer. None ist Professor für Sozialwissenschaften, eine Sammlung von Fachgebieten, die den menschlichen Einfluss und mögliche Folgen der KI-Technologie untersucht haben.

Facebook würde ein verändertes Video von Nancy Pelosi nicht löschen. Was ist mit einem von Mark Zuckerberg?

Dennoch wurde die Deepfake Detection Challenge vom Capitol Hill gelobt, wo Politiker Social-Media-Unternehmen aufgefordert haben, ihre Bemühungen zur Abwehr dieser Art von Desinformation vor der Wahlsaison zu verstärken.

Die Werbegeschichte wird unter der Werbung fortgesetzt

Der Abgeordnete Adam B. Schiff (D-Calif.), Vorsitzender des Geheimdienstausschusses des Repräsentantenhauses, sagte in einer Erklärung, dass der Wettbewerb „ein vielversprechender Schritt“ der Technologie-Community im Kampf gegen Deepfakes sei. Da die Abstimmung bei den ersten Vorwahlen 2020 weniger als sechs Monate entfernt ist, sagte Schiff, dass sich Social-Media-Plattformen „dringend auf immer ausgeklügeltere Desinformationskampagnen vorbereiten müssen“.

Manipulierte Videos haben bereits einige Politiker ins Visier genommen. Die Sprecherin des Repräsentantenhauses, Nancy Pelosi (D-Calif.) war Anfang dieses Jahres Gegenstand eines Videos, das subtil verändert wurde, um es so klingen zu lassen, als würde sie ihre Worte betrunken undeutlich machen. Obwohl die Änderungen am Video relativ technisch waren, zeigten die Situation und die Geschwindigkeit, mit der der Inhalt online viral wurde, wie selbst kleine Änderungen an einem Video verwendet werden können, um die öffentliche Wahrnehmung zu formen.

Als Facebook sagte, es werde das Pelosi-Video nicht entfernen und erklärte, es verstoße gegen keine seiner Richtlinien, konterten zwei Künstler mit einem raffinierteren Deepfake, in dem Facebook-Chef Mark Zuckerberg damit prahlte, „gestohlene Daten“ von Nutzern zu missbrauchen. Auch dieses Video blieb auf der Plattform.

Kommentar Kommentare GiftOutline Geschenkartikel Loading...