Die Schießerei in Neuseeland zeigt, wie YouTube und Facebook Hass und gewalttätige Bilder verbreiten – noch einmal

Die Polizei sagte, sie werde „eine gut sichtbare“ Präsenz bieten, wenn die Neuseeländer drei Tage nach einem Angriff auf zwei Moscheen, bei denen 50 Menschen getötet wurden, in das tägliche Leben zurückkehren. (Monica Akhtar, Allie Caren, Drea Cornejo, Sarah Parnass, Taylor Turner/The Washington Post)

Das Gemetzel am Freitag in zwei neuseeländischen Moscheen spielte sich als dystopische Reality-Show ab, die von einigen der größten Technologieunternehmen Amerikas geliefert wurde. YouTube, Facebook, Reddit und Twitter spielten alle eine Rolle bei der Veröffentlichung der Gewalt und damit auch der hasserfüllten Ideologie dahinter.

WpHolen Sie sich die volle Erfahrung.Wählen Sie Ihren PlanPfeilRechts

Diese Unternehmen – einige der reichsten und technologisch fortschrittlichsten der Welt – konnten die Verbreitung beunruhigender Inhalte nicht schnell eindämmen, da sie über Plattformen hinweg metastasierten und Internetnutzern weltweit schreckliche Bilder brachten.

Der mutmaßliche Schütze, ein schwer bewaffneter Mann, den die Behörden noch nicht genannt haben, veröffentlichte auch ein 74-seitiges Manifest, das Muslime und Einwanderer anprangerte, das im Internet weit verbreitet war. Er hinterließ auf Twitter und Facebook eine Spur in den sozialen Medien, die Fußnoten zu seinem Manifest gleichkam. In den zwei Tagen vor den Dreharbeiten postete er etwa 60 gleiche Links auf verschiedenen Plattformen, fast die Hälfte davon auf YouTube-Videos, die am späten Freitag noch aktiv waren.

Die Werbegeschichte wird unter der Werbung fortgesetzt

Der Horror begann am Freitagmorgen in Neuseeland, als der mutmaßliche Schütze Facebook nutzte, um seinen Angriff auf die Al-Noor-Moschee, eine von zwei Christchurch-Moscheen, die er angegriffen hatte und die die meisten der 49 Todesopfer fanden, live zu streamen. Viele Stunden später – lange nachdem der Mann und andere Verdächtige festgenommen worden waren – luden einige Internetnutzer das Video immer noch auf YouTube und andere Online-Dienste hoch und wieder hoch. Eine Suche nach Schlüsselwörtern im Zusammenhang mit dem Ereignis wie „Neuseeland“ ergab eine lange Liste von Videos, von denen viele lange und unzensierte Ansichten des Massakers waren.

Die fast augenblickliche Verbreitung von Online-Bildern von den Dreharbeiten am Freitag unterstrich, wie tief die Verflechtung von Social-Media-Plattformen geworden ist, wobei versierte Benutzer Inhalte schneller zwischen Plattformen hin- und herschieben, als die Plattformen selbst reagieren können. Es war auch eine Erinnerung an die wiederholte Unfähigkeit von YouTube, der größten Videoseite der Welt, einige Arten von gewalttätigen Inhalten zu erkennen und zu entfernen, obwohl sie seit Jahren automatisch Nacktheit und urheberrechtlich geschützte Musik markiert.



„Die schnelle und flächendeckende Verbreitung dieser hasserfüllten Inhalte – live auf Facebook gestreamt, auf YouTube hochgeladen und auf Reddit verstärkt – zeigt, wie leicht die größten Plattformen immer noch missbraucht werden können“, sagte Senator Mark Warner (D-Va. ). „Es wird immer deutlicher, dass insbesondere YouTube sich noch nicht mit der Rolle auseinandersetzen muss, die es bei der Förderung von Radikalisierung und Rekrutierung gespielt hat.“

Die Werbegeschichte wird unter der Werbung fortgesetzt

Politikexperten sagen, dass die US-Regulierungsbehörden und der Kongress schlecht gerüstet sind, um in das Problem einzugreifen, aber Technologieunternehmen sind in Washington ungewöhnlich anfällig geworden. Eine wachsende Zahl von politischen Entscheidungsträgern beider Parteien hat neue Datenschutzgesetze, Bußgelder und sogar die Auflösung vergangener Technologiefusionen in Aussicht gestellt. Inwieweit diese eine Veröffentlichung dieser Inhalte verhindern sollte, war jedoch zunächst nicht klar.

Insbesondere bei YouTube wächst die öffentliche und politische Kontrolle. Es hat in den letzten Jahren eine Reihe von Kontroversen ausgelöst, weil es hasserfüllte Online-Verschwörungen, gewalttätige Rekrutierungsvideos für Terroristen und eine breite Palette unangemessener Inhalte, die Kinder erreichen, einschließlich Selbstmordanweisungen in Kindervideos, verbreitet hat.

Technologieunternehmen „haben ein Problem der Inhaltsmoderation, das grundlegend über das Maß hinausgeht, mit dem sie umgehen können“, sagte Becca Lewis, Forscherin an der Stanford University und der Denkfabrik Data & Society. „Die finanziellen Anreize sind im Spiel, Inhalte an erster Stelle und Monetarisierung an erster Stelle zu halten.“

Das Video des neuseeländischen Massakers, das anscheinend mit einer GoPro-Helmkamera aufgenommen wurde, wurde bereits vor Beginn auf dem Randforum 8chan diskutiert, einem anonymen Forum, das für seine politisch extremen und oft hasserfüllten Kommentare bekannt ist. Nutzer der Seite verfolgten den Angriff in Echtzeit, jubelten oder drückten Entsetzen aus.

Die Werbegeschichte wird unter der Werbung fortgesetzt

Sie tauschten auch Links zu den hasserfüllten Postings des mutmaßlichen Schützen und zu Kopien seiner Videos auf verschiedenen Websites und ermutigten sich gegenseitig, die Clips herunterzuladen, bevor sie offline genommen wurden. Bis Freitagnachmittag wurden kurze Ausschnitte des Filmmaterials so bearbeitet, dass sie Filmmaterial von YouTube-Persönlichkeiten enthielten, die so überlagert waren, als würden sie ein Videospiel live streamen.

Das Ego-Shooting-Video verbreitete sich auf YouTube besonders weit, da die Leute, die es hochladen, die Möglichkeit der Website-Moderatoren übertrafen, die Clips zu löschen. Einige der Videos wurden nach Zitaten des Schützen benannt, wie zum Beispiel „Lass uns diese Party beginnen“.

YouTube twitterte am Freitagmorgen: „Unsere Herzen sind gebrochen über die schreckliche Tragödie von heute in Neuseeland. Bitte beachten Sie, dass wir wachsam daran arbeiten, gewalttätiges Filmmaterial zu entfernen.“ Twitter sagte, dass das Unternehmen den Account eines der Verdächtigen gesperrt hat und daran arbeitet, das Video aus seinem Netzwerk zu entfernen, was beide gegen seine Richtlinien verstößt.

Die Werbegeschichte wird unter der Werbung fortgesetzt

Auf Message Boards wie Reddit posteten Leute Links zu den Videos, die dann manchmal gelöscht wurden, nur damit andere neue Links zu alternativen „Spiegel“-Sites posten und den Zyklus von neuem beginnen.

Reddit, eine der beliebtesten Websites Amerikas, hat am Freitag Foren namens „gore“ und „watchpeopledie“ verboten, in denen die Videos neu gepostet wurden, damit Benutzer in Echtzeit kommentieren und kommentieren können. Ein Moderator des „watchpeopledie“-Forums hatte verteidigt, das Video online zu halten, weil es „ungefilterte Realität“ biete. Das 7-jährige Forum hatte zum Zeitpunkt der Dreharbeiten in Neuseeland mehr als 300.000 Abonnenten.

Reddit sagte in einer Erklärung, dass es „die Situation in Christchurch, Neuseeland, aktiv überwacht. Alle Inhalte, die Links zum Videostream enthalten, werden gemäß unserer Website-weiten Richtlinie entfernt.“

Die Werbegeschichte wird unter der Werbung fortgesetzt

Wenn ein Drehvideo auf Social-Media-Sites hochgeladen wird, verwenden Review-Teams dieses Video häufig, um eine markierte Kopie, einen sogenannten Hash, zu erstellen, mit der sie eine automatische Blacklist erstellen können, wenn es erneut veröffentlicht wird. Die jahrelange algorithmische Technik, die zuerst als Taktik zur Bekämpfung der Verbreitung von Kinderpornografie populär wurde, wird jetzt verwendet, um automatisch urheberrechtlich geschütztes Material, Pornos und andere Inhalte zu melden, die gegen die Regeln der Social-Media-Sites verstoßen.

YouTube sagt, dass es Jugendliche von seiner Website verbietet. Aber es liefert immer noch beunruhigende Inhalte für kleine Kinder.

Aber solche Algorithmen bleiben begrenzt, sagen Experten. Diejenigen, die Videos hochladen, können die Regeln umgehen, indem sie die Clips in kleinen Schritten ändern, z. B. ein Wasserzeichen anbringen, die Musik verzerren oder die Größe, Bearbeitung oder Geschwindigkeit des Videos verzerren. Mehrere der auf YouTube veröffentlichten Aufnahmevideos schienen diese Änderungen aufzuweisen, obwohl unklar war, ob diese Änderungen dazu beigetragen haben, dass sie online bleiben.

Das Massaker am Freitag in Neuseeland war das dritte Mal, dass Facebook zur Übertragung eines Mordvideos genutzt wurde. Im Jahr 2015 lud ein bewaffneter Mann ein Smartphone-Video hoch, das ihn zeigte, wie er von einem Sender in Roanoke, Virginia, zwei Fernsehjournalisten erschießt .

Die Werbegeschichte wird unter der Werbung fortgesetzt

„Bei Schockvideos – insbesondere mit grafischem First-Person-Filmmaterial – trifft Reality-TV auf gewalttätige Spielkultur trifft auf Aufmerksamkeitsverstärkungsalgorithmen“, sagte Jonathan Albright, Forschungsdirektor am Tow Center for Digital Journalism an der Columbia University. „Das moderne Internet wurde auf Engagement-zuerst entwickelt, und dies steht im Gegensatz dazu, die Verbreitung von schädlichem Material und Ideen schnell zu stoppen – insbesondere für sensationelles ultra-gewalttätiges Terrorismus-Filmmaterial.“

Facebook und YouTube haben gesagt, dass Algorithmen der künstlichen Intelligenz ihnen helfen werden, den Ansturm von Inhalten zu überwachen, die jede Minute auf ihren Plattformen veröffentlicht werden, und dass frühe Erfolge dazu beigetragen haben, gegen explizite Videos und terroristische Propaganda vorzugehen. Beide Unternehmen haben in den letzten Jahren auch erhebliche neue Investitionen in menschliche und automatisierte Systeme zur Erkennung und Entfernung problematischer Inhalte getätigt und zusammen Zehntausende neue Mitarbeiter eingestellt, um zu helfen.

„Die neuseeländische Polizei hat uns kurz nach Beginn des Live-Streams auf ein Video auf Facebook aufmerksam gemacht und wir haben sowohl die Facebook- und Instagram-Konten des Schützen als auch das Video schnell entfernt“, sagte Mia Garlick, eine Facebook-Sprecherin. „Wir entfernen auch jedes Lob oder jede Unterstützung für das Verbrechen und den oder die Schützen, sobald wir davon erfahren. Wir werden weiterhin direkt mit der neuseeländischen Polizei zusammenarbeiten, während ihre Reaktion und Ermittlungen weitergehen.“

Die Werbegeschichte wird unter der Werbung fortgesetzt

Das Unternehmen sagte, es habe das Originalvideo der neuseeländischen Schießerei innerhalb einer Stunde entfernt, aber Duplikate wurden schnell auf Facebook und anderen Plattformen veröffentlicht.

Live-Video ist einer der größten Wachstumstreiber für das Silicon Valley. Als Facebook-Chef Mark Zuckerberg 2016 eine Ausweitung von Live-Videos ankündigte, sagte er, dass dies „die persönlichste und emotionalste und roheste und viszeraleste Art der Kommunikation der Menschen im Laufe der Zeit unterstützen soll“.

Aber Live-Video hat auch schlechte Schauspieler angezogen, die die volle Kraft dieser technischen Infrastruktur nutzen wollen, um gewalttätige Videos und Hassreden auf der ganzen Welt zu verbreiten.

Beim Live-Streaming „ist das Potenzial für Gewinn und Bekanntheit (ist) astronomisch, und das kann Anreize für bestimmte Verhaltensweisen geben“, sagte Joan Donovan, Direktorin des Technology and Social Change Research Project am Shorenstein Center der Harvard University. „Es geht nicht darum, auf die Gewalt aufmerksam zu machen; es geht darum, auf die Ideologie aufmerksam zu machen.“

Die Werbegeschichte wird unter der Werbung fortgesetzt

Die Unternehmen, sagte sie, hätten wenig Motive, Inhalte zu überwachen, da ein schnelles und einfaches Teilen dazu beiträgt, Benutzer, Aufrufe und Werbeeinnahmen zu steigern. Aber auch die Moderation von Inhalten ist teuer und birgt das Potenzial der Politisierung, einschließlich der jüngsten Behauptungen einiger Konservativer und Liberaler, dass ihre Beiträge zu Unrecht unterdrückt werden.

Amerikanische Muslime durch Schüsse in neuseeländischen Moscheen verunsichert

Das neuseeländische Innenministerium teilte am Freitag mit, dass Personen, die Videos der Moschee-Schießerei online teilen, „wahrscheinlich eine Straftat begehen“, weil „das Video wahrscheinlich nach neuseeländischem Recht anstößiger Inhalt ist“.

„Der Inhalt des Videos ist verstörend und für die Leute schädlich. Dies ist eine sehr reale Tragödie mit echten Opfern und wir empfehlen den Menschen dringend, das Video nicht zu teilen oder anzusehen“, sagte die Agentur in einer Erklärung.

Die Abteilung sagte, sie arbeite mit Social-Media-Plattformen zusammen, um die Clips zu entfernen, und forderte die Öffentlichkeit auf, anstößige Inhalte zu melden, wenn sie darauf stoßen. Die Agentur räumte das Problem der Autoplay-Funktion in sozialen Medien und auf den Websites traditioneller Nachrichtenagenturen ein, bei denen Menschen möglicherweise beunruhigende Inhalte sehen, ohne dies zu tun.

„Wir sind uns bewusst, dass Leute das Video möglicherweise ahnungslos auf Social-Media-Plattformen angesehen haben und denken, dass es sich um einen Medienartikel handelt. Seien Sie also bitte wachsam bei Bildern, die Sie und Ihre Umgebung sehen, insbesondere unsere jungen Leute.“

Kommentar Kommentare GiftOutline Geschenkartikel Loading...