Für Werbetreibende können Algorithmen zu unerwarteter Aufmerksamkeit auf Websites führen, die Hass verbreiten

Korrektur: In einer früheren Version dieser Geschichte hieß es, The Post habe eine E-Mail mit der Bitte um Kommentare an die Website My Posting Career gesendet. Die Post hat die E-Mail an die falsche Adresse geschickt. Die Post bat um einen Kommentar über eine mit My Posting Career verbundene Telefonnummer in einer Domain-Registrierungsdatenbank, erhielt jedoch keine Antwort. Diese Geschichte wurde mit einem Kommentar aktualisiert.

Als Inhaber eines kleinen Unternehmens im liberalen Massachusetts war John Ellis ein natürlicher Sympathisant des landesweiten Aufrufs an Werbetreibende, Breitbart News mit seiner harten konservativen Politik und seinen engen Verbindungen zu Präsident Trump zu boykottieren. Aber es ließ Ellis über andere, rechtsextremere Websites nachdenken: Wer schaltet Anzeigen auf ihnen?

Ein paar Klicks im Internet ergaben eine beunruhigende Antwort: Er war es.

Auf einer Website des weißen nationalistischen Führers Richard Spencer sah Ellis eine Anzeige für sein Ingenieurbüro Optics for Hire auf dem Bildschirm – obwohl er die Anzeige nie wissentlich gekauft hatte.

Worüber Ellis gestolpert war, war eine wenig bekannte Facette der boomenden Welt der Internetwerbung. Auch Unternehmen, die die neueste Online-Werbetechnologie von Google, Yahoo und großen Wettbewerbern nutzen, finden ihre Anzeigen zunehmend neben politisch extremen und abfälligen Inhalten.

Das liegt daran, dass die von Google, Yahoo und anderen angebotenen Werbenetzwerke Anzeigen auf einer großen Anzahl von Websites von Drittanbietern anzeigen können, die auf dem Such- und Browserverlauf der Nutzer basieren. Obwohl die Strategie Werbetreibenden eine beispiellose Möglichkeit bietet, Kunden mit einem engen Profil zu erreichen, schränkt sie ihre Fähigkeit, zu kontrollieren, wo ihre Anzeigen erscheinen, dramatisch ein.



'Niemand hat eine Ahnung, wohin seine Anzeigen gehen', sagte Ellis. In einigen Fällen, fügte er hinzu, „monetarisieren Werbenetzwerke Hass“.

Als Zeichen wachsender Frustration haben AT&T, Verizon und andere führende Unternehmen diese Woche ihr Geschäft aus dem AdSense-Netzwerk von Google abgezogen, als Reaktion auf Nachrichtenberichte, dass Anzeigen mit Propaganda des Islamischen Staates und gewalttätigen Gruppen erschienen waren.

Aber das Thema ist umfassender. Eine Untersuchung der Washington Post von Dutzenden von Websites mit politisch extremen und abfälligen Inhalten ergab, dass viele Kunden von führenden Werbenetzwerken waren, die einen Teil der von Werbetreibenden erzielten Einnahmen mit den Betreibern der Website teilen.

Die Untersuchung der Post ergab, dass die Netzwerke Anzeigen für Allstate, IBM, DirectTV und Dutzende anderer Haushaltsmarken auf Websites mit Inhalten geschaltet hatten, die rassistische und ethnische Beleidigungen, Holocaust-Leugnung und abfällige Kommentare über Afroamerikaner, Juden, Frauen und Schwule enthielten.

Einige dieser Websites enthielten, so die Post, durchweg hasserfüllte und abfällige Inhalte. In anderen beschränkte sie sich auf Kommentarbereiche, in denen die Nutzer weit über die Sprache der Autoren der Sites hinausgingen, deren geäußerte Ansichten eher dem politischen Mainstream entsprachen.

Googles AdSense zum Beispiel hat letzten Monat Anzeigen für mehrere Unternehmen neben Kommentaren geschaltet, die eine Beleidigung für Afroamerikaner verwenden und sagen: 'Hängt sie alle auf'. Andere von Google geschaltete Anzeigen für Macy's und das Genetikunternehmen 23andMe erschienen auf der Website My Posting Career, die sich selbst als „weiße Privilegienzone“ bezeichnet, neben einem Hinweis, dass die Website für jedes Mitglied einen Empfehlungsbonus anbieten würde Adolf Hitler.

„Kein Unternehmen möchte mit solchen Websites in Verbindung gebracht werden“, sagte Andy Kill, Sprecher des Gentestunternehmens 23andMe. 'Wenn Sie einem Anzeigenalgorithmus vertrauen, kann dies passieren', sagte er. 'Es ist frustrierend.'

Eine Person, die sich als Stephen J. Krune III identifiziert, der der registrierte Besitzer des Domainnamens My Posting Career ist, bezeichnete die Site in einer Erklärung als „radikales Comedy-Forum“.

„MPC nutzt avantgardistischen Humor, um das politische Establishment in der langen Tradition der radikalen Komödie zu optimieren“, heißt es in der Erklärung. 'MPC ist anti-weißer Nationalist, anti-weißer Vorherrschaft und sehr kritisch gegenüber Adolf Hitler.'

Das Problem ist im Zuge der Weiterentwicklung von Web-Werbestrategien aufgetreten. Werbetreibende entscheiden sich manchmal dafür, ihre Anzeigen auf bestimmten Websites zu platzieren – oder Websites zu meiden, die sie nicht mögen –, aber ein wachsender Anteil der Werbebudgets fließt in das, was die Branche als „programmatische“ Käufe bezeichnet. Diese Anzeigen richten sich an Personen, deren demografisches oder Verbraucherprofil für eine Marketingbotschaft empfänglich ist, unabhängig davon, wo sie im Internet surfen. Algorithmen entscheiden, wo Anzeigen platziert werden, basierend auf der vorherigen Webnutzung der Nutzer auf ganz unterschiedlichen Arten von Websites.

Die Technologieunternehmen hinter Werbenetzwerken haben langsam damit begonnen, das Problem anzugehen, warnen jedoch davor, dass es nicht einfach zu lösen sein wird. Sie sagen, dass ihre Algorithmen Schwierigkeiten haben, zwischen Inhalten zu unterscheiden, die wirklich anstößig sind, und Sprache, die im Kontext nicht anstößig ist. Zum Beispiel kann es für Computer schwierig sein, den Unterschied zwischen der Verwendung einer rassistischen Beleidigung auf einer Website mit weißer Vorherrschaft und einer Website über Geschichte zu bestimmen.

Auch die Tech-Firmen sträuben sich schon lange, sich in die Position eines Redners zu versetzen – angesichts der damit verbundenen Subjektivität und des rechtlichen Risikos, Entscheidungen darüber zu treffen, welche Inhalte gelesen werden sollen oder nicht. Es ist eine Situation, mit der Tech-Giganten zunehmend auch in verwandten Bereichen konfrontiert sind, da falsche und hochgradig politisierte Nachrichtenseiten Fehlinformationen in sozialen Netzwerken verbreiten.

Am Montag entschuldigte sich Google nach Anfragen von The Post und Anfragen von Werbetreibenden, die ebenfalls von The Post kontaktiert wurden, bei den Werbetreibenden. Sie kündigte an, eine „umfassende Überprüfung“ der Anzeigenrichtlinien durchzuführen, um eine härtere Haltung zu „hasserfüllten, anstößigen und abfälligen Inhalten“ einzunehmen.

Google sagte, dass solche Kommentare gegen seine Hassreden-Richtlinien verstoßen, wollte jedoch nicht sagen, ob es Maßnahmen gegen die Websites ergriffen hat. Das Unternehmen gab an, täglich Tausende von Websites auf Verstöße zu überprüfen und mehr als 100.000 Publisher – darunter viele Publisher mit nur einem Autor – aus seinem AdSense-Netzwerk zu entfernen.

Yahoo, das eine Website blockierte, die Gegenstand einer Anfrage von The Post war, sagte, es verurteile rassistische oder andere hasserfüllte Äußerungen und fügte hinzu: „Von den Milliarden von Anzeigen, die täglich geschaltet werden, gibt es seltene Fälle, in denen automatisierte Werbeplattformen Anzeigen schalten an Stellen, an denen sie nicht sollten.“

(Die Washington Post verwendet manchmal solche Netzwerke, um Anzeigen zu schalten, die für ihre Angebote wie Abonnements werben, und erzielt auch Einnahmen mit Anzeigen, die über Werbenetzwerke verkauft werden.)

Viele der Unternehmen, die für diese Geschichte kontaktiert wurden – darunter IBM, bareMinerals, Macy’s, Everquote und Allstate – zeigten sich überrascht und bestürzt darüber, dass ihre Anzeigen in der Nähe abfälliger Inhalte erschienen.

Mehrere sagten, sie hätten beantragt, dass Netzwerke diese Seiten auf eine schwarze Liste setzen, was für einzelne Sites einfach ist, aber nicht für ganze Site-Kategorien. Automatisierte Filter übersehen normalerweise bestimmte Arten von abfälligen Äußerungen, und Technologieunternehmen haben traditionell nicht die große Anzahl von Mitarbeitern eingestellt, die erforderlich sind, um den Inhalt von Milliarden von Webseiten sorgfältig zu überwachen.

Einige Werbetreibende äußerten sich auch frustriert darüber, dass Werbenetzwerke es versäumt hatten, Marketingbotschaften neben Leserkommentaren zu verhindern, die Kunden verärgern könnten – selbst auf Websites, die selbst keine extremistischen Inhalte bewerben.

Googles AdSense zum Beispiel hat im Kommentarbereich von Weaselzippers.us, einem Aggregator konservativer Nachrichten, eine Anzeige für das Kosmetikunternehmen bareMinerals geschaltet. Ein Benutzerkommentar auf der Website verwendete ein abfälliges Wort für schwule Männer und sagte, sie sollten 'in einer Blutlache liegen'.

Als The Post der bareMinerals-Sprecherin Joanne Chiu Sulit ein Bild der Webseite per E-Mail zuschickte, sagte sie: „Ich war schockiert, dass wir auf dieser Seite waren.“

Eine E-Mail an die Betreiber von Weaselzippers.us wurde nicht zurückgegeben.

'Es ist ein Whack-a-Mole'

Das Thema Anzeigenplatzierung ist in einer Zeit zunehmender politischer Polarisierung brisant. Die Zahl der rechtsextremen Hassseiten sowie der Seiten, die sensationslüsterne Nachrichten und Falschmeldungen verbreiten, hat sich laut der Werbeprüfungsfirma DoubleVerify im vergangenen Jahr verdoppelt.

Bei so vielen neuen Websites ist es für Werbetreibende schwierig zu vermeiden, dass ihre Anzeigen an unerwünschten Orten erscheinen. 'Es ist ein Whack-a-Mole', sagte Wayne Gattinella, CEO von DoubleVerify. „Sie können Schlüsselwörter markieren. Sie können algorithmische Entscheidungsfindung verwenden, um sie zu minimieren, aber es gibt keine Möglichkeit, die Wortwahl in Echtzeit zu filtern.“

Werbetreibende haben im Allgemeinen keine andere Wahl, als sich auf Werbenetzwerke zu verlassen. Die wichtigsten haben Richtlinien, die Werbung auf Websites mit diskriminierenden oder hasserfüllten Äußerungen verbieten, aber The Post fand Dutzende von offensichtlichen Verstößen. Viele der Websites, auf denen The Post Verstöße festgestellt hat, werden vom Southern Poverty Law Center, einer Interessenvertretung, die Hassreden verfolgt, als Hassseiten eingestuft.

„[Werbenetzwerke] haben Regeln, aber sie setzen sie nicht durch“, sagte Jillian York, eine Anwältin der Electronic Freedom Foundation, die die Online-Zensur betreibt, ein Programm, das Technologieunternehmen dazu drängt, zu klären, warum sie Inhalte entfernen.

Im vergangenen Monat erschien auf Alternative-Right.BlogSpot.com eine Anzeige für die Versicherungsgesellschaft Allstate, in deren Kommentarbereich „Hitler und seine Nationalsozialisten als Visionär“ gelobt wurden.

Allstate sagte, es habe versucht, solche Websites durch Filter zu vermeiden. 'Allstate wirbt nicht wissentlich in Medien, die Hass provozieren oder bedrohliche, diskriminierende oder beleidigende Ausdrücke enthalten', sagte Sprecherin Laura Strykowski.

Everquote- und DirectTV-Anzeigen erschienen auf Spencers Website RadixJournal.com zusammen mit Kommentaren, in denen die katholische Kirche dafür kritisiert wurde, dass sie sich für Rassenvermischung und die Überschwemmung weißer, christlicher Länder mit „Wilden der schlimmsten Art“ einsetzte.

DirectTV lehnte eine Stellungnahme ab. Everquote sagte, dass, obwohl es Werbenetzwerke verwendet, „wir ausdrücklich verlangen, dass diese Werbenetzwerke unsere Anzeigen nicht auf Websites platzieren, die unter anderem Gewalt, Sex, Rassismus, Sexismus, Pornografie, illegal oder potenziell illegal, enthalten und/oder damit in Verbindung stehen Thema, negative Werbung oder andere hochbrisante Themen.“

Auf der rassistischen Website My Posting Career erschienen Anzeigen für Macy’s, Amazon.com und sogar Planned Parenthood. Anzeigen zum Einkaufen auf Amazon.com erschienen auf einer Website mit einem Artikel mit der Überschrift „Ja, ich bin ein Nazi“ und einem Kommentarbereich, der mit Obszönitäten und rassistischen Beleidigungen gespickt war.

Amazon, das auch ein Werbenetzwerk betreibt, lehnte eine Stellungnahme ab. (Amazon-Chef Jeffrey P. Bezos besitzt The Post).

„Krise unserer Zeit“

Unternehmen aus dem Silicon Valley widersetzen sich seit langem Aufrufen, Inhalte auf ihren Plattformen aggressiver zu überwachen, und sagen, ein freies und offenes Internet sei die Grundlage des Webs selbst. Mit Ausnahme von Kinderpornografie hat der Kongress dem Standpunkt des Silicon Valley weitgehend zugestimmt, was den Technologieunternehmen einen erheblichen rechtlichen Spielraum lässt, um die Inhalte, die auf den von ihnen betriebenen Websites und Plattformen erscheinen, zu überwachen – oder nicht.

Aber Werbetreibende fordern Veränderungen.

„[Tech-Unternehmen] haben Mühe, sich an eine Realität anzupassen, in der die gleichen Tools, die es ihnen ermöglichten, die Welt zu verbinden, jetzt verwendet werden, um sie auseinander zu treiben“, sagte der Unternehmer und Risikokapitalgeber Noah Lichtenstein. „Dies ist die Krise unserer Zeit: Wie lässt sich der Wunsch nach Offenheit und Verbundenheit des Webs mit einer steigenden Flut von institutionalisiertem Hass und dem Schutz der Angegriffenen in Einklang bringen?“

Es ist nicht klar, wie effektiv der Versuch sein wird, solchen Websites die Werbung zu entziehen. Spencer sagte, dass die Ausrichtung auf Radix Journal und ähnliche Websites gegenüber Werbetreibenden unfair sei, da sie so wenig Kontrolle darüber haben, wo ihre Anzeigen erscheinen. Und wenn es darum geht, extremen Websites Geld zu entziehen, sagte er voraus, dass der Aufwand wenig bewirken würde, weil die Einnahmen aus Web-Anzeigen so gering sind und sich höchstens auf ein paar tausend Dollar pro Jahr belaufen.

'Wenn ich von all diesen Dingen rausgeschmissen würde, hätte das keinerlei Auswirkungen auf mein Leben', sagte Spencer.

E-Mails an die für Alternative-Right.blogspot.com aufgeführten Kontaktinformationen erhielten keine Antwort. Breitbart News hat auch keine E-Mails mit der Bitte um Kommentare zu dem gegen die Website gerichteten Werbeboykott zurückgegeben.

Disqus, ein Startup aus dem Silicon Valley, das Kommentarbereiche für 4 Millionen Websites verwaltet, darunter die für Breitbart News, Radix Journal und Occidental Dissent, verkauft neben den Kommentaren auch Werbung. Es habe versucht, die durch aufrührerische Inhalte aufgeworfenen Probleme zu lösen, sagte CEO Daniel Ha und fügte hinzu, dass das Unternehmen mit Beschwerden über Hassreden von Nutzern, Werbetreibenden und Mitarbeitern überflutet wurde.

„Benutzergenerierte Inhalte waren schon immer extrem chaotisch, und das macht das Internet so erstaunlich – man kann sehr unpopuläre Ideen teilen“, sagte Ha. 'Ich denke jedoch, dass wir im letzten Jahr gesehen haben, dass es eine größere Verantwortung dafür gibt, wie sich das auf die Gesellschaft auswirkt.'

Die Geschäftsbedingungen des Unternehmens verbieten Fälle von „extremer Diskriminierung“ in seinen Kommentaren, und ein Team von 10 Gutachtern trifft die Urteile. Er sagte, die Grenze zwischen „gezielter Belästigung, die sich gewalttätig anfühlt“ und jemandem, der einen unangemessenen Witz macht, sei nicht immer klar.

In einem Blog-Beitrag im vergangenen Monat kündigte das Unternehmen ein neues Tool an, mit dem Benutzer anstößige Kommentare markieren können. Aber die Software ist noch weitgehend ungetestet.

Ha sagte, er habe drei der extremistischen Seiten blockiert, nachdem er von The Post kontaktiert worden war. Eine von ihnen, die neokonföderierte Site Occidental Dissent, nutzte die Entwicklung, um einen öffentlichen Aufruf zu mehr Spenden zu machen, und verdiente, wie der Gründer der Site, Brad Griffin, sagte, etwa 1.000 Dollar – ein Vielfaches mehr als die Anzeigen in den letzten Monaten produziert hatten.

'Für mich hat es gut geklappt', sagte Griffin.