Gatekeeper: Diese Technologiefirmen kontrollieren, was online erlaubt ist


Die Parler-Plattform war wochenlang offline, nachdem sie von Amazon Web Services und anderen eingestellt wurde. (Olivier Douliery/AFP/Getty Images) VonGeoffrey A. Fowlerund Geoffrey A. Fowler Technology-Kolumnist aus San FranciscoEmail War Folgen Chris AlcantaraChris Alcantara Graphics-ReporterEmail War Folgen 24. März

Wer betreibt das Internet wirklich? Viele Unternehmen, von denen man selten hört.

Sicher, Facebook, Google und Twitter machten Schlagzeilen, weil sie die Konten von Donald Trump nach dem Aufstand am 6. Januar im Kapitol geschlossen hatten. Aber die Silicon-Valley-Giganten, die dazu berufen wurden vor dem Kongress aussagen am Donnerstag über Fehlinformationen und Hass in sozialen Medien sind nicht die einzigen – und kaum die ersten – Technologieunternehmen, die entscheiden, welche Arten von Online-Rede akzeptabel sind.

Ein Haufen anderer Unternehmen, übereinander gestapelt wie ein Kuchen, betreibt die Leitungen und Dienste, die das Internet am Laufen halten.

Gestapelte Leistung

Durch die Kontrolle kritischer Dienste spielen alle eine Rolle bei der Online-Moderation. Je weiter unten ein Unternehmen steht, desto wichtiger ist es, das Internet zu betreiben.

1. Plattformen



Websites und Apps mit nutzergenerierten Inhalten sowie zum Verkauf stehenden Waren und Dienstleistungen

2. Cloud-Services

Dateispeicherung, Webhosting und Computerverarbeitungsleistung verfügbar auf

das Internet

3. Content Delivery Networks

Bietet Lieferdienste wie Videostreaming und Schutz vor Cyberangriffen

Vier. Domain-Registrare

Erlauben Sie Websites, Domainnamen zu registrieren, und stellen Sie sicher, dass der Web-Traffic an den richtigen Ort gelangt

5. Internetanbieter

Unternehmen, die Internet- und Telefondienste anbieten

DIE WASHINGTON POST

Gestapelte Leistung

Durch die Kontrolle kritischer Dienste spielen alle eine Rolle bei der Online-Moderation. Je weiter unten ein Unternehmen steht, desto wichtiger ist es, das Internet zu betreiben.

1. Plattformen

Websites und Apps mit nutzergenerierten Inhalten sowie zum Verkauf stehenden Waren und Dienstleistungen

2. Cloud-Services

Dateispeicherung, Webhosting und Computerverarbeitungsleistung im Internet verfügbar

3. Content Delivery Networks

Bietet Lieferdienste wie Videostreaming und Schutz vor Cyberangriffen

Vier. Domain-Registrare

Erlauben Sie Websites, Domainnamen zu registrieren, und stellen Sie sicher, dass der Web-Traffic an den richtigen Ort gelangt

5. Internetanbieter

Unternehmen, die Internet- und Telefondienste anbieten

DIE WASHINGTON POST

Gestapelte Leistung

Durch die Kontrolle kritischer Dienste spielen alle Unternehmen innerhalb des Stack eine Rolle bei der Online-Moderation. Je weiter unten ein Unternehmen steht, desto wichtiger ist es, das Internet zu betreiben.

1. Plattformen

Vier. Domain-Registrare

Websites und Apps mit nutzergenerierten Inhalten sowie zum Verkauf stehenden Waren und Dienstleistungen

Erlauben Sie Websites, Domainnamen zu registrieren, und stellen Sie sicher, dass der Web-Traffic an den richtigen Ort gelangt

2. Cloud-Services

5. Internetanbieter

Dateispeicherung, Webhosting und Computerverarbeitungsleistung im Internet verfügbar

Unternehmen, die Internet- und Telefondienste anbieten

3. Content Delivery Networks

Bietet Lieferdienste wie Videostreaming und Schutz vor Cyberangriffen

DIE WASHINGTON POST

720

Gestapelte Leistung

Durch die Kontrolle kritischer Dienste spielen alle Unternehmen innerhalb des Stack eine Rolle bei der Online-Moderation. Je weiter unten ein Unternehmen steht, desto wichtiger ist es, das Internet zu betreiben.

1. Plattformen

Websites und Apps mit nutzergenerierten Inhalten sowie zum Verkauf stehenden Waren und Dienstleistungen

2. Cloud-Services

Dateispeicherung, Webhosting und Computerverarbeitungsleistung im Internet verfügbar

3. Content Delivery Networks

Bietet Lieferdienste wie Videostreaming und Schutz vor Cyberangriffen

Vier. Domain-Registrare

Erlauben Sie Websites, Domainnamen zu registrieren, und stellen Sie sicher, dass der Web-Traffic an den richtigen Ort gelangt

5. Internetanbieter

Unternehmen, die Internet- und Telefondienste anbieten

DIE WASHINGTON POST

Joan Donovan, Forschungsdirektorin am Shorenstein Center der Harvard University, vorgeschlagen diese Ansicht der Gatekeeper des Internets nach tödlichen Schießereien im Jahr 2019, die in einem Message Board namens 8chan keimten. Online-Hass und Desinformation verbreiten sich, weil ein ganzes Ökosystem sie unterstützt, sagte sie, und der Rest des Stapels muss sich verstärken, um den Kreislauf zu durchbrechen.

Typischerweise ungesehene Teile des Stapels haben nach dem Kapitol-Aufstand ihre Macht ausgeübt. Amazon Web Services – das die Cloud-Computing-Leistung bietet, die viele Apps und Websites am Laufen hält – hat seinen Vertrag mit dem sozialen Netzwerk Parler wegen zu vieler gewalttätiger Posts und unzureichender Moderation beendet. App-Stores von Apple und Google haben auch Parler rausgeschmissen und die Plattform effektiv geknickt. Parler, der von der großen Trump-Unterstützerin Rebekah Mercer finanziell unterstützt wird, bezeichnete die Schritte als Teil einer „koordinierten Anstrengung“, um Trump und seine Unterstützer zum Schweigen zu bringen. (Amazon-CEO Jeff Bezos besitzt die Washington Post.)

Tech-Führungskräften, die nicht gewählt werden oder nicht unbedingt Erfahrung mit dem Abwägen haben, was für die Gesellschaft richtig ist, ist es eine Menge Macht, sie in die Hände zu legen.

In einigen Abschnitten des Stapels hat eine kleine Anzahl von Unternehmen einen übermäßigen Einfluss. Apples App Store zum Beispiel ist die einzige Möglichkeit, Apps für iPhones und iPads zu kaufen.

Dennoch haben Technologieunternehmen diese Art von Anrufen schon lange gemacht, die auf Bemühungen zurückgehen, die Ausbeutung von Kindern zu vereiteln und Leute zu überwachen, die Musik und Filme raubkopieren.

Ein Gesetz, das als Abschnitt 230 des Communications Decency Act von 1996 bekannt ist, besagt, dass „interaktive Computerdienste“ – Unternehmen auf und ab – rechtlich nicht dafür verantwortlich gemacht werden können, was andere über ihre Dienste sagen. Das bietet ihnen, mit wenigen Ausnahmen wie Sexhandel, einen rechtlichen Schutz, gibt Unternehmen aber auch das Recht, Inhalte nach eigenem Ermessen zu überwachen.

Da immer mehr Internet unser Leben durchdringt, steigt auch die Erwartung, dass Technologieunternehmen eine Verantwortung für Inhalte teilen, die mit der Verantwortung von Lebensmittelunternehmen für die öffentliche Gesundheit vergleichbar ist. Ein entscheidender Moment kam nach der „Unite the Right“-Rallye 2017 in Charlottesville.

Als Plattformen wie Facebook an der Spitze des Stapels nur langsam reagierten, verlagerte sich der Druck auf kritische Serviceunternehmen wie GoDaddy und WordPress, Websites, Fundraising-Systeme und Chat-Foren zu schließen. Viele dieser Unternehmen waren nicht mehr nur Datenkanäle, sondern wurden zu widerspenstigen Polizisten.


Ben, ein 21-jähriges Ku-Klux-Klan-Mitglied, im Emancipation Park vor der „Unite the Right“-Kundgebung in Charlottesville 2017. (Evelyn Hockstein/For The Washington Post)

„Es gibt keine Möglichkeit für große Verbrauchermarken wie PayPal, sich vollständig aus den Kulturkriegen herauszuhalten“, sagt Dan Schulman, CEO von PayPal und fügt hinzu, dass das Unternehmen, zu dem auch Venmo gehört, jeden Monat Hunderte von Websites und Einzelpersonen für eine Vielzahl von Gründe dafür. „Es liegt in unserer Verantwortung sicherzustellen, dass wir nicht zulassen, dass Menschen PayPal oder Venmo verwenden, um für Gewalt, Hass oder Rassenintoleranz zu werben“, sagte er.

[ Helpdesk: Stellen Sie unserem technischen Kolumnisten eine Frage ]

Anti-Hass-Gruppen, einschließlich Ändern Sie die Bedingungen und der Liga gegen Verleumdung , haben den Druck im Stapel nach oben und unten erhöht.

Aber versteckte Kräfte, darunter Regierungen, Hacker und oft geschäftliche Erwägungen, können Technologieunternehmen zum Handeln antreiben, sagt Eric Goldman, Rechtsprofessor an der Santa Clara University . Im Februar entzog Facebook Mitgliedern die Möglichkeit, Nachrichtenartikel in Australien zu teilen, da ein Rechtsstreit über ein Gesetz geführt hatte, das das Unternehmen zwang, Verlage zu bezahlen.

Kritiker wie Jillian York, die Autorin von ' Silicon Values: Die Zukunft der freien Meinungsäußerung im Überwachungskapitalismus “, sagen wir, wenn Unternehmen zu unverantwortlichen Zensoren werden, schafft dies einen Präzedenzfall, der politische und persönliche Ausdrucksformen aller Art gefährdet.

„Die Sexarbeiterin, die palästinensische oder burmesische oder ägyptische Aktivistin/Dissidentin, die LGBTQ+-Rechtsaktivistin, die Person, die sich in ihrer Gemeinde gegen den Terrorismus ausspricht – sie haben oft nirgendwo anders zu suchen, besonders wenn sie in einem Land ohne freie Medien leben, ' Sie sagte.

Haben Unternehmen die Verantwortung, Inhalte zu moderieren, weil sie die technischen Fähigkeiten haben? Oder bedeutet die Tatsache, dass sie die falschen Anrufe tätigen könnten, sollten sie sich zurückhalten?

Die Diskussion über die Sicherheit der Gesellschaft im Internet wird von hier aus nur noch komplizierter – auf und ab.

Plattformen

Plattformen

Plattformen

Was sie machen : Eine Plattform ist ein Online-Forum. Das klingt vielleicht nicht wichtig, aber es ist die Art von Geschäft, die viele der bekanntesten Internetunternehmen antreibt. Es handelt sich um Websites und Apps, die Geld verdienen, indem sie Anzeigen rund um das schalten, was andere Leute posten, oder indem sie sich beim Verkauf von Sachen anderer Leute sparen.

Wer sie sind : Plattformen sind soziale Netzwerke wie Facebook, Twitter, Reddit, Discord, YouTube und Twitch; Marktplätze wie eBay, Amazon, Craigslist und GoFundMe; und App-Stores wie die von Apple, Google und Amazon. Auch der Mietservice Airbnb und der Ride-Hailing-Service Uber sind Plattformen.

Warum sie Macht haben: Wenn Sie die Plattform erstellen, können Sie entscheiden, wer und was darauf steht. Diese Standards können sich ändern und müssen nicht unbedingt gleichmäßig durchgesetzt werden. Wenn Sie von einer wirklich großen Plattform abgeschnitten sind – wie einem sozialen Netzwerk oder einem App-Store mit Milliarden von Nutzern – kann es schwierig sein, das gleiche Publikum anderswo zu finden.


Alex Jones von Infowars spricht mit Reportern außerhalb einer Anhörung des Geheimdienstausschusses des Senats im Jahr 2018. (Drew Angerer/Getty Images)

Wenn sie Maßnahmen ergriffen haben: Maßnahmen wie Twitter, das Trump im Januar dauerhaft von seiner Plattform verbietet, werden von Politikern oft als parteiische Entscheidungen dargestellt. Plattformen führen seit Jahren diese Art von täglichen Content-Anrufen auf der ganzen Welt durch. Im Jahr 2014, Twitter wurde abgeschaltet Video der Enthauptung des amerikanischen Journalisten James Foley. Im Jahr 2018 sagte Twitter, es hätte 1,2 Millionen Konten gesperrt Verbindung mit der Terrorgruppe ISIS. 2019 verbot Facebook den Verschwörungstheoretiker Alex Jones und den schwarzen nationalistischen Minister Louis Farrakhan.

Amazon hat viele Produkte aus seinem Laden entfernt, die zumindest auf ein selbst veröffentlichtes Buch über Pädophilie im Jahr 2010 zurückgehen. Sogar Airbnb, die Wohnungsvermietung, hat seit 2017 nach mutmaßlichen Mitgliedern von Hassgruppen recherchiert um sie daran zu hindern, den Dienst zu mieten.

Plattformen üben auch Macht durch das Design von Software aus, die auswählt, welche Informationen verstärkt – und was vergraben wird. Als 2019 ein irreführendes, bearbeitetes Video der Sprecherin des Repräsentantenhauses Nancy Pelosi (D-Calif.) viral wurde, beschloss Facebook, es nicht zu löschen, sondern die Auftritte des Videos in den Newsfeeds der Leute „stark zu reduzieren“.

Cloud-Computing und

Hosting-Anbieter

Cloud-Computing und

Hosting-Anbieter

Cloud-Computing- und Hosting-Anbieter

Was sie machen : Die Cloud ist Online-Speicher und Rechenleistung, die Sie mieten können. Viele Unternehmen besitzen und warten nicht mehr die erforderliche Hardware, um Webseiten auszustrahlen, E-Mails zu empfangen und mit Apps zu interagieren. Zunehmend finden sie es billiger und einfacher, eines dieser Unternehmen dafür zu bezahlen, eine Website oder einen Dienst für sie zu „hosten“.

Wer sie sind: Website-Erstellungs- und -Hosting-Unternehmen wie Squarespace, Wix, WordPress und Shopify sowie Cloud-Computing-Anbieter AWS, Google Cloud, Microsoft Azure, Joyent und Zoho.

Warum sie Macht haben: Schneiden Sie das Hosting einer Site ab und sie verschwindet – zumindest bis sie einen anderen Anbieter findet. Außerdem ist der Wechsel zu einem anderen Cloud-Anbieter manchmal mit großem technischen und finanziellen Aufwand verbunden: Parler war wochenlang offline, weil es keinen Plan B gab. (Er kam schließlich über den Cloud-Dienst SkySilk zurück.)

Wenn sie Maßnahmen ergriffen haben: Amazons Trennung von Parler war nicht das erste Mal, dass ein Kunde gefeuert wurde. Im Jahr 2010, als AWS erst vier Jahre alt war, schnitt es WikiLeaks ab, das geheime US-Dokumente über die Kriege im Irak und in Afghanistan veröffentlichte. Amazon sagte, WikiLeaks habe gegen seine Nutzungsbedingungen verstoßen, indem es „große Datenmengen gesichert und gespeichert hat, die ihnen nicht rechtmäßig gehören, und diese Daten veröffentlicht, ohne sicherzustellen, dass andere nicht verletzt werden“.

Andere Anbieter haben sich nach Charlottesville stärker engagiert. Squarespace hat das Hosten von Websites eingestellt, die mit weißen Supremacisten verknüpft sind, und WordPress hat einen Blog für weiße Supremacisten geschlossen. Im Jahr 2018 haben Microsoft und Joyent gesperrte Konten für das soziale Netzwerk Gab für seine laissez-faire-Mäßigungshaltung nach einer Schießerei in einer Synagoge in Pittsburgh.

Inhalt liefern

Netzwerke, Sicherheit

und Zahlungsdienste

Content-Delivery-Netzwerke,

Sicherheit und Zahlung

Dienstleistungen

Content Delivery Networks, Sicherheit

und Zahlungsdienste

Was sie machen: Diese Unternehmen sind versteckt, aber kritisch Verkehrskontrolleure des Internets. Sie helfen Websites und Apps, Videos zu streamen, Hacker in Schach zu halten und Geld statt Sprache zu liefern. Diese Dienstleistungen erfordern technisches Know-how, ein globales Netzwerk oder Verbindungen zur Bankenbranche, die nur wenige Unternehmen alleine bieten können.

Wer sie sind: Cloudflare, Akamai, Peer5 und Amazon Cloudfront, PayPal, Stripe und Apple Pay.

Warum sie Macht haben: Der Verlust eines CDN kann eine Site für Denial-of-Service-Angriffe anfällig machen. Zahlungsunternehmen können eine andere Hebelwirkung – und mehr Rechenschaftspflicht – haben, da sie Finanzdienstleistungsgesetzen unterliegen, die die Unterstützung von Terrorismus verbieten.

Wenn sie Maßnahmen ergriffen haben: 2010 unternahm PayPal auch Schritte gegen WikiLeaks und sperrte das Konto einer deutschen Stiftung, die in ihrem Namen Spenden entgegennahm. Im Jahr 2017, nachdem Charlottesville, PayPal, Apple Pay und andere Dienste die Verarbeitung von Zahlungen von Websites der weißen Vorherrschaft eingestellt hatten.

CDNs haben sich beteiligt, aber mit mehr öffentlicher Zurückhaltung. Im Jahr 2013 verteidigte Cloudfare-CEO Matthew Prince die Zusammenarbeit mit einer tschetschenischen Website, die beschuldigt wird, Terrorismus zu schüren, und sagte: „ Eine Website ist Sprache. Es ist keine Bombe .“ Aber im Jahr 2017 ließ die Firma die neonazistische Daily Stormer-Website fallen, nachdem sie von Prince so genannten 'Hackern' aufgefordert worden war, den Schutz der Website einzustellen. 2019 ließ Cloudflare nach den Dreharbeiten in El Paso auch 8chan fallen.

Domain-Registrare

Domain-Registrare

Domain-Registrare

Was sie machen: Unternehmen, die das Domain Name System (DNS) betreiben, sind die Telefonbücher des Internets. Sie ermöglichen einer Site, den Namen zu registrieren, den Sie in einen Browser eingeben, und stellen dann sicher, dass der Webverkehr an die richtige Stelle geleitet wird.

Wer sie sind: GoDaddy, Google, Tucows, DreamHost und Epik.

Warum sie Macht haben: Domainregistrierungen sind ein Engpass, der eine Website schnell schließen kann. Eine Site würde offline bleiben, bis sie einen neuen Domain-Registrar findet.

Wenn sie Maßnahmen ergriffen haben: Im Jahr 2010 stellte ein Softwareunternehmen namens EveryDNS die Weiterleitung von Datenverkehr an WikiLeaks ein, nachdem es sagte, dass Cyberangriffe den Rest seines Netzwerks bedrohten. Nach Charlottesville im Jahr 2017 schloss sich GoDaddy anderen Unternehmen bei der Räumung des Daily Stormer an. 2018 ließ GoDaddy auch Gab fallen.

Epik hat sich als bevorzugte Alternative für rechtsgerichtete Websites, einschließlich Gab, herausgestellt. Epik-CEO Rob Monster hat kritisiert, was er nennt „Digitale Zensur“ von anderen Registraren, und in diesem Jahr wurde Epik auch der Domain-Registrar für Parler.

Internetdienst

Anbieter

Internetanbieter

Internetanbieter

Was sie machen: Bringen Sie Websites und Apps auf Smartphones und nach Hause.

Wer sie sind: Comcast, AT&T, Verizon, Charter, Cox und Hunderte anderer regionaler und lokaler Anbieter.

Warum sie Macht haben: Ihr Breitband- oder Mobilfunkanbieter ist die letzte Schicht zwischen Ihnen und dem Internet. Regierungen können ISPs als ihr direktestes Mittel zur Kontrolle über das Internet verwenden. In China zwingt die Regierung ISPs dazu, Verbindungen zu bestimmten Internetadressen zu blockieren, einschließlich ausländischer Dienste wie Facebook. In den Vereinigten Staaten gibt es seit Jahren heftige Debatten darüber, ob ISPs verpflichtet werden sollten, alle Websites gleichermaßen bereitzustellen, ein Konzept, das als Netzneutralität bekannt ist.

Wenn sie Maßnahmen ergriffen haben: Im Jahr 2011 baten die Motion Picture Association of America und die Recording Industry Association of America ISPs, die Piraterie zu stoppen, indem sie sich dem Copyright Alert System anschlossen, einem System mit sechs Streiks für private Internetnutzer, die beim Teilen von raubkopiertem Material erwischt wurden. In seinem ersten Jahr, in dem das System 2013 verwendet wurde, schickte Comcast 625.000 Warnhinweise an seine Kunden.

ISPs, die Inhalte aus nichtkommerziellen Gründen blockieren, ist seltener. Im Jahr 2011 stellte ein Zug in San Francisco den gesamten Mobilfunkdienst auf seinen Bahnsteigen ab, um einen möglichen Protest zu verhindern.

Im Januar hat Ihr T1 WiFi, ein in Idaho ansässiger ISP, sagte, es würde Facebook und Twitter blockieren als Vergeltung für diese Dienste, die Trump verbieten – aber nur für Kunden, die danach gefragt haben.