Gegen den Hass im Netz

Zu den meistbeachteten Hashtags auf Twitter zählten in Indien am 18. Oktober 2019 #ProphetIsGay, am 19. Oktober #BoycottAllah, am 20. Oktober #BoycottMuslims. Innerhalb von drei Tagen wurde aus religiösen Beleidigungen ein umfassender Angriff gegen die islamische Religionsgemeinschaft, die 14 Prozent der indischen Bevölkerung stellt, mit Aufrufen, sie wirtschaftlich und sozial ins Abseits zu drängen.

Die Twitter-Profile, von denen diese Appelle ausgingen, lassen sich der ultrarechten Hindutva zuordnen. Das ist eine kulturell-politische Ideologie, nach der Indien ein Staat der Hindus werden soll. Das ist auch Teil der Ideologie der Bharatiya-Janata-Partei (BJP), die zurzeit die Koalitionsregierung in der säkularen Republik Indien anführt.

Twitter hat eine Richtlinie, nach der Hass schürende Inhalte entfernt werden, doch davon war nichts zu bemerken. Stattdessen machte der Algorithmus der Plattform diese Tweets noch prominenter. Obwohl viele Nutzer solche Inhalte meldeten, löschte Twitter sie nicht und sperrte auch nicht die Konten derer, die teils wiederholt diese Hashtags verbreiteten.

Dies taten organisierte Kräfte, darunter Twitter-Influencer und ranghohe Mitglieder der BJP. Sie haben Hassrhetorik über die Jahre zur Normalität gemacht. Plattformbetreiber zur Verantwortung zu ziehen kann aber nur funktionieren, wenn die Politik rechenschaftspflichtig ist. Die Debatte über die Regulierung sozialer Medien muss das komplexe Umfeld einbeziehen, in dem die Plattformen operieren.

Das Dilemma von Demokratien

Das deutsche Netzwerkdurchsetzungsgesetz (NetzDG) setzt seit 2018 weltweit Maßstäbe für die Regulierung sozialer Medien. Es macht die Anbieter von Plattformen für „illegale Inhalte“ haftbar – von der  Beleidigung öffentlicher Amtsträger bis zur Anstiftung zu Hass und Gewalt. Wenn sie gemeldete Inhalte nicht löschen, droht ihnen eine Geldstrafe von bis zu 50 Millionen Euro. Das NetzDG ist ein Paradebeispiel für das klassische Dilemma von Demokratien: Wie kann Hassrede bekämpft werden, ohne das Recht auf freie Meinungsäußerung anzutasten? Im Falle Deutschlands haben die halbjährlich vorzulegenden Transparenzberichte der Plattformen die Angst vor übertriebener Zensur zerstreut: Die Plattformen haben ihre Community-Richtlinien sorgsam befolgt.

Der indische Gesetzentwurf aus dem Jahr 2018 zu Richtlinien für Plattformbetreiber orientiert sich an den Bestimmungen des NetzDG. Doch Indiens Regierung geht einen Schritt weiter: Um Falschinformation und Hassrede zu bekämpfen, will sie Anbieter wie WhatsApp dazu bringen, Daten zu entschlüsseln, so dass die Identität der Nutzer festgestellt werden kann. Im Oktober 2019 hat das indische Ministerium für Elektronik und Informationstechnologie dem Obersten Gericht ein Dokument für die Regulierung sozialer Medien vorgelegt mit dem Ziel, „individuelle Rechte sowie die Integrität, Souveränität und Sicherheit der Nation“ zu schützen. Danach sollen Plattformen mit automatisierten Verfahren Inhalte entfernen, die die Regierung als rechtswidrig ansieht. Was genau die sind, wird nicht definiert, so dass die Regierung einen breiten Ermessensspielraum nutzen kann.

Die Regierung strebt zudem an, die Aadhaar-Karten ihrer Staatsbürger – das sind Ausweise mit biometrischen Daten – mit deren Nutzerkonten in sozialen Medien zu verknüpfen. Das würde nicht nur das Recht auf Privatsphäre verletzen, sondern kann Nutzer auch zu Selbstzensur veranlassen, wenn sie fürchten, dass Kritik an der Regierung sanktioniert wird.

Fadenscheinige Gründe für Verhaftungen

Für diese Furcht gibt es gute Gründe. Seit 2011 haben die Zentralregierung und Regierungen der Bundesstaaten unabhängig von politischer Ideologie und Parteizugehörigkeit das Informationstechnologiegesetz aus dem Jahr 2000 missbraucht, um Menschen aus den fadenscheinigsten Gründen zu verhaften – sie hatten etwa satirische Cartoons und Witze gepostet oder die Regierung im Internet kritisiert. Nach dem Gesetz sind Dienste und Social-Media-Plattformen nicht für die Aktivitäten ihrer Nutzer verantwortlich, aber die Nutzer können mit Sperrung ihres Internetzugangs bestraft werden. Den Absatz des Gesetzes, der anstößige Äußerungen sehr breit definierte, schaffte das Oberste Gericht im Jahr 2015 allerdings ab.

Indien bietet ein widersprüchliches Bild: Einerseits ermutigt die Regierung die Bürger, auf öffentliche Dienste per Internet zuzugreifen, was das Land zur größten digitalisierten Demokratie macht. Andererseits hat kein Staat das Internet häufiger abgeschaltet als Indien. 2018 berichtete die #KeepItOn-Koalition gemeinsam mit der Non-Profit-Organisation Access Now, dass von 196 solchen Abschaltungen in 25 Ländern allein 134 auf Indien entfielen. Die Erklärungen, die die Regierung hierfür anführt, reichen von Störungen der öffentlichen Ordnung über Gerüchte, die Lynchjustiz auslösen könnten, bis hin zu Mogeleien bei Prüfungen.

Es gibt Bundesstaaten wie Kerala im Süden des Landes, die den Internetzugang zu einem grundlegenden Menschenrecht erklärt haben, aber auch Staaten wie Kaschmir in Nordindien, wo das Internet seit dem 5. August 2019 blockiert ist – aus Sicherheitsgründen, behauptet die Regierung. Hier entscheidet eher die politische Überwachung als die Richtlinien der Plattformen darüber, welche Äußerung akzeptabel ist und welche nicht.

Wie erkennen Algorithmen Hassreden?

Viel wird über Algorithmen debattiert, die automatisch Hassreden erkennen sollen. Man sollte mehr darüber nachdenken, wie praktikabel das in Ländern wie Indien ist, wo die Bundesstaaten sich stark in Sprache und Kultur und im Grad der digitalen Durchdringung und Alphabetisierung unterscheiden. Technologieexperten, die ich in Indien interviewt habe, hatten große Schwierigkeiten, das Problem zu lösen, wie man Hassrede mit Algorithmen erkennt. Selbst innerhalb einzelner Bundesstaaten werden mehrere Sprachen und Dialekte in sozialen Medien benutzt. Algorithmen können Nuancen und Symbole in lokalen Sprachen nicht so klar entschlüsseln, dass sie illegale Inhalte in Bildern und Videos erkennen – und die sind in sozialen Medien und Messaging-Diensten noch verbreiteter als Texte. Zudem können Algorithmen so manipuliert werden, dass sie die Vorurteile ihrer Schöpfer widerspiegeln. Und Twitter oder Facebook müssen gute Beziehungen zu den politisch Mächtigen im Land unterhalten, um in Indien tätig sein zu können.

Hass im Internet spiegelt Hass in der Wirklichkeit wider. Auf dem Index gesellschaftlicher Feindseligkeiten des Pew Research Center belegt Indien bei Zwist zwischen den Religionen Platz vier. Doch um Hass im Internet zu regulieren, muss seine Eindämmung auch in der Offline-Welt greifen.

Indien hat dafür solide Gesetze. So verbietet Artikel 15 der indischen Verfassung Diskriminierung in Wort und Tat, und mehrere Bestimmungen im Strafgesetzbuch stellen Hassrede unter Strafe. Doch sie bleiben bei der Anwendung auf soziale Medien oft außen vor. Täglich werden die Gesetze gegen Hassrede auf Twitter, Facebook, Youtube und Instagram missachtet – von Armeen von bezahlten Trollen, von den harten Anhängern politischer Parteien und auch von Politikern selbst. Laut einem Bericht des in Neu-Delhi ansässigen Fernsehsenders NDTV vom April 2018 war Hassrede unter ranghohen indischen Politikern während der von der BJP geführten Regierung (2014-2018) fast fünf Mal häufiger als in der vorangegangenen Legislaturperiode (2009-2014) mit der von der Kongresspartei geführten Regierung. Sie richtete sich in den meisten Fällen gegen Muslime und Dalits, die im Kastensystem ganz unten stehen.

Schmutzkampagnen von Politikern

Unter diesen Umständen verwandelt sich die Regulierung der sozialen Medien derart, dass abweichende Meinungen als Hassrede verteufelt, aber die eigene Hetze als freie Meinungsäußerung gerechtfertigt wird. Unterstützer der BJP und auch der wichtigsten Oppositionspartei, der Kongresspartei, bezichtigen sich laufend gegenseitig, Falschinformationen zu verbreiten und Hassrede zu befeuern. Beide und auch andere politische Parteien haben sich IT-Zellen zugelegt, um die öffentliche Meinung zu prägen und zu manipulieren.

Ihre Strategien für den Umgang mit sozialen Medien folgen alle demselben Drehbuch: Das zentrale Team der IT-Zelle verbreitet Hashtags und Falschinformationen an bezahlte Trolle und freiwillige Helfer. Inhaltlich sind das meist Schmutzkampagnen gegen Politiker der Konkurrenz oder im Fall von Parteien, die einzelne religiöse oder andere Gemeinschaften vertreten, Diffamierungen anderer Gruppen. Trolle, Bots und Netzwerke von Nutzern mit mehreren Konten sorgen dafür, dass die entsprechenden Inhalte im Netz prominent auftauchen.

Zwar sind in Indien Dienste erstarkt wie AltNews, SMHoaxSlayer und BoomLive, die Informationen auf Richtigkeit überprüfen. Aber es blühen auch kleine parteiische Internetseiten, die so tun, als wären sie Faktenchecker. Unterstützer politischer Parteien nutzen diese Seiten oft als Informationsquelle, womit sie das Problem verschärfen.

Messenger-Dienste zensieren sich selbst

Auch Messenger-Dienste mit Verschlüsselung wie WhatsApp, das in Indien mehr als 400 Millionen aktive Nutzer zählt, und Dienste auf Basis lokaler Sprachen wie Share Chat und Helo (mehr als 50 bis 60 Millionen Nutzer) sind genutzt worden, um Falschinformationen zu verbreiten. Auf WhatsApp kursierende Gerüchte, wonach Menschen Fleisch von als heilig geltenden Rindern gehandelt oder gegessen hätten, haben zwischen Mai 2014 und Dezember 2017 laut der Datenbank IndiaSpend zu 76 Lynchmorden durch aufgebrachte Menschenmengen geführt. Die Regierung hat versucht, das mit einer Regulierung von WhatsApp unter Kontrolle zu bringen (die Zahl der Empfänger einer Message wurde begrenzt). Aber gleichzeitig verteidigten Mitglieder der Regierungspartei die Lynchmobs.

Angesichts der wachsenden öffentlichen Kritik haben soziale Medien und Messaging-Dienste begonnen, sich selbst zu zensieren. Im Februar 2019 zog sich Twitter die Wut der extremen Rechten zu, weil es Nutzerkonten wegen Missbrauchs gesperrt hatte und dabei angeblich politisch einseitig vorgegangen war. Twitter India wurde vor eine parlamentarische Kommission geladen, um dazu Stellung zu nehmen. Paradoxerweise wechselten viele liberal denkende Inder dann im Dezember von Twitter zum Konkurrenten Mastodon, weil Twitter hasserfüllte Rechte mit Samthandschuhen anfasse.

Im Februar 2019, vor den indischen Parlamentswahlen, schloss Facebook 700 für die Kongresspartei eintretende Seiten sowie 15 der BJP wegen „koordinierten nicht authentischen Verhaltens“. WhatsApp investierte riesige Summen in Aufklärungskampagnen zu Schrottnachrichten und Hassrede und versuchte, technische Lösungen dafür zu finden. Kurz: Plattformen haben im Trial-and-Error-Verfahren versucht, Hassrede und Falschinformation einen Riegel vorzuschieben. Aber sie sind keine öffentlichen Dienstleister, sondern profitorientiert – sie folgen finanziellen Erwägungen. Sie handeln dann, wenn Hassrede und Falschinformation ihre Glaubwürdigkeit und Geschäfte gefährden. In Indien wird diskutiert, ihre automatische Anzeige der populärsten Inhalte abzuschalten, damit nicht diese Algorithmen den Hass noch stärker verbreiten.

Plattformen zu regulieren, ist nur eine der Lösungen für das Problem. Entscheidend ist öffentlicher Gegendruck. Gegen Hassrede und Falschinformation treten in Indien zivilgesellschaftliche Organisationen auf wie Internet Freedom Foundation, Youth Ki Awaaz und Citizen‘s Religious Hate Crime Watch, ebenso junge Video-Blogger mit Millionen von Abonnenten. Es gibt Internet-Faktenchecker von professionellen Medien, Medienkritik etwa bei NewsLaundry und satirische Webseiten. Soziale Medien können Hass schüren aber auch bekämpfen. Um Hassbotschaften zu stoppen, muss der Absender zur Rechenschaft gezogen werden – nicht nur das Medium.

Aus dem Englischen von Julia Lauer.