Der wahre Grund für die Existenz von Safe Search
Facebooks Kampf gegen den Hass
Nuff! Ich grüße das Volk. 
Die Medien haben sich in den letzten Jahren schwer daran abgearbeitet, wie furchtbar Facebook und andere soziale Netze vergiftet wären von Hate Speech. Das ist so ein schweres Problem, dass ich es selbst noch nie auf Facebook gesehen habe, aber die Öffentlichkeit (die das zum größten Teil auch selbst nicht mitbekommen hat) wurde mit Leichtigkeit überzeugt, dass das eine mittlere Katastrophe wäre. Facebook hat inzwischen das Beschwerdeteam, welches sich all die gemeldeten Beiträge angucken und Facebook vor drölfzig Milliarden Euro Bußgeld bewahren muss, sehr aufgestockt und sogar mal der Presse vorgeführt, aber das ist nicht die einzige Methode, mit der Facebook sich selbst vom ultimativen Bösen, nämlich unartigen Wörtern und Bildern, reinwaschen will. Denn Facebook verhindert auch automatisiert durch simple Algorithmen, dass Schmutz und Schande überhaupt hochgeladen werden. Zumindest tut Facebook so, wie ich kürzlich durch Zufall feststellte. Und noch mal für die Suchmaschinen: Facebook.
Eine Freundin, mit der ich mich über den Facebook-Messenger unterhielt, war wegen einer Sache leicht angepisst. (Nicht meine Schuld. Ehrlich.) Als netter Gesprächspartner suchte ich mir ein passendes Mem, welches Saya Trost spenden sollte.
Doch als ich das Bild im Messenger hochladen wollte, meldete Facebook mir dieses:
Nanu? Was ging denn da schief? Und was ist ein "gültiges Foto"?
Nach vier fehlgeschlagenen Versuchen hatte ich einen absurd erscheinenden Verdacht: Ich hatte die Datei (natürlich) letthehateflowthroughyou.jpg genannt. Könnte es an dem Wörtchen "hate" im Dateinamen liegen? Ich machte aus dem "hate" mal einen "hat" und probierte es erneut, ohne tatsächlich zu glauben, dass es funktionieren würde.
Oha? Liegt es wirklich allein am Dateinamen? Das musste ich untersuchen. Ich benannte eine andere Bilddatei in hate.jpg um und probierte, sie hochzuladen.
Das funktionierte. Aber sollte es echt nur am konkreten Dateinamen letthehateflowthroughyou.jpg liegen?
Die beiden Dateien, bei denen das Hochladen trotz des hasserfüllten Dateinamens klappte, waren aber ziemlich bunt. Könnte es an der Farbe liegen? Ich probierte folgendes Bild, welches ich unter kanada_hass.jpg abgespeichert hatte.
Das Resultat:
Saya und ich versuchten nun beide, das zu ergründen, und zwar mit einfarbigen Bildern. Seht hier zum Beispiel mein Kunstwerk hass.jpg:
Das erlaubte Facebook nicht. Saya hatte ein Werk mit dem gleichen Motiv und Namen erschaffen (Plagiat! 
) und konnte es ebenfalls nicht hochladen. Als sie es dann aber in liebe.jpg umbenannte, erlaubte Facebook den Upload.
Nun überlegte ich: Hass muss ja nicht unbedingt tiefschwarz sein, sondern könnte ja auch blutrot werden. Was dann?
Fazit also bisher: Facebook mag Bilder nicht, die dunkel sind und in deren Dateinamen das Wort "Hass" oder "hate" vorkommt. Aber wie sieht das mit erotischen Bildern aus? Anhand von Bildern aus meinem unerschöpflichen Archiv stellte ich fest: Meine Bilder mit entblößten weiblichen Brustwarzen wurden unabhängig vom Dateinamen geblockt. Da allerdings männliche Brustwarzen kein Problem waren, glaube ich nicht an eine ausgefeilte Bilderkennung. Vielleicht hab ich auch nur zufällig Bilder ausgewählt, die schon mal hochgeladen und gesperrt wurden, weswegen da ein einfacher Prüfsummenabgleich Facebook half, diese Bilder wiederzuerkennen. Zudem hatte ich in der Vergangenheit Saya per Messenger schon mal lustige Pornocover mit brutal komischen Titeln geschickt, und da hat Facebook trotz Titten und Mösen nicht gemeckert.
Aber was macht Facebook mit Bildern, die es nicht kennt? Würde es nicht Sinn ergeben, wenn sie da dieselbe Logik anwenden wie bei den Hassbildern und nach Dateiname und Farbton gehen? Ich lud ein geschmackvolles Aktbild in Photoshop, suchte mir einen Hautton heraus und schuf ein neues Kunstwerk mit dem schönen Namen sex.jpg.
Was wird Facebook wohl dazu sagen?
Dann benannte ich die Datei in wandfarbe.jpg um und versuchte es erneut.
Lag es nur am Dateinamen? Nein, Saya lud problemlos mehrfach ein suggestives Bild ihres Ellenbogens hoch (soll sie selbst zeigen, wenn sie will) und nannte es Sex.jpg und Pussy.jpg. Erst bei Fotze.jpg weigerte sich Facebook, dasselbe Bild anzunehmen. 
Wir sehen also: Facebook gibt sich größte Mühe, selbst private Kommunikation zwischen Freunden im Messenger frei von Hass und Pornografie zu halten. Da aber so ein Computer nicht weiß, was auf den Bildern ist, wird blind herumgestümpert, auch wenn das jede Menge falschpositiver Treffer ergibt, die unnötig zensiert werden.
Daraus sollte vielleicht auch die Politik mal eine Lehre ziehen: Täglich Millionen Beiträge prophylaktisch auf kontroverse Inhalte zu kontrollieren, ist nicht nur für Menschen, sondern auch für Computer eine Unmöglichkeit. Deswegen ist es Unsinn zu erwarten, dass alle Internetkommentare klinisch rein gehalten werden.
Jetzt bleibt bloß zu hoffen, dass Facebook es wenigstens bei WhatsApp mit der Verschlüsselung wirklich ernst meint und nicht dort auch noch anfängt, Dateianhänge zu zensieren, weil der Hass ein bisschen zu schattig gerät. 
![Avatar von tu[ks].](https://static.klopfers-web.de/profiles/avatar_s_0.jpg){kind=avatar}
) jahrelang verurteilt, wenn mein Bruder am Ess- oder Wohnzimmertisch SMS geschrieben hat. (Er konnte das blind unterm Tisch. Für die Jüngeren unter uns: Damals hatten Handys noch physische Zahlenfeld-Tastaturen mit mehrfach belegten Ziffern. 2x "3" drücken war dann z.B. ein "E" und 4x "7" ein "S". Ach DAMALS ...) Man muss dazu sagen, dass mein Bruder als Mietwagen-Fahrdienstleiter halt immer erreichbar sein musste. Er hat also nicht mal Nonsens geschrieben ...
Zweiklassengesellschaft hier!
)
Echt??? Mit wem chattest du da? Ich habe ICQ gelöscht, nachdem meine gesamten Kontakte eben dies taten. Insofern hätte es keinen Sinn mehr gehabt. Aber ich kenne meine Nummer noch (und sogar das Passwort).
Gast
Website
Meine Meinung zu diesem Thema möchte ich ebenfalls mit Hilfe eines Bildes ausdrücken:
