Sind die Filter von Snapchat rassistisch?

„Snapchat ist so rassistisch“, schrieb Model Poppy Delevingne letzte Woche. Nicht irgendwohin, sondern auf ein Video mit zwei Freunden, das sie in der App postete. Was war passiert? Erst Regenbogen spucken und dann mit Hundeschlappohren und herausgestreckter Riesenzunge in die Kamera grinsen: Filter, die Gesichter auf dem Smartphone verwandeln können, hat Snapchat zum Mainstream gemacht. Benutzt man sie als Gruppe, springen die Lenses, so der Fachbegriff von Snapchat, von Gesicht zu Gesicht. Bei Poppy und ihrem weißen Freund in der Runde klappte das wunderbar. Bei ihrem dunkelhäutigen Freund sah die Sache anders aus: Die Filter funktionierten nicht. Ist die Technologie hinter der Verwandlung in ein regenbogenspuckendes Einhorn oder ein Toastbrot also wirklich von der Hautfarbe abhängig? Snapchat äußerte sich auf Anfrage von Refinery29 nicht zum Sachverhalt, verwies aber per E-Mail auf die Funktionen seiner Lenses, die im Privacy Center der App nachzulesen sind. Sie basieren demnach nicht auf Facial Recognition, sondern Object Recognition. Soll heißen? Ein Algorithmus identifiziert, was generell im Bild zu sehen ist – also eine Nase als Nase und einen Mund als Mund – erkennt aber kein Gesicht an sich. So weit, so allgemein. Doch wenn eine Nase generell als Nase und ein Mund als Mund erkannt wird, stellt sich erst recht die Frage, warum die Hautfarbe dabei eine Rolle spielen soll.

Wird die Realität durch den Computer erweitert, spricht man von Augmented Reality, kurz AR. Ein Begriff, der gerade erst mit dem Pokémon Go-Hype durch die Medien ging. Stellt Diversität hier eine Hürde dar? Oder ist Poppys Delevingnes Situation bei Snapchat einfach ein Einzelfall? „Die technologische Grundlage der Anwendung ist uns zwar nicht bekannt, aber vergleichbare AR-Systeme arbeiten für gewöhnlich mit Klassifizierungsmustern. Auf diese Weise kann ein Computer erkennen, dass sich im Kamerabild zum Beispiel ein Gesicht befindet. Diese Muster sind häufig darauf trainiert Kontraste, wie den Übergang vom Gesicht zu den Haaren zu erkennen. “, erklärt Dr. Harald Wuest, stellvertretender Abteilungsleiter „Virtuelle und Erweiterte Realität“ am Fraunhofer IGD in Darmstadt Refinery29. „Menschen mit dunklerer Haut und kurzen dunklen Haaren haben für die Kameras weniger wahrnehmbaren Kontrast. Der Computer hat es dann sehr schwer, zu erkennen, dass es sich um ein Gesicht handelt. Bei unseren Forschungen für industrielle Anwendungen sind wir häufig mit ungünstigen Lichtverhältnissen und schwachen Kontrasten konfrontiert. Die Software so robust zu machen, dass sie dennoch lagerichtig die AR-Inhalte einblendet, ist eine ständige Herausforderung der Forschung.“ Prof. Dr. Björn Ommer, Leiter der Arbeitsgruppe Computer Vision an der Universität Heidelberg, betrachtet in diesem Fall die Lichtverhältnisse als ausschlaggebend: „Da vergleichbare Algorithmen auf gewisse Merkmale reagieren und bei diesem Beispiel das Licht von hinten und von oben kommt, ist es möglich, dass ein dunkelhäutiges Gesicht im Vergleich nicht ganz so viel Kontrast hat und so schwerer für den Computer zu erkennen ist.“ Er stellt jedoch klar: „Hier geht es nicht um Rassismus, sondern um die Beschränkungen einer App.“ Kritik an Snapchats Lenses gibt es nicht zum ersten Mal: Der Guardian berichtet, dass im April über den Bob-Marley-Filter diskutiert wurde, den die App als Hommage an den Künstler veröffentlichte. Der Vorwurf? Damit werde Black Facing betrieben – ein Begriff, der durch weiße Darsteller geprägt wurde, die sich das Gesicht schwarz anmalen, um Stereotypen zu zeigen. Auch Google war im letzten Jahr mit Kritik an seiner automatischen Gesichtserkennung konfrontiert. Die App Google Fotos weist Bildern Schlagworte zu, um sie schneller zu sortieren und betitelte ein Fotoalbum eines schwarzen Programmierers und seiner Freundin laut Spiegel Online mit Gorillas. Google entschuldigte sich und verwies darauf, dass die Funktion noch lückenhaft sei.

Computerfunktionen können die Realität erweitern, sind aber immer nur so vielfältig wie sie auch programmiert werden – und Diversität scheint hier öfter eine Herausforderung zu sein als erwartet.