Dass Algorithmen nicht neutral sind, ist bereits bekannt. Besonders plakative Beispiele für mutmaßlichen Rassismus wurden nun auf Twitter und Zoom gefunden.
Martin Holland | heise online

Ausgehend von einer Fehlfunktion in der Videokonferenz-Software Zoom haben Twitter-Nutzer am Wochenende herausgefunden, dass nicht nur bei Zoom, sondern auch bei dem Kurznachrichtendienst Algorithmen offenbar Gesichter von weißen gegenüber solchen von Schwarzen Personen bevorzugen. An den öffentlichen Experimenten zur Bestätigung des Verhaltens beteiligte sich mit Dantley Davis auch der Chief Design Officer von Twitter, Lob für das Vorgehen kam von Twitters Chief Technology Officer Parag Agrawal. Reagiert hat derweil auch Zoom und eine eigene Analyse angekündigt.
Ein Kopf wird zum Hintergrund
Angefangen hat alles mit dem Doktoranden Colin Madland, der auf Twitter eine Fehlersuche in Zoom dokumentieren wollte. Einem Kollegen schnitt die immer den Kopf ab, wenn der einen virtuellen Hintergrund für Videokonferenzen nutzen wollte. Madland war darauf gekommen, dass die Software das Gesicht des Schwarzen Mannes nicht als solches erkannte und deswegen überblendete.