Voreingenommener Bilder-Algorithmus: Twitter verspricht Nutzern mehr Kontrolle


Tage nachdem ein anscheinend rassistischer Algorithmus für Kritik gesorgt hat, gelobt Twitter Besserung. Man wolle sich weniger auf Technik verlassen.

Martin Holland | heise online

Erst der Klick verrät, dass auf beiden Fotos auch Barack Obama zu sehen ist.(Bild: @bascule)

Nach Kritik an einem Algorithmus ändert Twitter das Vorgehen bei der Anzeige von Bildern in dem Kurzmitteilungsdienst. Der Rückgriff auf Techniken des maschinellen Lernens soll verringert werden und Nutzer sollen mehr Kontrolle über die Anzeige von Bildern bekommen, erklären Parag Agrawal und Dantley Davis in einem Blogeintrag. Der Chief Technology Officer und der Chief Design Officer des US-Konzerns hatten vor einigen Tagen bereits öffentlich auf die Experimente reagiert, mit denen Nutzer darauf aufmerksam gemacht hatten, dass der Algorithmus zur Bildauswahl die Gesichter weißer Menschen zu bevorzugen scheint.

Als er auf einen Fehler der Videokonferenz-Software Zoom hinweisen wollte, die immer den Kopf eines Schwarzen Mannes überblendete, hatte ein Doktorand zufällig eine scheinbare Ungleichbehandlung auf Twitter gefunden. Ein Algorithmus, der den mutmaßlich interessantesten Bereich eines Bildes herausfinden und darauf fokussieren soll, scheint Porträts weißer Menschen zu bevorzugen. Selbst, wenn die Positionen in einem Bild getauscht oder dieses einfach gespiegelt wird, landet in der Vorschau oft hartnäckig ein und dasselbe Gesicht, hatten Versuche anderer Nutzer dann ergeben. Daraufhin hatten sich die beiden Manager von Twitter eingeschaltet und eine Analyse versprochen.

weiterlesen