Dunkelhäutige Frauen werden von Gesichtserkennungs-Algorithmen nicht erkannt

| Redakteur: Julia Schmidt

Joy Buolamwinis Studie hat gezeigt, dass kommerzielle Gesichtserkennungssysteme Bilder von Frauen mit dunkler Haut nur schlecht erkennen können.
Joy Buolamwinis Studie hat gezeigt, dass kommerzielle Gesichtserkennungssysteme Bilder von Frauen mit dunkler Haut nur schlecht erkennen können. (Bild: Bryce Vickmark)

Forscher vom MIT und der Universität von Standford haben kommerziell verfügbare Gesichtserkennungssysteme von Microsoft, IBM und Face ++ auf ihre Zuverlässigkeit geprüft. Die mit Abstand größte Diskrepanz fanden die Forscher bei dunkelhäutigen Frauen. Hier schnitt die Software von IBM am schlechtesten ab und konnte nur in knapp 65 Prozent der Fälle die Gesichter richtig zuordnen.

Allgemein sind die Erfolgsraten von Gesichtserkennungssoftware sehr gut und liegen im Schnitt bei weit über 90 Prozent. Die besten Ergebnisse in der Studie erzielten die Algorithmen von Microsoft und IBM bei hellhäutigen Männern. Während Face++, das verstärkt in China eingesetzt wird, bei dunkelhäutigen Männer mit über 99 Prozent am besten abschnitt. Für die Studie wurde untersucht, ob das Gesicht als solches überhaupt erkannt und anschließend richtig einem Geschlecht zugeordnet wurde.

Joy Buolamwini, Informatikerin in der Civic Media Group des MIT Media Lab, hat selbst eine dunkle Hautfarbe und musste im Beruf schon die Erfahrung machen, dass Gesichtserkennungssoftware ihr Gesicht häufig gar nicht als Gesicht erkennt. Auf der Suche nach einer Erklärung für das Phänomen hat sie das Thema unter dem Namen „Gender Shades“ für ihre Abschlussarbeit genauer unter die Lupe genommen.

Die Ergebnisse werfen die Frage auf, wie aktuell neuronale Netze, die in riesigen Datensätzen nach Mustern suchen, trainiert und die Ergebnisse ausgewertet werden. So geben etwa Forscher eines großen amerikanischen Technologiekonzerns für ein von ihnen entwickeltes System einem Genauigkeitsgrad von mehr als 97 Prozent an. Aber der Datensatz, der zur Beurteilung herangezogen wurde, enthielt zu mehr als 77 Prozent männliche und zu mehr als 83 Prozent hellhäutige Beispiele.

„Wichtig ist, hier die verwendete Methode und in wie weit diese Methode auf andere Anwendungen übertragen werden kann“, sagt Joy Buolamwini. „Denn dieselben datenbasierten Techniken, mit denen man versucht das Geschlecht einer Person zu bestimmen, werden auch dazu verwendet, um kriminelle Personen zu identifizieren oder um das Telefon freizuschalten.“

Die drei Algorithmen, die Joy Buolamwini und ihr Kollege Timnit Gebru aus Standford untersuchten, waren universell einsetzbare Gesichtsanalysesysteme, mit denen Gesichter auf verschiedenen Fotos verglichen und Merkmale wie Geschlecht, Alter und Stimmung beurteilt werden können. Alle drei Systeme behandeln die Geschlechterklassifizierung als binäre Entscheidung, männlich oder weiblich, was ihre Leistung bei dieser Aufgabe besonders gut vergleichbar macht.

Um die Programme vergleichen zu können, hat Buolamwini zunächst eine Reihe von Bildern zusammengestellt. Die Auflösung der Bilder von Menschen mit dunkler Hautfarbe war viel besser als in den Datensätzen, die typischerweise zur Auswertung solcher Systeme verwendet werden. Das endgültige Set enthielt mehr als 1.200 Bilder. Als nächstes arbeitete sie mit einem Dermatologen zusammen, um die Bilder nach der sogenannten Fitzpatrick-Skala für Hauttöne von hell bis dunkel zu kodieren. Diese Skala wurde ursprünglich von Dermatologen entwickelt, um das Risiko eines Sonnenbrandes einzuschätzen.

Dann wendete sie die drei ausgewählten Programme auf ihren neu erstellten Datensatz an. In allen drei Fällen waren die Fehlerquoten für die Geschlechterklassifizierung bei Frauen durchgängig höher als bei Männern und bei dunkelhäutigen Probanden höher als bei hellhäutigen Probanden. Bei Face++ und IBM lagen die Fehlerquoten für die dunkelhäutigsten Frauen bei jeweils 46,5 Prozent und 46,8 Prozent. Im Wesentlichen hätten die Systeme für diese Frauen ebenso gut das Geschlecht nach dem Zufallsprinzip erraten können.

„In diesem Bereich haben die verwendeten Datenbanken einen entscheidenden Einfluss“, sagt Ruchir Puri, Chefarchitekt von Watson von IBM. „Wir haben inzwischen ein neues Modell entwickelt. Es enthält eine halbe Million Bilder unterschiedlichster Typen, und wir haben ein anderes neuronales Netzwerk, das viel robuster ist. Das neue Modell ist nicht wegen Joy Forschungsergebnissen entwickelt worden, aber wir wollten, die von ihr aufgeworfenen Fragen mit einarbeiten.“

Die Vor- und Nachteile biometrischer Verfahren zur Authentifizierung

Die Vor- und Nachteile biometrischer Verfahren zur Authentifizierung

09.02.18 - Zugangskarten werden gerne verlegt, Pins und Passwörter entweder vergessen oder viel zu leicht gehackt. Die Rettung: Biometrische Authentifizierung. Autor Otto Geißler bat Thomas Bengs, Director & Head of Biometrics EMEIA bei Fujitsu, um ein Interview zum Thema. lesen

Bayern will Videoüberwachung ausbauen und testet neue Gesichtserkennungssoftware

Bayern will Videoüberwachung ausbauen und testet neue Gesichtserkennungssoftware

05.12.17 - Das Landeskriminalamt Bayern testet eine neue Software für biometrische Gesichtserkennung, um Tatverdächtige schneller ermitteln zu können. Das Innenministerium möchte zudem die Videoüberwachung ausbauen, um den Fortschritt zu unterstützen, von Seiten von Datenschützern hagelt es Kritik. lesen

Kommentar zu diesem Artikel abgeben

Schreiben Sie uns hier Ihre Meinung ...
(nicht registrierter User)

Zur Wahrung unserer Interessen speichern wir zusätzlich zu den o.g. Informationen die IP-Adresse. Dies dient ausschließlich dem Zweck, dass Sie als Urheber des Kommentars identifiziert werden können. Rechtliche Grundlage ist die Wahrung berechtigter Interessen gem. Art 6 Abs 1 lit. f) DSGVO.
Kommentar abschicken
copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Infos finden Sie unter www.mycontentfactory.de (ID: 45135838 / IoT)