Suchen

Dilemma beim KI-Training: Wann ist gründlich gründlich genug?

| Redakteur: Sebastian Gerstl

Ist es ein Gesicht, oder ein Ventilator? Eigentlich sollte dieser Unterschied eindeutig sein. Und doch habe ich nun schon öfter neuronale Netzwerke in Aktion erlebt, die eine solche Unterscheidung treffen sollten – und scheiterten.

Sebastian Gerstl, Redakteur ELEKTRONIKPRAXIS: „Wir können nicht stetig Kinder vor Autos werfen, um den Fahrzeugen beizubringen, sie nicht zu überfahren.“
Sebastian Gerstl, Redakteur ELEKTRONIKPRAXIS: „Wir können nicht stetig Kinder vor Autos werfen, um den Fahrzeugen beizubringen, sie nicht zu überfahren.“
(Bild: Vogel Communications Group)

Keine Frage, der Einsatz künstlicher Intelligenz birgt enormes Potential, ob in autonomen Taxis, cleveren Smart-Home-Assistenten oder vollautomatischer Fließbandüberwachung. Dabei sollte es selbstverständlich sein, dass die dafür eingesetzte KI auch entsprechendes Training benötigt. Aber schon kleine Nachlässigkeiten beim Füttern des Netzwerkes können drastische Konsequenzen haben.

So stellte ein Team der NY Times beim Testen einer Gesichtserkennung fest, dass diese kaukasische Männer zu 99% richtig erkannte; bei afroamerikanischen Frauen waren es nur 35%. Der Grund: Der Algorithmus war überwiegend mit weißen, männlichen Gesichtern trainiert und getestet worden. Auch Erkennungsmerkmale müssen sorgfältig gewählt sein. Ein mir demonstriertes System zur Fahrerüberwachung weigerte sich etwa, mein Gesicht zu erkennen: Ich hatte meinen Bart nicht gestutzt, und das System konnte daher meine Oberlippe nicht finden.

Wenn wir zur Königsdisziplin der KI kommen, dem autonomen Fahren, werden die Auswirkungen besonders drastisch: Selbstfahrende Autos sollen, selbstverständlich, keine Kinder überfahren, die auf die Straße laufen. Aber wie können wir das Fahrzeug so trainieren, dass es ein 6-jähriges Mädchen, dass von links auf die Straße läuft, genauso behandelt wie einen 10-jährigen Jungen von rechts? Wie reagiert das Auto, wenn das Kind einen Hund dabei hat oder einem Ball nachläuft? Wir können nicht ständig kleine Kinder in neuen Szenarien vor heranfahrende Autos werfen, um den Fahrzeugen beizubringen, diese nicht zu überfahren.

Wie eine KI trainiert werden soll, über Umfang oder Methodik, damit werden wir uns weiter intensiv beschäftigen müssen. Selbst, wenn wir nur Gesichter von Ventilatoren unterscheiden wollen.

(ID:45370888)