Dilemma beim KI-Training: Wann ist gründlich gründlich genug?

| Redakteur: Sebastian Gerstl

Sebastian Gerstl, Redakteur ELEKTRONIKPRAXIS: „Wir können nicht stetig Kinder vor Autos werfen, um den Fahrzeugen beizubringen, sie nicht zu überfahren.“
Sebastian Gerstl, Redakteur ELEKTRONIKPRAXIS: „Wir können nicht stetig Kinder vor Autos werfen, um den Fahrzeugen beizubringen, sie nicht zu überfahren.“ (Bild: Vogel Communications Group)

Ist es ein Gesicht, oder ein Ventilator? Eigentlich sollte dieser Unterschied eindeutig sein. Und doch habe ich nun schon öfter neuronale Netzwerke in Aktion erlebt, die eine solche Unterscheidung treffen sollten – und scheiterten.

Keine Frage, der Einsatz künstlicher Intelligenz birgt enormes Potential, ob in autonomen Taxis, cleveren Smart-Home-Assistenten oder vollautomatischer Fließbandüberwachung. Dabei sollte es selbstverständlich sein, dass die dafür eingesetzte KI auch entsprechendes Training benötigt. Aber schon kleine Nachlässigkeiten beim Füttern des Netzwerkes können drastische Konsequenzen haben.

So stellte ein Team der NY Times beim Testen einer Gesichtserkennung fest, dass diese kaukasische Männer zu 99% richtig erkannte; bei afroamerikanischen Frauen waren es nur 35%. Der Grund: Der Algorithmus war überwiegend mit weißen, männlichen Gesichtern trainiert und getestet worden. Auch Erkennungsmerkmale müssen sorgfältig gewählt sein. Ein mir demonstriertes System zur Fahrerüberwachung weigerte sich etwa, mein Gesicht zu erkennen: Ich hatte meinen Bart nicht gestutzt, und das System konnte daher meine Oberlippe nicht finden.

Wenn wir zur Königsdisziplin der KI kommen, dem autonomen Fahren, werden die Auswirkungen besonders drastisch: Selbstfahrende Autos sollen, selbstverständlich, keine Kinder überfahren, die auf die Straße laufen. Aber wie können wir das Fahrzeug so trainieren, dass es ein 6-jähriges Mädchen, dass von links auf die Straße läuft, genauso behandelt wie einen 10-jährigen Jungen von rechts? Wie reagiert das Auto, wenn das Kind einen Hund dabei hat oder einem Ball nachläuft? Wir können nicht ständig kleine Kinder in neuen Szenarien vor heranfahrende Autos werfen, um den Fahrzeugen beizubringen, diese nicht zu überfahren.

Wie eine KI trainiert werden soll, über Umfang oder Methodik, damit werden wir uns weiter intensiv beschäftigen müssen. Selbst, wenn wir nur Gesichter von Ventilatoren unterscheiden wollen.

Kommentar zu diesem Artikel abgeben

Schreiben Sie uns hier Ihre Meinung ...
(nicht registrierter User)

Zur Wahrung unserer Interessen speichern wir zusätzlich zu den o.g. Informationen die IP-Adresse. Dies dient ausschließlich dem Zweck, dass Sie als Urheber des Kommentars identifiziert werden können. Rechtliche Grundlage ist die Wahrung berechtigter Interessen gem. Art 6 Abs 1 lit. f) DSGVO.
Kommentar abschicken
copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Infos finden Sie unter www.mycontentfactory.de (ID: 45370888 / KI/Machine Learning)