Vertrauenswürdige KI KI-Spin-Off der ETH Zürich erhält 2,8 Mio. US-$ Risikokapital

Redakteur: Sebastian Gerstl

Das Startup LatticeFlow hat sechs Monate nach seiner Ausgründung aus der ETH Zürich 2,8 Millionen US-​$ von zwei Risikokapitalgebern eingefahren. Damit wolle man die „ambitionierte Vision“ vorantreiben, KI verlässlich und vertrauenswürdig zu machen.

Firmen zum Thema

Ein Beispiel für die falsche Erkennung eines Fahrassistenzsystems. Das KI-Startup LatticeFlow, ein Spin-Off der ETH Zürich, verbessert KI-Modelle, um Vertrauen in eine verlässliche Künstliche Intelligenz für Anwendungen wie Autonomes Fahren zu schaffen.
Ein Beispiel für die falsche Erkennung eines Fahrassistenzsystems. Das KI-Startup LatticeFlow, ein Spin-Off der ETH Zürich, verbessert KI-Modelle, um Vertrauen in eine verlässliche Künstliche Intelligenz für Anwendungen wie Autonomes Fahren zu schaffen.
(Bild: LatticeFlow)

Die Entwicklung künstlicher Intelligenz hat im vergangenen Jahrzehnt große Fortschritte gemacht. Doch im produktiven Einsatz außerhalb der sicheren Forschungsumgebung überfordern die realen Bedingungen die KI-​Modelle häufig noch. So kann es zu Fehlern und unerwünschtem Verhalten der Anwendungen kommen. Ein Beispiel ist ein Fahrassistenzsystem, das ein Stoppschild wegen einer schwierigen Lichtsituation nicht erkennt, etwa wenn die Sonne die Kamera blendet oder weil das Stoppschild mit verschiedenen Beschriftungen versehen ist.

Spin-Off zur Verbesserung von KI-Modellen

„Unsere Mission ist es, diese Lücke zu schließen und es Unternehmen zu erlauben, vertrauenswürdige KI zu entwickeln und einzusetzen“, sagt CEO und Co-​Gründer Petar Tsankov. Deshalb entwickelt das Spin-​off ein Produkt, mit dem die Robustheit und Zuverlässigkeit von KI-​Modellen bewertet, Informationen zu deren Verbesserung bereitgestellt und Sicherheit gewährleistet werden können. „Der erste Schritt zur Verbesserung der Verlässlichkeit von KI-​Modellen ist die Fähigkeit, Modelle während der Entwicklung und dem Einsatz umfassend zu beurteilen“, sagt Co-​Gründer und CTO Pavol Bielik. 

Die Informatik-​Professoren Martin Vechev und Andreas Krause haben das Unternehmen mitgegründet und befassen sich am ETH AI Center mit der Erforschung und Entwicklung der Grundlagen vertrauenswürdiger KI-​Technologien. Das von Professor Vechev und seinem Team entwickelte ERAN System zum Beispiel hat im vergangenen Jahr einen Wettbewerb zum Thema Zertifizierung der Sicherheit künstlicher Intelligenz gewonnen, und dabei Teams von MIT, Oxford, Imperial College London, UIUC und anderen übertroffen. „Mit dem Spin-​off wollen wir den Transfer der an der ETH entwickelten Technologie in die Industrie ermöglichen“, erklärt Krause, Vorsteher des ETH AI Centers.

Verschiedene Institutionen wie etwa die SBB, die US-​Armee und das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) arbeiten bereits mit LatticeFlow. Ilir Fetai and Andre Roger, Leiter des Kompetenzzentrums für Machine Perception der SBB kommentieren: „Maschinelles Lernen (ML) ist ein zentrales Thema für die SBB, da wir ein großes Potenzial in dessen Einsatz zur verbesserten, intelligenten und automatisierten Überwachung unserer Bahn-​Infrastruktur sehen. Das Projekt zum Thema robuste und zuverlässige KI mit LatticeFlow, ETH, und Siemens spielt dabei eine wichtige Rolle darin, die Vorteile von ML erfolgreich zu realisieren.“ Mit den neu eingebrachten finanziellen Mitteln will LatticeFlow nun die Entwicklung seines Produktes vorantreiben.

Originalmeldung auf ETH News vom 20.01.2021.

(ID:47084937)