Steckkarten Mit KI-Beschleunigerkarte Coral Edge TPU nachrüsten

Redakteur: Margit Kuther

Mit der Beschleunigerkarte Mustang-T100-T5 können Anwender bestehende Systeme um leistungsstarke KI-Funktionen erweitern.

Firma zum Thema

Mustang-T100-T5: Die Ki-Beschleunigerkarte frischt alte Systeme auf.
Mustang-T100-T5: Die Ki-Beschleunigerkarte frischt alte Systeme auf.
(Bild: ICP Deutschland)

Auf der Mustang-T100-T5 (Vertrieb: ICP Deutschland) bieten fünf Coral Edge TPU von Google die Möglichkeit, gleichzeitig bis zu fünf unterschiedlich KI Tasks auszuführen. Die Performance jeder TPU (Tensor Processing Unit) spricht für sich. 4 Billionen Rechenoperationen pro Sekunde bei 2 Watt Stromverbrauch pro TPU, 2 TOPS pro Watt, im gesamten nach Adam Riese bis zu 20 TOPs bei 15 Watt Stromverbrauch der Karte. Anstatt bestehende Systeme durch neue zu ersetzen können diese mit der Mustang-T100-T5 nachhaltig aufgerüstet werden.

Die fünf Coral Edge TPUs finden Platz auf einer Low-Profile-PCI-Express-Karte mit halber Höhe und halber Länge. In bestehenden Systemen mit PCI Express x4 Slot lässt sich die Mustang-T100 dadurch einfach integrieren. Unterstützt werden neben x86-Plattformen auch ARM-Plattformen, neben Windows-Betriebssystemen auch Linux. Das Aufrüsten bestehender Systeme ermöglicht so eine längere Laufzeit und eine Reduzierung des CO²-Fußabdrucks.

Das einfache Implementieren eines KI-Modells wird durch Tensorflow Light garantiert. Systeme mit Mustang-TPU bieten fortan parallele Multitasking-Funktion mit der pro TPU ein eigenes KI-Modell berechnet werden kann. Kürzere Latenzzeiten können durch das Model Pipelining erzielt werden. Das KI-Modell wird dadurch in Segmente aufgeteilt, um die Berechnung parallel auf jeder TPU auszuführen und so die Gesamtrechenzeit zu reduzieren.

AutoML Vision Edge beschleunigt durch Verwendung der TPUs das Transfer-Learning, das Ausführen vortrainierte Modelle direkt auf dem System. Durch Transfer-Learning und das Optimieren des Systems mit einem kleinen Datensatz, wird die Genauigkeit erhöht und die Trainingszeit deutlich verringert. Bildklassifizierung, Objekterkennung und Bildsegmentierung sind beispielsweise Anwendungen für die Mustang-T100.

(ID:47699763)