Suchen

GSP: Edge-KI-Startup präsentiert erste Boards und Tools

| Redakteur: Sebastian Gerstl

Mit einem neuartigen Graph-Streaming-Prozessor will das kalifornische KI-Startup Blaize den Edge-Markt aufräumen. Nun hat das Unternehmen mit Xplorer und Pathfinder die ersten Produkte samt zugehörigen Entwicklungstools vorgelegt.

Firma zum Thema

KI-Startup Blaize will mit seiner GSP-Architektur den Edge-KI-Markt revolutionieren, nun hat es seine ersten Produkte enthüllt: Die Xplorer-PCIM-Karten (rechts) sowie das Pathfinder P1600 System-on-Module (links).
KI-Startup Blaize will mit seiner GSP-Architektur den Edge-KI-Markt revolutionieren, nun hat es seine ersten Produkte enthüllt: Die Xplorer-PCIM-Karten (rechts) sowie das Pathfinder P1600 System-on-Module (links).
(Bild: Blaize)

Edge AI-Startup Blaize hat die Marktverfügbarkeit für seine ersten Boards und Software-Tools rund um seinen Graph Streaming Processor (GSP)-Chip angekündigt. Diese speziell für Edge-KI-Anwendungen optimierte Prozessorarchitektur verspricht die Umsetzung industrieller Edge-KI-Anwendungen mit niedriger Latenz und geringem Stromverbrauch.

„Pathfinder“ System on Module und „Xplorer“ PCIe-Karten

Der GSP-Chip wurde in zwei nun verfügbaren Produkten implementiert: Einmal in Form einer System-on-Module (SoM)-Karte und einmal als PCI-Express-Karte. Diese werden mit einem Software-Entwicklungskit namens Picasso oder einem codefreien Tool namens AI Studio programmiert, dass Blaize ebenfalls zur Verfügung stellt. Die Latenzzeit für ein auf dem Chip laufendes KI-Framework soll unter 20 ms liegen, zudem kann der GSP nach Angaben des Herstellers fünf Frameworks gleichzeitig mit einer Gesamtlatenzzeit von weniger als 100 ms ausführen.

Laut Dinakar Munagala, Mitbegründer und CEO von Blaize, seien die aktuell verfügbaren Edge-Lösungen entweder in der Leistung zu schwach, um die bei Edge-KI-Berechnungen anfallenden Lasten zu verarbeiten, oder zu teuer, zu energiehungrig und zu schwierig in sinnvolle industrielle Lösungen zu implementieren. "Blaize KI-Edge-Computing-Produkte überwinden diese Einschränkungen hinsichtlich Leistung, Komplexität und Kosten, um die Einführung der KI am Geräte-Edge zu ermöglichen und die Migration von KI-Computing aus dem Rechenzentrum heraus an die Edge zu erleichtern“, sagt Munagala.

Das P1600 SoM, auch „Pathfinder“ genannt, ist auf Embedded-Systeme ausgerichtet. Neben der GSP enthält das System-on-Module einen ARM-Prozessor mit Videokodierung und -dekodierung sowie Kamera- und USB-Schnittstellen, so dass kein Host-Prozessor benötigt wird. Die Xplorer PCIe 3.0-Karten sind dagegen eher für Edge-KI-Server oder dedizierte Edge-KI-Geräte bestimmt. Das auch X1600E genannte Produkt ist eine Beschleunigerplattform mit kleinem Formfaktor für kleine und leistungsbeschränkte Umgebungen wie Lebensmittelgeschäfte oder Industrieanlagen. Der X1600P ist dagegen ein Standard-PCIe-basierter Beschleuniger in einem Formfaktor mit halber Höhe und halber Breite. Dieser kann auf acht Karten skaliert werden, die laut Hersteller insgesamt bis zu 64TOPS an KI-Inferenzleistung bieten sollen.

Software-Suite nach offenen Standards

Um die Entwicklung zu vereinfachen bietet Blaize eigene Softwaretools für die neuen Produkte an. Die Blaize AI-Software-Suite umfasst das Picasso Software Development Kit (SDK) und sowie das Blaize AI Studio, einer vollständig codefreien visuellen Schnittstelle. Ebenfalls enthalten sind Tools, die sich sowohl an traditionelle Entwickler als auch an KI-Experten ohne Programmiervorkenntnissen richten sollen. Die Suite basiert dabei auf offenen Standards wie beispielsweise Tensorflow oder PyTorch. So sollen Produktentwickler nicht an proprietäre Entwicklungsumgebungen gebunden sein.

Darüber hinaus verwenden beide Toolsets das sogenannte Blaize Netdeploy. Dabei handelt es sich um eine Reihe von Edge-Aware-Algorithmen, die es Entwicklern ermöglichen soll, eine möglichst optimale Genauigkeit und Leistung für ihre Edge-Implementierungen zu erzielen.

Als mögliche Kundenanwendungen führt Blaize folgende Beispiele auf:

  • Industrielle Anwendungen: Betrieb von fünf unabhängigen neuronalen Netzwerken mit 50 FPS und einer Gesamtlatenzzeit von weniger als 100 ms zur Überwachung der Posenerkennung und -position von Mensch und Roboter, der Produkt-ID und -anzahl sowie der Produktqualität.
  • Smart City: Drei unabhängige neuronale Netzwerke, die mit 50FPS laufen und die Erkennung von Menschen, Pose, Position, automatischer Erkennung und Sicherheit an Verkehrsknotenpunkten überwachen.
  • Sensor-Fusion: Hochauflösendes FHD-Video und Lidar/Radar-Sensorfusion, die als komplette graph-native Anwendung auf Blaize GSP läuft.
  • Deployment „auf der letzten Meile“: Sensorfusion von HD-Kameras bei 30FPS & Lidar/Radar mit weniger als 100ms Latenzzeit und weniger als 15W Leistung.
  • Einzelhandel: Vier unabhängige neuronale Netzwerke, die mit 50FPS laufen und die Erkennung von Personen, Position, Maske und Diebstahl zur Sicherheit im Geschäft und zur Produkterkennung überwachen.

Event-Tipp: intelligent edge conference

Die i-edge conference ist Deutschlands neue Entwicklerkonferenz und Networking-Plattform, die sich mit den Themen industrielle Edge, Machine Learning und Künstliche Intelligenz in Embedded Systemen befasst. Sichern Sie sich jetzt den Wissensvorsprung für eine neue Ära und melden sich zur ersten i-edge conference an.

Hier geht's zum Programm

Verfügbarkeit

Kundenmuster beider Produktlinien sind ab sofort erhältlich. Die volle Produktion wird voraussichtlich ab Q4 2020 beginnen. Der Blaize Xplorer X1600E ist für 299 US-$ bei Abnahmen in größerem Volumen erhältlich, der Blaize Xplorer X1600P für 999 US-$. Das System-on-Module Pathfinder P1600 soll in Industriequalität für 399 US-$ erhältlich sein.

(ID:46808558)