NVIDIA erweitert seine Jetson-Familie um ein besonders kostengünstiges Modell für KI-Anwendungen. Der neue Jetson Orin Nano Super soll mit einem Preis von 249 US-Dollar die Einstiegshürde für Entwickler und kleinere Unternehmen deutlich senken.
Die kompakte Recheneinheit, die nicht größer als eine Handfläche ist, richtet sich gezielt an Entwickler von KI, Robotik und Computer Vision. Das ab sofort verfügbare System erreicht laut Hersteller eine um 70 Prozent höhere Rechenleistung von 67 INT8 TOPS. Die Speicherbandbreite wurde auf 102 GB/s erhöht, was einer Steigerung von 50 Prozent entspricht. Bei der KI-Inferenzleistung verspricht NVIDIA eine Verbesserung um den Faktor 1,7 gegenüber dem Vorgängermodell. Die KI-Inferenzleistung beschreibt, wie schnell und effizient ein System bereits trainierte KI-Modelle in der Praxis ausführen kann. Anders ausgedrückt: Es ist die Fähigkeit, aus einem trainierten Modell Schlüsse zu ziehen und Ergebnisse zu liefern.
Bei der Vorstellung des neuen Geräts überraschte NVIDIA-Gründer Jensen Huang mit einem ungewohnten Auftritt: Er präsentierte das kompakte Gerät auf einem Tablett – fast wie ein frisch gebackenes Produkt aus dem Ofen.
„Wir erreichen einen Wendepunkt, an dem generative KI endlich an der Edge ankommt“, erklärte Deepu Talla, NVIDIAs Vizepräsident für Robotik und Edge Computing. Mit „Edge“ sind dabei dezentrale Geräte in Fabriken und Laboren gemeint, im Gegensatz zu den großen Rechenzentren, in denen KI-Berechnungen bisher hauptsächlich stattfinden.
Obwohl der Jetson Orin Nano Super mit weniger fortschrittlichen Chips als NVIDIAs High-End-Produkte ausgestattet ist, soll er dennoch leistungsfähig genug sein, um aktuelle generative KI-Modelle ausführen zu können. Das teurere Modell Jetson Thor bleibt weiterhin für anspruchsvollere Anwendungen wie humanoide Roboter und komplexe Automatisierungssysteme vorgesehen.
Nvidia konzentriert sich hauptsächlich auf Großunternehmen und KI-Startups, die Milliarden in Hardware für das Training und den Betrieb ihrer KI-Modelle investieren. Mit der Jetson-Produktreihe verfolgt das Unternehmen nun jedoch einen anderen Ansatz: Diese günstigen Geräte richten sich gezielt an kleinere Firmen, Hobby-Entwickler und Studenten, die selbst KI-basierte Produkte entwickeln möchten.