Az NVIDIA bejelentette a Jetson Orin Nano Super névre keresztelt fejlesztői készletét, amelyet mesterséges intelligencia-alapú alkalmazásokhoz, például robotikához, vizuális ügynökökhöz és beszélgetési AI-megoldásokhoz terveztek. A 249 dolláros (kb. 97 000 Ft) árú eszköz kiemelkedő, 67 trillió művelet másodpercenkénti (TOPS) feldolgozási kapacitást nyújt, amely 70%-kal nagyobb, mint a korábbi Jetson Nano modell teljesítménye.
🚨 NVIDIA Introduces Jetson Nano Super
> compact AI computer capable of 70-T operations per second
> designed for robotics, it supports advanced models, including LLMs, and costs $249 pic.twitter.com/hVoTSvSupB
— Haider. (@slow_developer) December 17, 2024
Jelentős hardverfejlesztések a Jetson szériában
A Jetson Nano sorozatot az NVIDIA először 2019-ben vezette be, mint elérhető árú AI-fejlesztői eszköz. Az új Jetson Orin Nano Super a korábbi modellekhez képest jelentős hardveres előrelépéseket kínál:
- 67 TOPS feldolgozási teljesítmény a korábbi 40 TOPS-hoz képest,
- 50%-kal nagyobb memória-sávszélesség: 102 GB/s,
- új energiaellátási mód, amely tovább fokozza a GPU, a memória és a processzor teljesítményét.
A készlet tartalmaz egy referenciaplatformot és egy Jetson Orin Nano modul rendszert, amely egy Nvidia Ampere architektúrájú GPU-t, tensor magokat és egy 6-magos ARM processzort foglal magába.
Széleskörű MI-modell kompatibilitás
Az eszköz kompatibilis számos modern MI-modelllel, beleértve a nagyméretű nyelvi modelleket (LLM-eket), vizuális nyelvi modelleket (VLM-eket) és transzformátorokat (ViT). Az NVIDIA külön kiemelte, hogy az eszköz képes akár 8 milliárd paraméterrel rendelkező modellek, például a Meta Llama-3.1-8B futtatására.
Az NVIDIA elmondása szerint a hardver teljesítménye tovább javulhat egy jövőbeli szoftverfrissítés által, amelyet az eredeti Orin Nano modellekre is elérhetővé tesznek.
Kompakt méret, nagy lehetőségek
Az új Jetson Orin Nano Super kis mérete ellenére komoly erőforrásokat biztosít fejlesztőknek és kutatóknak, akik megfizethető, mégis nagy teljesítményű megoldásokat keresnek az AI és robotika terén. Az eszköz 2024 elején kerülhet a piacra.
