在耶誕節前夕佔據 AI 界硬體幾乎整片江山的 NVIDIA CEO 黃仁勛以影片方式宣布正式推出體積小巧的新款生成式 AI 超級電腦:Jetson Orin Nano Super 開發者套件,並透過軟體升級的方式,以更低價格提供更高效能。
耶誕前夕 NVIDIA CEO 黃仁勛親自推出僅要八千台幣的生成式 AI 超級電腦
新款 NVIDIA Jetson Orin Nano Super 開發者套件僅手掌大小,不論是商業AI開發人員業餘者與學生,都可以享受到更棒的生成式AI功能和更高的效能。價格也從499美元降至249美元。
與前代產品相比, NVIDIA Jetson Orin Nano Super 能夠將生成式AI的推論效能提高1.7倍、運算效能提高70%至67 INT8 TOPS,記憶體頻寬加大50%至每秒102 GB。
Jetson Orin Nano Super 支持多種熱門的生成式 AI 模型,對於已經擁有 Jetson Orin Nano 的用戶,透過軟體更新可以提升運行生成式 AI 的效能。無論是使用檢索增強生成技術來建立LLM聊天機器人、建立視覺AI代理,還是部署AI機器人,Jetson Orin Nano Super都是理想的解決方案。
源源不絕的好禮
Jetson Orin Nano Super適合有興趣發展生成式AI、機器人或電腦視覺技能的人士使用。隨著AI世界正從特定任務模型朝著基礎模型的方向轉變,它也提供了一個容易使用的平台,能夠協助將想法轉化成現實。
Jetson Orin Nano Super 擁有運行生成式 AI 的強大效能
Jetson Orin Nano Super 更強大的運算效能能夠運行各種熱門的生成式 AI 模型和以 transformer 為基礎的電腦視覺。
開發者套件包含一個Jetson Orin Nano 8GB系統模組(SoM)與一個參考設計載板,提供開發邊緣AI應用原型的理想平台。
這個SoM搭載 NVIDIA Ampere 架構GPU及Tensor核心,以及6核心Arm CPU,能夠同時運行多個AI應用管道與進行高效能推論作業。它最多可支援四具攝影機,提供比過去版本更高的解析度與幀率。
廣泛的生成式AI軟體生態系與社群
Jetson能夠執行NVIDIA AI軟體,包括用於機器人的NVIDIA Isaac、用於視覺 AI 的NVIDIA Metropolis,以及用於處理感應器資料的NVIDIA Holoscan。使用NVIDIA Omniverse Replicator來產生合成資料,以及使用用於微調 NGC 目錄裡預先訓練好的 AI 模型的 NVIDIA TAO Toolkit可縮短開發時間。
Super模式讓所有Jetson Orin獲得更佳效能
Jetson Orin NX 與 Orin Nano 系列系統模組同樣能夠藉由軟體更新服務,將運行生成式 AI 的效能提高 1.7 倍。現有的 Jetson Orin Nano 開發者套件用戶可立即升級JetPack SDK以釋放更強大的效能。
更多詳細資訊可以看 NVIDIA 的官方影片(記得開cc字幕):