Bring AI to the edge ! NVIDIA Jetson AGX ORIN 邊緣運算開發套件

前言

Bring AI to the edge ! NVIDIA Jetson AGX ORIN 平台作為新一代的邊緣運算平台,在去年公布之後,終於在本次 GTC2022 公布了開發套件。Jetson AI 大使阿吉老師表示非常期待~  先置入行銷一下 CAVEDU 在 Jetson 平台上的成果,由左到右分別為我們特製的 JetRacer / Jetbot、AI 大使證書、專訪頁面以及課程紀錄照片


好的,進入正題。根據 NVIDIA 執行長黃仁勳先生在 GTC2022 keynote表示,機器人是下一個 AI 大放異彩的領域 (當然影片中還提到元宇宙等等更多內容,千萬別錯過)。本文主要在介紹最新的 Jetson NVIDIA Jetson AGX ORIN 平台,在 NVIDIA DRIVE 自動駕駛平台上也扮演了非常重要的角色喔!來看看相關發展吧。

從 2014 年的 Jetson Tk1 開始,Jetson 系列就希望把更強大的運算能力帶到物聯網的終端,CAVEDU 從 2019 年的 Jetson Nano 加入這輛高速列車,一路也做了不少成果喔!(參考 [活動紀錄] 2021 RK-Jetbot機器學習道路識別競賽-中區邀請賽相關文章

Jetson 系列對機器人與邊緣AI帶來了重大的衝擊與影響,當然也有賴於上下游生態系的整合

Jetson 生態系夥伴目前已經超過130家以上 (希望有一天可以在這裡看到 CAVEDU)

除了硬體效能不斷提升之外,這一切也多虧了軟體面的不斷進步:包含 AI 模型開發、應用程式框架以及 Jetpack SDK

對於 AI 模型來說,如何更快訓練、更泛用以及更高效能一直都是努力的目標。

針對不同領域,NVIDIA 也推出了對應的 AI 加速應用,除了一般開發用電腦之外,當然也可以部署在 ORIN 等邊緣運算平台上

完整的軟體支援,正是 Jetson 強大的秘密。您可以參考 TAO 工具包,代表 Train, Adapt 與 Optimize。可將各種預訓練模型應用於邊緣雲算裝置上。

新一代的機器人需要更多感測器、更高一級的應用,當然也需要更強大的運算能力來支撐!

好了!主角登場,Jetson AGX ORIN 開發套件,規格請看下圖,簡單說就是 “邊緣端的伺服器等級AI效能“,也就是本文主題 Bring AI to the Edge。

相比 Jetson AGX Xavier,ORIN 效能當然強大更多了,視覺、對話以及任何AI模型都能部署並運行於 ORIN 上。

開發套件會有以下內容,開箱文很快就來了,敬請期待喔!

參考資料

相關資訊感謝 NVIDIA 原廠提供,ORIN 平台詳細資料請參閱 https://developer.nvidia.com/sites/default/files/akamai/Jetson_AGX_Orin_Developer_Kit_RG.pdf

也請參考 NVIDIA blog [NVIDIA 宣布推出全新 Jetson AGX Orin 機器人電腦,為未來的邊緣人工智慧與自主機器開拓發展之路]

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。