超級比一比:Google Coral Edge TPU v.s. NVIDIA Jetson Nano

找到一篇關於 Google Coral Edge TPU 與 NVIDIA Jetson Nano 的硬體規格比較,取得作者同意之後翻譯刊載。原文 [ Google Coral Edge TPU Board Vs NVIDIA Jetson Nano Dev board — Hardware Comparison ,作者 Manu Suryavansh ],以下是翻譯後文章:


    NVIDIA 與 Google 兩家公司最近都針對 邊緣人工智能 (Edge AI) 推出了自家的開發板,並且把價格降到相當不錯的區間來吸引開發者、maker 與業餘玩家。兩款板子的主要用途都在於推論,但在一定程度上也能做到 transfer learning re-training。Google Edge TPU 透過 weight imprinting 技術來支援 transfer learning training。兩者都具備了 SOM (System-on-Module),具備各式接頭:USB、Ethernet 與 microSD 卡槽等。本文為兩款開發板的硬體比較,但請注意是以單板電腦的角度而非 USB 加速棒 (Edge TPU USB)。

    如果沒時間整篇讀完的話,可以先做個結論:我個人認為就價格來說,Coral Edge 開發板較有優勢且包含了必要的通訊功能 (Wi-Fi / 藍牙),但就軟體支援性(INT8 與 FP16 推論) 來說,Jetson Nano 是比較好的。

Coral Edge TPU 開發板

    開發板尺寸為  88 x 60 x 22 mm,而 SOM (USB 加速棒) 的大小只有  48 x 40 x 5 mm。所以使用者可以自行設計不同大小的基板,再外接 SOM 即可。開發板上有 u-boot bootloader,而USB加速棒則可載入類似 Mendel linux 的映像檔

Coral SOM 上的 NXP iMXM 處理器還有一個 Vivante GC7000 lite graphics GPU ,不過,可以用在圖像以外的事情上嗎?目前未知。

圖片來源: https://coral.withgoogle.com/products/dev-board/

NVIDIA Jetson Nano 開發板

    與 coral開發板類似 (在基板上加裝 SOM),Jetson 的 SOM 稍微大了點: 69.6  x 45 mm。這片板子是以 Ubuntu 18.04 作為預設的作業系統。

硬體規格比較

效能

Nvidia原廠提供了與其他SBC (例如 Raspberry Pi 3、Pi 3 + Intel NCS2 加速棒、Google Coral Edge TPU板) 的效能比較:https://devblogs.nvidia.com/jetson-nano-ai-computing/

資料來源: https://devblogs.nvidia.com/jetson-nano-ai-computing/

註:阿吉老師補充另一份NVIDIA的原廠資料,大家可以比較一下:

Coral Edge TPU 開發板的資料不太多,因為它無法執行未經 quantization aware training 的預先訓練模型。以上表格中,Jetson 採用 FP16 precision。其他參考資料:

結論

我個人偏好 Coral Edge TPU 開發板,原因在於:

  1. Coral dev board 售價 $149 美金,比 Jetson Nano ($99) 來得貴一點,但前者有 Wi-Fi 與Bluetooth,而 Jetson Nano 都沒有要另外買 Wi-Fi dongle才行。.
  2. coral board 上的 NXP iMX8 SOC 具備 Video processing unit 與 Vivante GC700 lite GPU,可進行傳統的影像與影片處理。 coral board 還有一顆 Cortex-M4F 低功耗微處理器,可用於連接其他感測器,例如溫度、環境光感測器等等。更多可用感測器請參考 — http://lightsensors.blogspot.com/2014/09/collection-of-various-sensors.html
  3. Jetson nano也有影像編碼器與解碼器,對於其他深度學框架 (例如Pytorch, MXNet) 的支援程度也較好,它還支援 NVidia TensorRT 加速器函式庫來進行 FP16 推論與 INT8 推論。Edge TPU board 只支援 8位元 quantized Tensorflow lite 模型,且必須用到 quantization aware training

我喜歡在各類邊緣裝置上進行深度學習應用,歡迎看看我的專題

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *