本篇文章更新時間：2026/01/16
如有資訊過時或語誤之處，歡迎使用 Contact 功能通知。
一介資男的 LINE 社群開站囉！歡迎入群聊聊～
如果本站內容對你有幫助，歡迎使用 BFX Pay 加密貨幣 或 新台幣 贊助支持。
內容目錄
Raspberry Pi AI HAT+ 2 值得買嗎？我的深度閱讀筆記與思考
編輯前言：這篇筆記源自 Jeff Geerling 的文章《Raspberry Pi’s new AI HAT adds 8GB of RAM for local LLMs》（原文連結）。作者親測 Raspberry Pi 最新推出的 AI HAT+ 2，並給出相當務實的觀點：新硬體更強，但用途其實還不明朗。
核心觀點
- Raspberry Pi AI HAT+ 2 搭載 Hailo 10H、8GB RAM，理論上能獨立跑 LLMs，但效能並不如預期。
- 對多數 LLM 任務來說，Pi 5 的 CPU 仍比 Hailo 10H 更快，最大瓶頸反而是 RAM 容量不足。
- 這塊板子更像是給開發者的「原型工具」，而非一般玩家需要的升級配件。
深入解析
作者一開始就指出，新款 AI HAT+ 2 的最大亮點是整合了 Hailo 10H NPU 以及 8GB LPDDR4X RAM。理論上，它能讓 LLM 完全在協同處理器上執行，騰出 Pi 5 本體的 CPU 與記憶體。但在實測中，事情完全不是這麼回事。
作者的總結言簡意賅：「It’s not as amazing as it sounds.」
1. LLM 效能並未勝過 Pi 5 CPU
作者把所有 Hailo 官方支援的模型，在 Pi 5（8GB）與 Hailo 10H 上做對比：
- Pi 5 CPU 整體效能全面勝出
- Hailo 10H 只有在 Qwen2.5 Coder 1.5B 這類特化模型上稍微接近
關鍵原因其實很務實：
- Pi 5 CPU 對應 10W 功耗
- Hailo 10H 只有 3W
功耗天花板直接限制了 NPU 的峰值表現。
2. 真正的瓶頸是：8GB RAM 不夠跑中型模型
即使 NPU 能帶來推理加速，但 LLM 的實際體驗更依賴 RAM 上限。作者也示範，只有 Pi 5 的 16GB 版本 才能硬塞進像 Qwen3 30B 這類壓縮後的中型模型。
8GB 的 AI HAT+ 2 在這點上毫無優勢。
3. 電腦視覺仍然是 Hailo 系列的主場
作者實測 Raspberry Pi 官方提供的電腦視覺模型：
- 辨識快速、準確
- 比 Pi 5 CPU 快上約 10 倍
但問題來了：
- 原本的 AI HAT（$110） 或 AI Camera（$70） 就能做到
- 新模型的「混合模式」（同時跑 vision + LLM）作者測試時全數失敗，還出現 segmentation fault
這意味著：AI HAT+ 2 的主打功能目前還不可靠。
筆者心得與啟發
讀完這篇文章，我最大的感想是：AI 加速硬體的發展速度已經跑得比應用需求還快太多。很多時候，看起來亮眼的規格並不代表真能解決使用者的真實需求。
AI HAT+ 2 就是典型例子：
- 它能跑 LLM，但不比 Pi 5 CPU 更快
- 它有 8GB RAM，但仍不足以支撐主流模型
- 它能做視覺，但舊產品就做得很好
作者那句話讓我印象很深：這硬體 “feels like it’s meant for development, rather than as a total solution”。
換句話說，這更像是一塊給開發者的模組化開發板，而不是給一般玩家的 AI 加速魔法武器。
如果你是：
- 體積受限的 IoT 設備開發者
- 想實驗 Hailo 10H NPU 的工程師
- 需要在極低功耗下跑 vision + inference
那 AI HAT+ 2 是有其價值的。但若你只是想在 Pi 上跑 LLM、玩 edge AI，那我會建議：
- 直接上 Pi 5 16GB
- 視覺任務搭配 AI Camera 或舊 AI HAT
在產品與應用尚未清晰前，這會是更務實的選擇。