解放你 Mac 裡的隱藏版 AI：閱讀 apfel 專案後的深度筆記

本篇文章更新時間：2026/04/04
如有資訊過時或語誤之處，歡迎使用 Contact 功能通知或向一介資男的 LINE 社群反應。
如果本站內容對你有幫助，歡迎贊助支持 。

解放你 Mac 裡的內建 AI：apfel 的突破與可能性

副標題：原來 macOS 26 已內建 LLM，只是 Apple 沒讓你用——apfel 做到了

編輯前言：如果你以為在 Mac 上使用 AI 一定得上雲端、付訂閱或 API 費用，那這篇內容會徹底改變你的認知。本文靈感來源為專案頁面：apfel - Free AI on Your Mac。

核心觀點 (Key Takeaways)

• apfel 讓你能直接使用 macOS 內建的 on-device LLM，不需 API key、不需連網、完全免費。
• 提供 CLI、OpenAI API server、互動式 chat 三種使用方式，直接支援現有 OpenAI 生態系。
• 它不是替代品，而是把 Apple 已經提供、但原本僅供 Siri 使用的模型真正釋放給所有開發者。

深入解析

在 macOS 26（Tahoe）之後，每台 Apple Silicon Mac 都已經內建了一個大約 3B 參數的語言模型。它原本被鎖在 Siri 與 Writing Tools 裡，開發者只能透過 FoundationModels API 在 Swift 裡使用——換句話說，一般人幾乎無法在日常工作中直接調用它。

apfel 的存在就是為了改變這件事。

原文提到：「The AI is already installed on your Mac. Apple ships it with macOS. apfel just gives you a way to talk to it.」

這句話直接打中我，因為 apfel 不是安裝模型，而是啟用本來就在你 Mac 裡的東西。整個架構就像是：

• Apple 提供模型（但藏起來）
• FoundationModels.framework 提供 API（但門檻高）
• apfel 建立操作層：CLI、HTTP server、chat
• 最終你可以用 curl、OpenAI SDK、shell script 直接調用

強大的三種使用方式

• UNIX CLI 工具：透過 stdin/stdout 工作，管道相容。任何能 pipe 的東西都能接。
• OpenAI 兼容 HTTP 伺服器：跑在 localhost:11434，可以直接接上所有 OpenAI SDK 與前端框架。
• 互動式聊天模式：提供 trimming、系統 prompt、context 管理。

實務上，只要：

apfel --serve

你就讓你的 Mac 變成一台本地的 OpenAI 替身。

Apple 內建模型的限制

apfel 並沒有神話化這個 LLM，它老實指出：

• 4,096 token 的 context window
• 只能用一個固定模型（不能更換）
• 單機性能依你的 Mac 規格決定

但坦白說，免費、隱私、安全、低延遲，這幾點已經彌補了很多限制。

一些特別有趣的工具

apfel 內建了幾個非常工程師取向的小工具：

• cmd：自然語言轉 shell command
• oneliner：把英文描述轉成 awk/sed 管線
• explain：解釋任何指令或錯誤訊息
• wtd：快速理解某個程式碼目錄在做什麼
• gitsum：總結最近 git commit

這些工具充分體現了「AI 就在終端裡」的願景。

筆者心得與啟發

讀完這篇介紹後，我最大的一個感受是：

AI 的下一步並不是越來越多雲端服務，而是重新回到本機。

apfel 讓我意識到，Apple 早已把一個完整的 LLM 放進我們的電腦，只是沒有提供操作方式。這就像買了一台超跑，但方向盤被鎖住。apfel 的角色就像那把解鎖的鑰匙。

對開發者而言，這帶來幾個很直接的啟發：

• 開發工具、shell script、自動化流程，可以開始內建 AI 功能，而不需依賴雲端。
• 資安敏感的環境（企業內網、研究機構）終於能在不連網的情況下使用 LLM。
• 本地模型的效能會隨著下一代 Apple Silicon 自然升級，這是非常強的長期優勢。

如果你常用終端機、寫自動化腳本或開發工具，apfel 很可能會是接下來最值得關注的生態系之一。它解放的不只是 Apple 的模型，更是本機 AI 的整個想像空間。