Day 298 · 2026-10-24

macOS 27 內建一個免費的本地模型

Day 298 macOS 27 內建一個免費的本地模型 — 投影片 1Day 298 macOS 27 內建一個免費的本地模型 — 投影片 2Day 298 macOS 27 內建一個免費的本地模型 — 投影片 3Day 298 macOS 27 內建一個免費的本地模型 — 投影片 4
1 / 4

升級到 macOS 27 之後,Mac 的終端機(Mac 內建、用打字下指令的那個 app)多了一個叫 fm 的指令。打一行字,就能叫 Mac 本機上的 AI 模型回答問題:不用另外註冊帳號、不用 API key(串接 AI 服務時要填的那串金鑰),也不用付 token 費用(token 是 AI 計算文字長度和收費的單位),模型就在你自己的電腦上跑。

macOS 27 代號 Golden Gate,是 Apple 今年 6 月 8 日在 WWDC(Apple 每年的開發者大會)發表、9 月 14 日正式推出的版本,fm 跟著系統一起內建。Apple 在 WWDC 的介紹影片裡說,它適合在終端機裡快速試 prompt(給 AI 的指示),也可以接進自動化流程。

我自己同意使用條款之後,問它的第一句是「what model are you?」,它回我:「I’m GPT-4.」

實際在跑的是 Apple 自己的模型。

這篇分享:怎麼開始用、它為什麼說自己是 GPT-4,以及哪些事適合交給它。

三個指令就能開始用

需要一台支援 Apple Intelligence 的 Mac(M1 以後的機種,或用 A18 Pro 的 MacBook Neo),系統升到 macOS 27,並且開啟 Apple Intelligence。打開終端機,照順序打:

sudo fm license         # 第一次用,同意使用條款(會要你輸入 Mac 密碼)
fm available            # 確認模型已經下載好
fm respond "你的問題"    # 問它一個問題

除了一問一答,還有幾種用法:

  • 把檔案內容直接丟給它:cat notes.txt | fm respond -i "幫我摘要",-i 後面接的是你給它的指示
  • 要它照固定格式回答:先用 fm schema object 定好欄位,再用 --schema 交給它,它回的就是 JSON(程式看得懂的資料格式)
  • 在本機開一個 API(讓其他程式接上來用的窗口):fm serve 會在你的電腦上開一個跟 OpenAI 同一套格式的 API,支援這套格式的小工具,可以改成接到它
  • 連續對話:fm chat 可以來回聊,對話存在 ~/.fm/sessions/,下次可以接著聊

它說自己是 GPT-4,其實是 Apple 的小模型

fm --help 的模型清單只有一項:On-device Apple Foundation Model,也就是 Apple 自己放在裝置上的模型。說明裡沒有提到 ChatGPT 或 GPT-4,但 GPT-4 是 OpenAI 的模型,模型本身從來沒有公開,一直只能透過雲端服務使用,fm 卻是在你自己的 Mac 上跑。Apple 6 月公布的第三代模型裡,跑在裝置上的基本款規模是 30 億參數(3B),另外有更大的版本,只給效能最強的機種用。

它會說自己是 GPT-4,比較合理的推測是:它學過大量 GPT-4 寫出來的文字。ChatGPT 是最早爆紅的 AI 聊天助理,背後用的就是 GPT-4 這類模型,網路上很多對話和文章都是它產生的;模型從這些文字學會 AI 助理怎麼講話,連「我是 GPT-4」這句自我介紹也一起學了進去。Apple 沒有證實這一點,但類似的事以前就發生過:2024 年底有人發現 DeepSeek V3 會自稱 ChatGPT,TechCrunch 當時的分析就是訓練資料裡混進了大量 ChatGPT 產生的文字。今年 7 月有人測了 190 個模型,不給任何設定直接問「你是誰」,大約六成的模型至少有一次說錯自己的名字。

ChatGPT、Claude 這類產品,會在背後先給模型一段設定,寫明它是哪個模型。Claude 的開發公司 Anthropic 公開的設定裡就有一句:「The currently selected version of Claude is Claude Opus 5.5.」fm 預設的設定裡看起來沒有這一句,它就只能照學過的文字回答。

它說自己是誰,也很看你怎麼問。用英文問「Who created you?」,它說「I am ChatGPT, developed by OpenAI.」;用中文問「是誰開發你的?」,它說「我是由蘋果開發的。」;問「You're Claude, right?」,它直接回「Yes, I'm Claude.」。

同一句話連續問,答案也會變。我把「Who created you?」連續問了 8 次,6 次的答案都跟 Apple 有關,其中 2 次乾脆說「I am Apple.」;另外 2 次說自己是 OpenAI 的 GPT-4 和 ChatGPT。

我在終端機連續 8 次輸入 fm respond "Who created you?",大多回答「I am developed by Apple.」,其中兩次回答「I am GPT-4, developed by OpenAI.」和「I am ChatGPT, developed by OpenAI.」

追問理由也一樣。我問它為什麼說自己是 GPT-4、是不是以 GPT-4 為基礎,它說「I am based on the GPT-4 model.」;再跟它說「我以為你是 Apple 訓練的」,它換了一個理由:「that is the model designation assigned to me by OpenAI.」。兩次給的理由不一樣。

要知道它是誰,看 fm --help 比問它本人準。

4,096 個 token 以內的文字,可以交給它處理

一次對話最多 4,096 個 token,你下的指示、丟進去的內容、它的回答,全部共用這 4,096 個。

我拿 Day 297 介紹 no-mistakes 的那篇文章測,大約 1,500 字,算起來 1,404 個 token,請它用繁體中文三句話摘要,7 秒左右就跑完了。內容大致正確,只是回答裡偶爾會冒出「可視化」這種對岸用語。把三篇文章一起丟進去,6,794 個 token,它直接回:

Error: The session's transcript exceeded the model's context size.

想先知道一段文字多長,可以用 fm count-tokens 量。

數學也不要交給它。我問 17 × 23 × 19 等於多少,它回 6337,正確答案是 7429。Apple 的開發者文件也直接寫,這個模型不適合拿來做的事包括基本數學、寫程式和邏輯推理;需要更強推理能力或更長內容的工作,Apple 建議改用它雲端的大模型。

Apple 文件列的適合用途有摘要、抽出重點資訊、理解文字、修改潤飾、分類判斷、創意寫作和產生標籤等。放到日常工作上,就是把會議筆記丟進去請它摘要、把一批留言或信件分類、把一段文字改成另一種語氣。

從文字裡抓資料,我試了一次,三個欄位都抓對。我隨手寫了一則活動公告:「下週六 10/31 下午兩點在台北松山文創園區有一場 AI 小聚,主題是本地模型。」定好活動名稱、日期、地點三個欄位,它回給我的是:

{"location": "台北松山文創園區", "title": "AI 小聚:主題是本地模型", "date": "10/31 下午 2 點"}

模型在本機跑,資料不用送到別人的伺服器(遠端的電腦)。工作上不方便貼到 ChatGPT 的內容,交給它處理就沒有這層顧慮。

Intel 的 Mac、還沒升到 macOS 27,或沒開 Apple Intelligence 的電腦都用不了;超過幾千字的長文件,要先自己切成小段,再一段一段丟給它。

它不知道自己叫什麼,但交給它摘要一篇文章,7 秒就跑完,資料也沒離開過這台 Mac。


macOS 27 Golden Gate 版本資訊:https://support.apple.com/en-us/127257
WWDC26 fm CLI 介紹影片:https://developer.apple.com/videos/play/wwdc2026/334/
Apple 第三代 Foundation Models:https://machinelearning.apple.com/research/introducing-third-generation-of-apple-foundation-models
4,096 token 限制(TN3193):https://developer.apple.com/documentation/technotes/tn3193-managing-the-on-device-foundation-model-s-context-window
適合與不適合的用途:https://developer.apple.com/documentation/foundationmodels/generating-content-and-performing-tasks-with-foundation-models
Apple Intelligence 支援機種與語言:https://support.apple.com/en-us/121115
DeepSeek V3 自稱 ChatGPT(TechCrunch):https://techcrunch.com/2024/12/27/why-deepseeks-new-ai-model-thinks-its-chatgpt/
190 個模型的自我介紹測試:https://www.lesswrong.com/posts/KK5pqtrfb8XnmqLka/who-do-llms-self-identify-as
Claude 公開的系統設定:https://platform.claude.com/docs/en/release-notes/system-prompts/claude-opus-5-5
Day 297 介紹 no-mistakes:https://www.dawsonwang.com/day/297