不上雲端，在自己電腦跑 AI

這是什麼

一個免費的 AI 程式，裝在自己電腦上，用起來跟 ChatGPT 很像：打字問，它回答。差別是 AI 模型就在你的電腦裡跑，你打的內容不會傳到網路上。官方寫得很直接：在本機執行時，他們看不到你的提示詞和資料。

誰需要

• 要處理客人名單、訂單、帳務，不想把這些資料貼到 ChatGPT 的老闆
• 網路不穩，或想在沒網路的地方也能用 AI 的人
• 電腦有不錯的顯示卡，想免費用 AI 寫回覆、整理文字的人

要不要錢

免費開源，也不用註冊帳號。要付出的是電腦資源：模型要下載到電腦裡，我用的 4b 版約 3.3 GB、9b 版約 6.6 GB。有獨立顯示卡會快很多，我的電腦是 RTX 5060（顯示卡記憶體 8 GB）。

怎麼開始

1. 到官網 ollama.com 下載 Windows 版，安裝好之後打開 Ollama。
2. 在聊天畫面的模型選單選「qwen3.5:4b」，電腦有 8 GB 以上顯示卡可以選大一點的「qwen3.5:9b」。第一次用會先下載模型。
3. 跟用 ChatGPT 一樣，直接打字問。

我實際怎麼用

我用假的團購資料，在自己電腦上測了兩件事，大小兩個模型都試：

• 回客訴訊息（客人說芒果有兩顆爛掉）：4b 不到 1 秒就寫好，口氣不錯，但混了一個簡體字；9b 約 1 秒，寫出來的像老闆本人在講話：「抱歉讓您失望了！請拍個照給我看，下次光臨鼓山店時，我們直接幫您補上兩顆新鮮芒果。」
• 整理 10 則團購留言（誰訂了什麼、在哪家店取貨、各店要準備幾份）：4b 花 13 秒，有一筆看錯，加總錯兩個數字；9b 花 27 秒，每一筆明細都對，連「我再加 A+1」這種追加都算進去了，但最後加總還是錯兩個數字。

我的結論：寫回覆、把亂七八糟的文字整理成表格，本機 AI 很好用，而且資料不出門；數字加總不要相信它，表格貼到 Excel 自己加最保險。

小提醒

• 加總一定要自己再算一次。 兩個模型的明細都整理得很好，最後的總數卻都算錯了。
• 選模型時，避開標著「cloud」的。 Ollama 也有在雲端跑的模型，用那種的話，資料就不在你電腦裡了。
• 思考模式先別開。 我測的時候開著思考模式，它想了一萬三千多字，最後的回答卻是空的；關掉之後 13 秒就整理好了。App 預設是關的。
• 要它寫繁體中文，還是可能混到簡體字。 貼出去之前看一遍。
• 跑的時候會吃顯示卡記憶體（9b 約 5 GB），不用的話 5 分鐘後會自己釋放。