主題 · 16 篇

本地模型

Ollama、MLX、量化與自架推論

290 第一次參加產品發表會
275 同一段錄音,少等了將近 40 秒
269 本地語音轉文字模型比較
265 Laya vs Jev 兩個 AI 互打,換台電腦就翻盤
236 開源到底追上閉源了沒
235 開源模型追上來的速度
230 ASR 已經夠用
186 Q4 Q8 FP16 差在哪
169 MacBook Air 跑不動的活,我丟給家裡那台 MBP 代勞
159 會議逐字稿,我實測了七種本地模型
141 線上會議記錄開源神器 Vexa 實測
111 oMLX 是什麼?Mac 跑 local LLM 為什麼該認識這條路
107 家裡另一台 Mac 當 LLM 伺服器——Ollama + Tailscale + Raycast 全流程
090 你的本地 LLM 為什麼跑不了長對話?KV Cache 壓縮
033 OpenClaw 永久記憶
028 社群海巡機器人