Editing LLMs Usage FAQ in Mandarin (section)

== 是否有不需連網的AI軟體 ==

📝 問題：是否有不需連網的AI軟體？

💬 回答：離線AI軟體選項

其實可以離線運行AI模型的軟體還不少 ([[Run_LLMs_locally | 可以離線運行AI模型的軟體清單]])，我建議可以試試 Ollama 或 LM Studio

使用本地端模型的考量

(1) 調整對本地端模型的期待

如果你習慣使用雲端 AI 模型，會比較難習慣本地端模型的表現，需要降低對本地端模型的期待。

(2) 模型選擇與實際應用

目前我最常使用的本地端模型是 gpt-oss:120b。亞太智能的 Jerry 在生成式 AI 小聚曾經分享，它缺乏台灣在地主題的知識。我實際測試在基礎標籤任務上表現還不錯。

實際工作應用：會指派相對簡單的任務，例如：
(1) 使用雲端模型搜尋與彙整資料，再由本地端模型進行二次確認
(2) 特別注重隱私的資料，必須由本地端模型處理