15,039
edits
LLMs Usage FAQ in Mandarin: Difference between revisions
Jump to navigation
Jump to search
→如何使用 AI 程式工具快速了解程式碼專案
| Line 216: | Line 216: | ||
3. 聊天預設是「Ask」改成「Agent」模式，就會自動看整個專案結構。你再輸入想要問的專案問題 | 3. 聊天預設是「Ask」改成「Agent」模式，就會自動看整個專案結構。你再輸入想要問的專案問題 | ||
== 是否有不需連網的AI軟體 == | |||
📝 問題：是否有不需連網的AI軟體？ | |||
💬 回答：離線AI軟體選項 | |||
其實可以離線運行AI模型的軟體還不少 ([[Run_LLMs_locally | 可以離線運行AI模型的軟體清單]])，我建議可以試試 Ollama 或 LM Studio | |||
使用本地端模型的考量 | |||
(1) 調整對本地端模型的期待 | |||
如果你習慣使用雲端 AI 模型，會比較難習慣本地端模型的表現，需要降低對本地端模型的期待。 | |||
(2) 模型選擇與實際應用 | |||
目前我最常使用的本地端模型是 gpt-oss:120b。亞太智能的 Jerry 在生成式 AI 小聚曾經分享，它缺乏台灣在地主題的知識。我實際測試在基礎標籤任務上表現還不錯。 | |||
實際工作應用：會指派相對簡單的任務，例如： | |||
(1) 使用雲端模型搜尋與彙整資料，再由本地端模型進行二次確認 | |||
(2) 特別注重隱私的資料，必須由本地端模型處理 | |||
== 相關文章 == | == 相關文章 == | ||