LLMs Usage FAQ in Mandarin: Difference between revisions

LLMs Usage FAQ in Mandarin (edit)

805 bytes added , 11 August 2025

no edit summary

15,039

edits

@@ Line 49: / Line 49: @@
 💬 處理方式：
-方法1：改成支援更長上下文窗口（context window）長度的模型。
+方法1：改成支援更長上下文窗口（context window）長度的模型，例如：Google Gemini 等：
-方法2：分塊處理與保持上下文連貫的策略
+# GPT-4o: "16,384 max output tokens"<ref>[https://platform.openai.com/docs/models/gpt-4o Model - OpenAI API]</ref> 相當於 16,384/3 約 5,461 中文字
+# gemini-2.5-pro: "65,536 max output tokens"<ref>[https://ai.google.dev/gemini-api/docs/models#gemini-2.5-pro Gemini 2.5 Pro]</ref> 相當於 65,536/3 約 21,845 中文字
+# GPT-5: "128,000 max output tokens"<ref>[https://platform.openai.com/docs/models/gpt-5 Model - OpenAI API]</ref> 相當於 128,000/3 約 42,666 中文字
+方法2：開啟新的對話，將對話內容轉移至新的對話中。針對舊有對話，可以嘗試使用這個提示：
+<pre>
+作為新對話的第一個 prompt，請將我們先前的對話整理成：
+. 清楚的操作步驟
+. 用來驗證每個前置步驟成功的指令
+</pre>
+方法3：分塊處理與保持上下文連貫的策略
 處理長文時需要採用分段切塊（Chunking）的技術策略<ref>[https://ihower.tw/blog/archives/12373 使用繁體中文評測 RAG 的 Chunking 切塊策略 – ihower { blogging }]</ref>。為了讓模型在處理後續段落時能夠理解前面章節的脈絡，一個有效的方法是'''將前面文章摘要的切塊策略'''：