14,970
edits
LLMs Usage FAQ in Mandarin: Difference between revisions
Jump to navigation
Jump to search
m
→如何讓 AI 處理長篇文章
m (→如何讓 AI 處理長篇文章) |
|||
| Line 47: | Line 47: | ||
LLMs 模型受到上下文窗口（context window）長度的限制，以翻譯長文章為例，由於無法一次處理全部內容，我們需要將文章分段進行處理。 | LLMs 模型受到上下文窗口（context window）長度的限制，以翻譯長文章為例，由於無法一次處理全部內容，我們需要將文章分段進行處理。 | ||
💬 | 💬 處理方式： | ||
方法1：改成支援更長上下文窗口（context window）長度的模型。 | |||
方法2：分塊處理與保持上下文連貫的策略 | |||
處理長文時需要採用分段切塊（Chunking）的技術策略<ref>[https://ihower.tw/blog/archives/12373 使用繁體中文評測 RAG 的 Chunking 切塊策略 – ihower { blogging }]</ref>。為了讓模型在處理後續段落時能夠理解前面章節的脈絡，一個有效的方法是'''將前面文章摘要的切塊策略'''： | 處理長文時需要採用分段切塊（Chunking）的技術策略<ref>[https://ihower.tw/blog/archives/12373 使用繁體中文評測 RAG 的 Chunking 切塊策略 – ihower { blogging }]</ref>。為了讓模型在處理後續段落時能夠理解前面章節的脈絡，一個有效的方法是'''將前面文章摘要的切塊策略'''： | ||