Generative AI glossary: Difference between revisions

Revision as of 15:21, 2 September 2026

生成式 AI（Generative AI, GAI）相關詞彙

This article "Generative AI glossary" is still being written. If there are any incomplete parts, you are welcome to directly edit them. 這篇文章「Generative AI glossary」內容還在撰寫中，如果有不完整的部分，歡迎你直接動手修改。

A

APA 代理自動化 (Agentic Process Automation) 「是一種利用大型語言模型（LLM）代理進行高級自動化的新範式。傳統的機器人流程自動化（RPA）在處理需要人類智慧的任務時存在局限性，特別是在工作流程建立和動態決策方面。APA利用LLM代理來建立和執行工作流程，從而減少人類勞動。例如，ProAgent 是一個基於LLM的代理，能夠根據人類指令建立工作流程並進行複雜決策。APA技術與工具學習、流程挖掘等領域有關，並且對自動化偏見和人類勞動的意義具有潛力和機會。」來源：[2311.10751 ProAgent: From Robotic Process Automation to Agentic Process Automation])

G

Generative AI (GenAI, 生成式人工智慧)：「是一種人工智慧系統，能夠產生文字、圖像或其他媒體以回應提示工程，比如 ChatGPT。產生模型學習輸入數據的模式和結構，然後產生與訓練數據相似但具有一定程度新穎性的新內容，而不僅僅是分類或預測數據。」(資料來源：維基百科)

H

Hallucinate (機器幻覺)：「廣泛使用來指稱ChatGPT 等所犯的系統錯誤，展示了我們對待和擬人化人工智慧的思考方式。然而，不準確或誤導性資訊長期以來一直存在於我們身邊，無論是謠言、宣傳還是『假新聞』的形式。」(Henry Shevlin)<ref>「真真假假，假假真真的AI時代」劍橋詞典2023年度代表字：Hallucinate | DQ 地球圖輯隊</ref>。

P

Pretraining (預訓練)：「在機器學習模型正式針對特定任務進行微調之前，先以大規模、通用型資料集進行初始訓練的過程。」(moveworks, n.d.<ref>What is Pre-Training?</ref><ref>Understanding LLM Pre-Training and Custom LLMs | Databricks Blog</ref>)

prompt engineering (提示工程)：「提示工程」是反覆迭代的過程，透過撰寫提示詞 (prompt) 並評估模型的生成結果，來獲得您想要的結果。寫結構良好的提示是確保大型語言模型提供準確、高品質的關鍵。以下是幾種可用於最佳化生成結果的常見技巧：(1) 零樣本提示（Zero-shot prompting）：在不提供任何範例的情況下提示詞，完全依賴模型既有的知識。(2) 單一樣本提示（One-shot prompting）：在提示詞中提供一個範例，引導模型的回覆方向。(3) 少數樣本提示（Few-shot prompting）：在提示詞中提供多個範例，以符合您要求的模式或任務。」(Google, n.d.<ref>Generative AI glossary | Google Cloud Documentation</ref><ref>白話通俗解釋 zero-shot, one-shot, few-shot learning</ref>)

R

RAG (Retrieval-augmented generation，檢索增強生成)：「檢索增強生成（英語：Retrieval-augmented generation，RAG）是一種使大語言模型（LLM）能夠從外部資料來源中檢索並整合新資訊的技術。」(資料來源：維基百科)<ref>一篇假文章，讓 Google 和 ChatGPT 信以為真</ref>

Reverse Alignment（反向對齊）在 AI 學界並不是單一定義的標準術語；在 AI 倫理與社會技術研究中，Harrison（2026）指出 <ref>Harrison, D. J. (2026). The message hidden within the pattern: A reverse alignment problem for debates in artificial intelligence. AI & Society, 41(7), 6335–6356. https://doi.org/10.1007/s00146-026-03043-4 </ref>，傳統 AI Alignment（AI 對齊）著重讓 AI 的行為符合人類價值與意圖；但另一種可能是，人反過來為了配合 AI，而逐漸改變自己的價值、偏好與行為，使其更容易被機器辨識、預測與滿足，亦即讓人變得更「machine-like（機器化）」。此概念與 sociotechnical alignment（社會技術對齊，指同時考量 AI、人、組織與制度之間的整體對齊）、Value Capture（價值捕獲，指複雜的人類價值被簡化成可量化指標，並反過來影響人的判斷），以及 proxy optimization（代理指標最佳化，指系統以可測量指標代替真正目標進行最佳化）等研究密切相關；另在部分 LLM（大型語言模型）安全研究 <ref>Yi, J., Xie, Y., Zhu, B., Hines, K., Kiciman, E., Sun, G., Xie, X., & Wu, F. (2024). On the vulnerability of safety alignment in open-access LLMs. In Findings of the Association for Computational Linguistics: ACL 2024. Association for Computational Linguistics.</ref> 中，reverse alignment 也被用來指讓原本經過安全訓練、會拒絕危險要求的模型，重新傾向產生有害內容，因此使用時應依研究脈絡區分。 Revised by LLM

S

AI Sycophancy（AI 諂媚）：「模型在預訓練階段即呈現出迎合使用者立場的傾向，而『基於人類回饋的強化學習』(Reinforcement Learning from Human Feedback, RLHF) 可能進一步放大此行為。由於偏好模型往往將『與使用者觀點一致』視為高品質回應，模型因此更可能選擇迎合而非糾正，即使使用者的立場並不正確。」(Sharma et al., 2025<ref>Sharma et al., "Towards Understanding Sycophancy in Language Models", Anthropic — https://arxiv.org/abs/2310.13548</ref><ref>Google AI 摘要的「迎合偏誤」問題：為什麼 AI 會說你想聽的話？</ref>)

T

Temperature 溫度：「溫度是自然語言處理模型中的參數，用於增加或減少模型對其最可能的反應的『信心』。較高的溫度使模型更有『創造性』，這在生成文章等方面可能很有用。較低的溫度使模型更加『自信』，這在回答問題等應用中很有用。」<ref>What is Temperature in NLP?🐭 :: Luke Salamone's Blog</ref> (Discussion on Hacker News)

延伸閱讀

參考資料

@@ Line 23: / Line 23: @@
 * RAG (Retrieval-augmented generation，檢索增強生成)：「檢索增強生成（英語：Retrieval-augmented generation，RAG）是一種使大語言模型（LLM）能夠從外部資料來源中檢索並整合新資訊的技術。」(資料來源：[https://zh.wikipedia.org/zh-tw/%E6%AA%A2%E7%B4%A2%E5%A2%9E%E5%BC%B7%E7%94%9F%E6%88%90 維基百科])<ref>[https://medium.com/@planetoid/%E4%B8%80%E7%AF%87%E5%81%87%E6%96%87%E7%AB%A0-%E8%AE%93-google-%E5%92%8C-chatgpt-%E4%BF%A1%E4%BB%A5%E7%82%BA%E7%9C%9F-e3f7653dd6fc 一篇假文章，讓 Google 和 ChatGPT 信以為真]</ref>
-* Reverse Alignment（反向對齊）在 AI 學界並不是單一定義的標準術語；在 AI 倫理與社會技術研究中，Harrison（2026）指出 <ref>Harrison, D. J. (2026). The message hidden within the pattern: A reverse alignment problem for debates in artificial intelligence. AI & Society, 41(7), 6335–6356. https://doi.org/10.1007/s00146-026-03043-4 </ref>，傳統 AI Alignment（AI 對齊）著重讓 AI 的行為符合人類價值與意圖；但另一種可能是，人反過來為了配合 AI，而逐漸改變自己的價值、偏好與行為，使其更容易被機器辨識、預測與滿足，亦即讓人變得更「machine-like（機器化）」。此概念與 sociotechnical alignment（社會技術對齊，指同時考量 AI、人、組織與制度之間的整體對齊）、**Value Capture（價值捕獲，指複雜的人類價值被簡化成可量化指標，並反過來影響人的判斷），以及 proxy optimization（代理指標最佳化，指系統以可測量指標代替真正目標進行最佳化）等研究密切相關；另在部分 LLM（大型語言模型）安全研究 <ref>Yi, J., Xie, Y., Zhu, B., Hines, K., Kiciman, E., Sun, G., Xie, X., & Wu, F. (2024). On the vulnerability of safety alignment in open-access LLMs. In Findings of the Association for Computational Linguistics: ACL 2024. Association for Computational Linguistics.</ref> 中，reverse alignment 也被用來指讓原本經過安全訓練、會拒絕危險要求的模型，重新傾向產生有害內容，因此使用時應依研究脈絡區分。 {{exclaim}} Revised by LLM
+* Reverse Alignment（反向對齊）在 AI 學界並不是單一定義的標準術語；在 AI 倫理與社會技術研究中，Harrison（2026）指出 <ref>Harrison, D. J. (2026). The message hidden within the pattern: A reverse alignment problem for debates in artificial intelligence. AI & Society, 41(7), 6335–6356. https://doi.org/10.1007/s00146-026-03043-4 </ref>，傳統 AI Alignment（AI 對齊）著重讓 AI 的行為符合人類價值與意圖；但另一種可能是，人反過來為了配合 AI，而逐漸改變自己的價值、偏好與行為，使其更容易被機器辨識、預測與滿足，亦即讓人變得更「machine-like（機器化）」。此概念與 sociotechnical alignment（社會技術對齊，指同時考量 AI、人、組織與制度之間的整體對齊）、Value Capture（價值捕獲，指複雜的人類價值被簡化成可量化指標，並反過來影響人的判斷），以及 proxy optimization（代理指標最佳化，指系統以可測量指標代替真正目標進行最佳化）等研究密切相關；另在部分 LLM（大型語言模型）安全研究 <ref>Yi, J., Xie, Y., Zhu, B., Hines, K., Kiciman, E., Sun, G., Xie, X., & Wu, F. (2024). On the vulnerability of safety alignment in open-access LLMs. In Findings of the Association for Computational Linguistics: ACL 2024. Association for Computational Linguistics.</ref> 中，reverse alignment 也被用來指讓原本經過安全訓練、會拒絕危險要求的模型，重新傾向產生有害內容，因此使用時應依研究脈絡區分。 {{exclaim}} Revised by LLM
 == S ==