Generative AI glossary: Difference between revisions
Jump to navigation
Jump to search
(→S) |
m (→S) |
||
| Line 19: | Line 19: | ||
== S == | == S == | ||
* AI Sycophancy（AI 諂媚）：「模型在預訓練階段即呈現出迎合使用者立場的傾向，而『基於人類回饋的強化學習』(Reinforcement Learning from Human Feedback, RLHF) 可能進一步放大此行為。由於偏好模型往往將『與使用者觀點一致』視為高品質回應，模型因此更可能選擇迎合而非糾正，即使使用者的立場並不正確。」(Sharma et al., 2025<ref>Sharma et al., "Towards Understanding Sycophancy in Language Models", Anthropic — https://arxiv.org/abs/2310.13548</ref>) | * AI Sycophancy（AI 諂媚）：「模型在預訓練階段即呈現出迎合使用者立場的傾向，而『基於人類回饋的強化學習』(Reinforcement Learning from Human Feedback, RLHF) 可能進一步放大此行為。由於偏好模型往往將『與使用者觀點一致』視為高品質回應，模型因此更可能選擇迎合而非糾正，即使使用者的立場並不正確。」(Sharma et al., 2025<ref>Sharma et al., "Towards Understanding Sycophancy in Language Models", Anthropic — https://arxiv.org/abs/2310.13548</ref><ref>[https://errerrors.blogspot.com/2026/01/google-ai-overviews-confirmation-bias.html Google AI 摘要的「迎合偏誤」問題：為什麼 AI 會說你想聽的話？]</ref>) | ||
== T == | == T == | ||
Revision as of 21:54, 17 February 2026
生成式 AI（Generative AI, GAI）相關詞彙
 This article "Generative AI glossary" is still being written. If there are any incomplete parts, you are welcome to directly edit them. 這篇文章「Generative AI glossary」內容還在撰寫中，如果有不完整的部分，歡迎你直接動手修改。
|
A
- APA 代理自動化 (Agentic Process Automation) 「是一種利用大型語言模型（LLM）代理進行高級自動化的新範式。傳統的機器人流程自動化（RPA）在處理需要人類智慧的任務時存在局限性，特別是在工作流程建立和動態決策方面。APA利用LLM代理來建立和執行工作流程，從而減少人類勞動。例如，ProAgent 是一個基於LLM的代理，能夠根據人類指令建立工作流程並進行複雜決策。APA技術與工具學習、流程挖掘等領域有關，並且對自動化偏見和人類勞動的意義具有潛力和機會。」來源：[2311.10751 ProAgent: From Robotic Process Automation to Agentic Process Automation])
G
- Generative AI (GenAI, 生成式人工智慧)：「是一種人工智慧系統，能夠產生文字、圖像或其他媒體以回應提示工程，比如 ChatGPT。產生模型學習輸入數據的模式和結構，然後產生與訓練數據相似但具有一定程度新穎性的新內容，而不僅僅是分類或預測數據。」(資料來源：維基百科)
H
- Hallucinate (機器幻覺)：「廣泛使用來指稱ChatGPT 等所犯的系統錯誤，展示了我們對待和擬人化人工智慧的思考方式。然而，不準確或誤導性資訊長期以來一直存在於我們身邊，無論是謠言、宣傳還是『假新聞』的形式。」(Henry Shevlin)[1]。相關詞彙：Generative AI
P
- Pretraining（預訓練）：「在機器學習模型正式針對特定任務進行微調之前，先以大規模、通用型資料集進行初始訓練的過程。」(moveworks, n.d.[2])
S
- AI Sycophancy（AI 諂媚）：「模型在預訓練階段即呈現出迎合使用者立場的傾向，而『基於人類回饋的強化學習』(Reinforcement Learning from Human Feedback, RLHF) 可能進一步放大此行為。由於偏好模型往往將『與使用者觀點一致』視為高品質回應，模型因此更可能選擇迎合而非糾正，即使使用者的立場並不正確。」(Sharma et al., 2025[3][4])
T
- Temperature 溫度：「溫度是自然語言處理模型中的參數，用於增加或減少模型對其最可能的反應的『信心』。較高的溫度使模型更有『創造性』，這在生成文章等方面可能很有用。較低的溫度使模型更加『自信』，這在回答問題等應用中很有用。」[5] (comments)
延伸閱讀
參考資料
- ↑ 「真真假假，假假真真的AI時代」劍橋詞典2023年度代表字：Hallucinate | DQ 地球圖輯隊
- ↑ What is Pre-Training?
- ↑ Sharma et al., "Towards Understanding Sycophancy in Language Models", Anthropic — https://arxiv.org/abs/2310.13548
- ↑ Google AI 摘要的「迎合偏誤」問題：為什麼 AI 會說你想聽的話？
- ↑ What is Temperature in NLP?🐭 :: Luke Salamone's Blog