Hallucination
在人工智能领域，Hallucination（幻觉）指的是AI模型（如聊天机器人）生成看似合理但事实上不正确或毫无根据的信息。
它的工作方式
这种现象通常发生在大型语言模型（LLM）等生成式AI中，当模型基于其训练数据中的模式进行推断，但缺乏足够准确的信息或无法区分事实与虚构时，就会“编造”内容。理解并减少幻觉对于确保AI输出的可靠性和可信度至关重要。
示例
- 1.一个AI聊天机器人被问及一个不存在的历史事件时，它可能会编造出详细的日期、人物和情节。
- 2.一个AI代码助手在生成代码片段时，可能会引用一个不存在的库函数或API。
- 3.一个AI总结工具在概括一篇长文时，可能会插入原文中并未出现的关键结论或数据。