清华大学第五弹：《DeepSeek与AI幻觉》

作者：清华大学新闻与传播学院新媒体研究中心、人工智能学院（新媒沈阳团队）
时间：2025年2月

完整版下载地址：夸克网盘分享

---

一、AI幻觉的定义与分类

1. 定义

• • 学术定义：模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”。
  • 通俗解释：“一本正经地胡说八道”。

1. 分类

• • 事实性幻觉：内容与可验证的现实事实不一致（如错误回答“蜂蜜适合糖尿病患者”）。
  • 忠实性幻觉：内容与用户指令或上下文意图偏离（如回答偏题）。

---

二、AI幻觉的成因

1. 数据偏差：训练数据中的错误或片面性被放大（如医学领域过时论文导致错误结论）。
2. 泛化困境：模型难以处理训练集外的复杂场景（如预测南极冰层融化对非洲农业的影响）。
3. 知识固化：模型依赖参数化记忆，缺乏动态更新能力（如虚构2023年后的事件）。
4. 意图误解：用户提问模糊时模型“自由发挥”（如“介绍深度学习”可能偏离实际需求）。

---

三、AI幻觉的潜在风险

1. 信息污染：虚假内容泛滥，污染下一代模型训练数据。
2. 信任危机：用户难以辨别专业场景（医疗、法律）内容的真实性。
3. 安全漏洞：错误信息用于自动化系统（金融分析、工业控制）可能引发连锁反应。
4. 控制欠缺：开源模型易被滥用为恶意工具。

---

四、AI幻觉的评测与案例分析

1. 评测方法

• • 通用性测试：模拟真实用户场景，人工标注幻觉率（如DeepSeekV3幻觉率2%）。
  • 事实性测试：覆盖多领域的300道测试题（如DeepSeekV3事实性幻觉率29.67%）。

1. 典型案例

• • 金融行业：某银行利用DeepSeek构建因果归因网络，降低不良率4.2%。
  • 医疗领域：Whisper转录病例时出现50%的幻觉内容（如篡改患者死亡年龄）。
  • 文学/历史：模型虚构《水浒传》情节（如李逵大闹五台山）。

---

五、应对AI幻觉的策略

1. 技术方案

• • RAG框架：检索增强生成，结合权威数据库。
  • 外部知识库：强化垂直领域知识。
  • 推理增强：通过思维链（如DeepSeek R1）降低逻辑错误。

1. 用户策略

• • 提示词工程：限定时间、知识来源、专业身份（如“基于2023年前文献回答”）。
  • 双AI验证：多模型交叉审查。
  • 联网搜索：实时获取最新信息降低幻觉率（如开启后DeepSeekV3通用幻觉率降至0%）。

1. 高风险场景防护

• • 医疗诊断、法律咨询、金融预测等领域需严格限制生成内容，附加风险提示。

---

六、AI幻觉的创造力价值

1. 科学发现

• • 利用“错误折叠”启发新型蛋白质设计（如2024年诺贝尔化学奖案例）。

1. 文艺与设计

• • 生成超现实角色、虚拟环境，突破人类思维定式（如游戏开发灵感）。

1. 技术创新

• • 从“缺陷”到方法论转化（如AI生成虚构导管设计优化实验结果）。

1. 新型科研范式

• • “AI幻觉→实验验证→理论重构”三阶段流程推动创新闭环。

---

七、总结与展望

• 核心观点：AI幻觉既是技术局限性的折射，也是超越人类想象的创新源泉。
• 应对哲学：与其追求“绝对正确”，需学会与AI的“想象力”共舞，平衡风险与创造力。
• 未来方向：开发自动化幻觉识别工具，完善对齐机制，探索幻觉驱动的跨学科创新。

---

八、演示文稿精彩展示

九、往期精彩

《DeepSeek从入门到精通》——清华大学

《DeepSeek如何赋能职场应用》——清华大学

《普通人如何抓住DeepSeek的红利》——清华大学

《DeepSeek+DeepResearch：让科研像聊天一样简单》——清华大学

《DeepSeek原理与效应》——天津大学