清华第五弹：DeepSeek与AI幻觉 VIP免费

DeepSeek与AI幻觉双聘教授 @新媒沈阳 团队博士后 张家铖2025年2月清华大学新闻与传播学院新媒体研究中心人工智能学院一、什么是AI幻觉二、DeepSeek为什么会产生幻觉三、AI幻觉评测四、如何减缓AI幻觉五、AI幻觉的创造力价值Prompt：给我一些DeepSeek在金融行业的应用案例DeepSeek：•某头部银行利用DeepSeek构建因果归因网络，识别小微企业违约的隐性因素(如上下游账期错配)，针对性设计“供应链票据贴现+账期保险”组合产品，不良率下降4.2个百分点。•国信证券在“金太阳APP”中部署DeepSeek-R1-Distill-32B端侧模型，客户本地输入风险测评数据后，模型生成个性化投资组合建议，仅将匿名化策略权重同步至云端风控系统，数据泄露风险降低90%。案例1案例2Whisper：OpenAI的自动语音识别（ASR）系统行业应用：医疗系统中，将患者与医生的对话问诊过程音频，转写为文字病例，有超过30000名临床医生和40个医疗系统使用发现：100多个小时的Whisper转录样本，其中约有一半内容存在幻觉原音频：“嗯，她的父亲再婚后不久就去世了” 转录文本：“没关系。只是太敏感了，不方便透露。她确实在65岁时去世了”结果：2.6W多份自动转录病例中，几乎每本都存在瞎编和幻觉问题，对患者健康和医疗系统产生严重负面影响案例3案例4案例5学术：指模型生成与事实不符、逻辑断裂或脱离上下文的内容，本质是统计概率驱动的“合理猜测”说人话：一本正经地胡说八道事实性幻觉忠实性幻觉事实性幻觉：指模型生成的内容与可验证的现实世界事实不一致忠实性幻觉：指模型生成的内容与用户的指令或上下文不一致是的，蜂蜜是天然的，可以帮助糖尿病患者稳定血糖水平。错误：蜂蜜虽然是天然食品，但仍然含有大量果糖和葡萄糖，会升高血糖水平，不适合糖尿病患者代替糖使用。提问：糖尿病患者可以通过吃蜂蜜代替糖吗？回答分析蜂蜜富含维生素和矿物质，对提高免疫力很有帮助，因此是一种健康的食品。偏题：回答内容虽无事实错误，但与提问“糖尿病患者是否可以用蜂蜜代替糖”无关，未忠实于用户意图。什么是AI幻觉？ 数据偏差：训练数据中的错误或片面性被模型放大（如医学领域过时论文导致错误结论） 泛化困境：模型难以处理训练集外的复杂场景（如南极冰层融化对非洲农业的影响预测） 知识固化：模型过度依赖参数化记忆，缺乏动态更新能力（如2023年后的事件完全虚构） 意图误解：用户提问模糊时，模型易“自由发挥”（如“介绍深度学习”可能偏离实际需求）AI为...