都市快报

DeepSeek回应“乱回”漏洞:特殊字符引发模型幻觉,不涉及安全问题或隐私泄露

5月19日,DeepSeek官方账号发布《关于<think>字符触发模型异常回复的说明》:

近期,我们关注到有用户反馈,在与DeepSeek模型的对话中输入“<think>”这类特殊字符后,模型偶发返回不可预期的内容,使部分用户产生了“对话泄露”的疑虑。针对这一问题,我们的技术团队经全面排查后,发现:
输入“<think>”等字符触发返回异常内容,属于特殊字符引发的模型幻觉,不涉及安全问题或隐私泄露。
后续我们将通过针对性训练增强模型对特殊字符的识别与处理能力,修复相关的已知问题,优化模型在此类场景中的表现。
DeepSeek始终对用户的数据安全与使用体验保持高度重视。感谢大家的关注与监督,也欢迎广大用户随时通过官方途径向我们反馈问题与建议。
图片
5月18日,多位用户反映DeepSeek网页版出现功能漏洞,当输入“<think>”字符时,其会自动加载出对某问题的回答。
对此,记者进行了实测,发现当进入DeepSeek的“快速模式”后,无论是否加载深度思考和智能搜索两项功能,只要输入上述字符,DeepSeek均会直接开始回答,而回答的内容则和记者输入的内容完全无关。
图片

而当记者再次输入“我刚刚问了你什么问题时?”DeepSeek会复述出该问题的提问内容。有用户反馈称,这些题目疑似其他用户所提的问题。
图片
此前,4月24日上午,DeepSeek正式发布全新系列大模型DeepSeek-V4预览版,同步完成开源,并开放官网、App及API调用服务,标志着百万字超长上下文能力进入普惠阶段,引起广泛关注。

来源 DeepSeek 新京报 长安街知事

编辑 陈筱妍 

审核 罗祎 王晨郁

校对 金秋

往期回顾
BREAK AWAY
Image
渣打银行宣布裁员近8000人!首席执行官:确实减少了岗位数量,以让位给机器

Image

男子伪造抑郁症病历休病假被开除,心生不满索要十多万元补偿金,法院判了

Image
“一村庄有62人患癌症和白血病”,武汉成立联合调查组

图片