AI也“胡说八道”?:揭秘DeepSeek幻觉,三大方法降低AI幻觉风险

AI前言1个月前更新 yizz
2,724 0 0
广告也精彩

AI“背刺”:当人工智能也开始“胡说八道”?

AI也会犯错吗?—— 案例分析:DeepSeek的《西游记》“幻觉”

在人们普遍认为 AI很强 的当下,我们是否应该对其生成的内容保持警惕?最近,小编让 DeepSeek 以《西游记》为例,讲解现代职场的人际关系处理。乍一看,DeepSeek 的回答立论精准,条理清晰,但仔细检查后却发现细节经不起推敲。

DeepSeek 答道,唐僧“通过为徒弟赋予法名(悟空、悟净)强化归属感”。但事实上,孙悟空沙悟净 的名字分别是由 菩提祖师观音菩萨 所起,唐僧真正给他们起的名字是 孙行者猪八戒

更令人惊讶的是,当小编指出错误时,DeepSeek 竟然坚持自己的答案,甚至煞有介事地“篡改”了《西游记》原著,并标记了虚假的原著出处!

此外,DeepSeek 在回答中引用了“67%的职场人因‘不被认可’产生倦怠感”的数据,但小编在追问下发现,这个数据并非来自明确的出处,而是 DeepSeek 通过推测得出的。

因此,我们必须警惕 AI生成内容 的可靠性,务必进行核查,否则可能会闹笑话,甚至造成更严重的后果。

为什么AI会“胡说八道”?—— 揭秘“AI幻觉

AI业界,这类“胡说八道”的本领被称为“幻觉”。 意思是,AI 就像人一样,在遇到自己不熟悉、不在知识范围内的问题时,会编造难以辨明真假的细节,生成与事实相悖的答案。

这就像考试时遇到不会的题目,我们会试图用已知的知识去推测答案一样。AI 在遇到信息缺失或不确定的情况时,会基于自己的“经验”(训练数据)进行填补和推理。

这不是因为它想要欺骗我们,而是因为它在试图用自己理解的模式来完成这个任务。

如何降低AI幻觉?—— 三大实用方法

方法一:优化提问

当你向 AI 提问时,提问方式会直接影响回答的质量。如果提问过于宽泛或模糊,AI 可能会曲解数据含义,导致结论不严谨。

例如,小编让 DeepSeek 评估一下人工智能对就业的影响。结果 DeepSeek 在引用大量数据时没有参考真实案例,出现曲解数据含义的错误。

为了获得更严谨的回答,我们可以拆解推理步骤,重新提问。例如,可以将一个大的问题分解成几个小的问题,逐步引导 AI 进行分析和推理。

优化提问方式后,DeepSeek 在有据可查的真实案例基础上,对未来趋势作出了分析,并根据提问提示,标注出非官方推测内容,能够帮助用户辨别信息的可靠性,降低幻觉风险。

方法二:分批输出

一次性生成的内容越多,出现 AI幻觉 的概率就越大。为了把控生成内容的质量,我们可以采用 分批输出 的方式。

例如,小编让 DeepSeek 生成一份广州3日深度游攻略,其中包含5个冷门景点、3家本地人常去的餐馆。在回答中,DeepSeek 分天数串联了景点和餐饮,标注门票价格、免费/收费等实用性信息。然而,第三天推荐的餐厅地址竟然是“虚构”的。

因此,我们可以先让 AI 列出广州非网红的经典TOP5,确认后,再要求 AI 推荐景点周边餐馆。最后,让 AI 将以上信息整合为三日行程,补充地铁/公交接驳的方案。分批输出 能灵活地调整需求,弥补上一段回答的不满意之处,减少出错的概率。

方法三:交叉验证

提高 AI 回答的可靠性,还有一个实用的方法是采用“多模型交叉验证”。

可以使用 AI聚合平台,即让多个 AI模型 同时回答同一个问题的平台。让不同的大模型一起参与讨论,通过对比它们的答案来获得更全面的认识。

例如,纳米 AI 搜索平台的“多模型协作”功能,它能让不同的 AI模型 各司其职,形成一个高效的协作团队。

以电商香水 AI文生图指令 为例,挑选 DeepSeek 作为专家分析规划,再由 通义千问 进行纠错补充,最后交给 豆包 梳理总结。这种团队式的高效协作模式,不仅能提升内容的质量,还能减少 AI幻觉 的风险。

AI幻觉也能巧用?—— 从缺陷到创意的转化

在医疗、法律、金融等专业领域,AI 生成的内容必须经过专业人士审核。

但对于文字创作者而言,AI幻觉 反而能产生意想不到的创意火花。就像人类大脑里偶尔蹦出的天马行空的想法。

当我们学会用正确的方式与 AI 对话,善用它的创造力,同时保持独立思考,AI 就能成为我们得力的助手。

毕竟,在这个 AI 与人类共同进步的时代,重要的不是责备 AI 的不完美,而是学会与之更好地协作。

总结

AI 技术的快速发展为我们带来了诸多便利,但同时也伴随着一定的风险。AI幻觉 就是其中之一。为了更好地利用 AI,我们需要了解其局限性,掌握应对 AI幻觉 的方法,并保持独立思考的能力。只有这样,我们才能在 AI时代 更好地工作和生活。

,,,,

感悟:

AI技术它并非完美无缺,甚至存在着“幻觉”这样的缺陷。然而,正如我们不能因为路上的荆棘而放弃前行,也不能因为AI的不足而否定其价值。重要的是,我们要正视AI的局限性,不断探索和完善,让它真正成为我们探索未知、创造未来的有力工具。

,,,,

© 版权声明
chatgpt4.0

相关文章

error: Content is protected !!