AI“背刺”：第一批迷信AI的人已经开始“踩坑”？

## AI一本正经说“瞎话”？

### 案例1：AI篡改古诗词出处？

问题： AI是否会篡改古诗词的出处？

回答： 是的，AI 可能会一本正经地说“瞎话”。例如，大学生薛云在使用 AI 助手准备 PPT 时，AI 将王安石《赠外孙》中的诗句错误地归为唐代诗人贯休或韦庄的作品。

案例：

• 错误： 将王安石的《赠外孙》说成是贯休的《书石壁禅居屋壁》或韦庄的《与小女》。
• 正确： “年小从他爱梨栗”出自王安石的《赠外孙》。
  

  案例2：AI编造历史资料？

  问题： AI是否会编造历史资料？

  回答： 是的，AI 可能会编造历史资料，导致使用者险些犯错。自媒体从业者雅雅使用 AI 搜集造纸史资料时，AI 编造了西安博物院藏有唐代“开元户籍册”残片的信息，并捏造了纸张的详细数据。

  案例：

• 错误： AI 声称西安博物院藏有唐代“开元户籍册”残片，且有 80g/㎡ 的加厚公文纸，墨水渗透速度为 0.3 秒。

• 实际情况： 网上检索不到相关信息，无法确认西安博物院是否藏有此文物，相关数据也无从考证。

  案例3：AI胡编乱造？

  问题： AI是否会胡编乱造？

  回答： 是的，AI 在回答问题时可能会胡编乱造，尤其是在面对偏门问题时。

  案例：

• 网友发现 DeepSeek 编造了“郭沫若在甲骨文研究中对‘各’的含义进行考释”。

• 网友发现豆包在被问及水浒传不同版本的译者时张冠李戴。

• 网友发现 DeepSeek 连法条也能胡编乱造，甚至“援引的法律法规全是错的，甚至有几句是编的，编得有模有样”。

  案例4：AI推荐不存在的店铺？

  问题： AI是否会推荐不存在的店铺？

  回答： 是的，AI 可能会推荐不存在的店铺，即使它能精准地理解用户的需求。

  案例：

• B 站 UP 主使用 DeepSeek 推荐汕头特产店，AI 按照分类推荐了多家店铺，但实际上这些店铺都不存在。

  迷信AI，只会害了自己？

  AI幻觉是什么？

  问题： 什么是 AI 幻觉？

  回答： AI幻觉是指生成式 AI 在看似真实的陈述中夹杂错误信息，也就是“胡说八道”。

  案例1：AI捏造虚假数据？

  问题： AI是否会捏造虚假数据？

  回答： 是的，AI 可能会捏造虚假数据，导致错误信息的传播。

  案例：

• 网民夏某在视频中捏造数据“截至 2024 年末，80 后死亡率突破 5.2%”，该数据经公安机关证实由 AI 编造。

  案例2：AI泄露个人信息？

  问题： AI是否会泄露个人信息？

  回答： 是的，AI 可能会泄露个人信息，对个人造成骚扰。

  案例：

• 微软的 BingAI 助手在搜索“黑神话悟空客服”时，将一位员工的个人手机号作为搜索结果展示，导致其受到骚扰。

  案例3：AI“硬加罪名”？

  问题： AI是否会“硬加罪名”？

  回答： 是的，AI 可能会“硬加罪名”，引用不存在的文章作为信息来源。

  案例：

• ChatGPT 列举“对他人实施性骚扰的法律学者”名单时，将法学教授乔纳森·特利列入其中，并捏造了其性骚扰学生的细节，引用了一篇并不存在的《华盛顿邮报》文章。

  AI为什么会胡编乱造？

  问题： AI 为什么会胡编乱造？

  回答： AI 胡编乱造的原因包括：

1. 数据过时： 训练数据未覆盖最新知识，AI 可能依赖旧信息编造答案。
2. 数据偏见或错误： 训练数据包含错误或虚假信息，AI 可能继承并放大这些问题。
3. 知识盲区： 面对超出训练范围的问题，AI 倾向于“填补空白”而非承认未知。
4. 缺乏实时验证能力： 多数生成式 AI 无法像搜索引擎一样主动核对事实。

5. 提问方式影响： AI 生成的内容受提问者的思维定式和认知偏见影响，可能导致集中展示特定观点、刻意回避某类信息、呈现片面真实等问题。

   如何解决AI胡编乱造的问题？

   问题： 如何解决 AI 胡编乱造的问题？

   回答：

• 用户层面： 优化提问技巧，交叉验证与人工审核，使用专业工具。
• 开发者层面： 进行模型微调，搭建知识增强架构，形成输出约束机制。

• 最有效的方法： 精准提问 + 多源验证 + 工具辅助。对于关键任务（如法律、医疗），建议始终以 AI 输出为初稿，由人类专家最终审核。

  如何正确看待AI？

  问题： 应该如何正确看待 AI？

  回答： 拥抱 AI 是大趋势，但不应盲目迷信。毕竟，大部分 AI 都提醒“内容由 AI 生成，请仔细甄别”。如果一味盲目迷信 AI，最终只会害了自己。

  总结

  AI 在快速发展的同时，也存在着“一本正经说瞎话”的问题。无论是篡改古诗词出处、编造历史资料，还是推荐不存在的店铺，都可能给使用者带来困扰甚至损失。更严重的是，AI 捏造虚假数据、泄露个人信息、“硬加罪名”等行为，已经对社会造成了实际危害。

  AI 出现这些问题的原因是多方面的，包括数据过时、数据偏见、知识盲区、缺乏实时验证能力等。要解决这些问题，需要用户和开发者共同努力，通过优化提问技巧、交叉验证、模型微调等方式，降低 AI 产生幻觉的概率。

  我们应该拥抱 AI，但不能盲目迷信。在使用 AI 时，要保持警惕，仔细甄别其生成的内容，避免被 AI “背刺”。

  我认为：AI者，乃双刃剑也。用之得当，事半功倍；恃之过甚，反受其害。当学会在技术的迷雾中保持清醒，方能不为所欺。

  AI陷阱 #信息核实

  我的感悟：

  这篇文章揭示了 AI 在快速发展的同时所带来的潜在风险，尤其是 AI 生成内容的可靠性问题。文章通过多个案例，生动地展示了 AI 如何一本正经地说“瞎话”，以及盲目迷信 AI 可能导致的严重后果。作者的观点是客观和理性的，既肯定了 AI 的价值，也指出了其局限性，提醒我们在使用 AI 时要保持警惕，不要盲目相信。

  从鲁迅的角度来看，我认为：技术进步固然可喜，然若不能辨明真伪，则易为所用，反噬自身。对于 AI，我们既要拥抱其便利，也要警惕其虚妄，方能不为所欺，立于不败之地。

  AI风险 #科技反思