AI 诈骗：技术与人性的博弈，信任危机下的现实魔幻

1. AI 如何攻陷社区大学？

1.1 “赛博学生”的伪装与漏洞

• 如何识别“赛博学生”？
  • 作业质量低劣： 提交 ChatGPT 生成的泛泛文字，缺乏个性化内容。例如，伯克利市立学院图书馆员发现学生提交的自我介绍影片作业内容空洞。
  • 沟通障碍： 不回应或拒绝视频会议，或在 Zoom 会议中使用手机翻译，无法流利使用英语。
  • 账户异常： 自我介绍中出现“[请输入城市名称] 的学生”等 程序模板语句，或使用学生通常不会用的文法。
• “赛博学生”如何运作？
  • 注册课程： 注册课程并保持足够长的注册时间，以维持在校学生身份。
  • 提交作业： 提交由 AI 生成的作业，以满足课程要求。
  • 骗取助学金： 等到 助学金发放后退课，从中获取资金。
• 利用漏洞： 加州法律要求社区大学接受所有合法学生，且长期致力于降低注册门槛，部分学院对无家可归或曾寄养青年的申请者较为宽松，这一漏洞正被诈骗者利用。

1.2 学校的应对与挑战

• 教师的困境： 教师难以甄别真假学生，Southwestern College 教授发现其课程注册的 104 人中，仅 15 人为真实学生。
• 技术手段： 学校不得不借助 身份验证公司 Socure 等专业技术手段侦破骗局，洛杉矶社区学院为此支付超过 25 万美元。
• 高昂的代价： 2023 年，加州社区大学申请者中高达 25% 是机器人，校方为此支付的 防欺诈费用已超过 25 万美元。

2. AI 诈骗已渗透到哪些领域？

2.1 公众人物成为受害者

• AI 伪造视频： 社交平台上出现多个账号使用 AI 合成全红婵爸爸、哥哥的声音，介绍家里要盖新房，以此来博取流量。
• AI 换脸： 张馨予公开谴责商家用 AI 合成其声音推销减肥药，刘晓庆也遭遇 AI 换脸视频冒用。
• AI 拟声： 小米集团创始人雷军表示，网上出现大量 AI 生成的用他的声音骂人的内容。
• 影响： 引起今年两会代表委员的高度关注，呼吁通过法律手段来加强对 AI 诈骗的管理和约束。

2.2 诈骗渗透生活高频场景

• 社交陷阱：
  • AI 假孙子： 违背常理的 AI 假孙子视频（如穿纸尿裤的婴儿独自摘茄子、做饭）骗取老年人感情。
  • 假“靳东”： 60 岁阿姨向假靳东转账近 20 万元。
• 消费欺诈：
  • AI 合成视频中携带有骆驼奶粉、土鸡蛋、洗衣液等多种商品链接，部分消费者收到 三无产品 后投诉无门。
• 信息泄露：
  • “虚拟恋人”： 宝妈被 AI 虚拟恋人以投资加密货币为名骗走 200 万元。

3. AI 黑产的产业链是怎样的？

3.1 AI 黑产的发展历程

• Deepfake 的出现： 2017 年，Reddit 用户“deepfakes”发布女演员的 换脸视频，引发轰动，但也导致大量色情视频出现。
• AI 换脸软件： ZAO 等 AI 换脸软件在国内风生水起，但因隐私问题遭到质疑。
• ChatGPT 的推动： ChatGPT 的火热使得 AI 换脸、AI 脱衣以及 AI 语音和视频 等技术再次回到大众视野，甚至变得更加逼真、低门槛。

3.2 AI 诈骗产业链的构成

• 上游：技术提供者通过暗网兜售 “AI 换脸套餐”，价格从几百元到数万元不等。
• 中游：推广者利用非法获取的个人信息库，通过短信、社交软件 精准投放诈骗信息。
• 下游：洗钱者通过 虚拟货币、跑分平台 等渠道转移资金。
• 诈骗案例：
  • 山东警方破获的 AI 诈骗案中，受骗人收到冒充亲戚的信息和视频，因声音和样貌逼真而转账。
  • 福州某科技公司法定代表人因 AI 伪造的微信视频被骗 430 万。

总结

AI 技术的快速发展在带来便利的同时，也给诈骗分子提供了新的工具。从“赛博学生”骗取助学金，到 AI 伪造名人形象进行欺诈，再到利用 AI 打造“虚拟恋人”，AI 诈骗已经渗透到我们生活的方方面面。面对日益猖獗的 AI 诈骗，我们需要提高警惕，加强防范，同时也需要加强对 AI 技术的监管，共同维护一个安全、可信赖的网络环境。

我认为：AI 这东西，就像一把两刃的剑，用得好，是利器，用不好，便成了伤人的凶器。如今这 AI 诈骗，正是那剑的另一面，寒光闪闪，专刺人性的弱点。可笑那些骗子，以为得了 AI 这宝贝，便能瞒天过海，殊不知，天网恢恢，疏而不漏。这技术再高超，也掩盖不了他们那颗肮脏的心。防 AI 诈骗，不仅要靠技术，更要靠我们自己擦亮眼睛，明辨是非，莫让那虚假的 AI 蒙蔽了双眼。

, , , ,