如何应对AI技术滥用？中央网信办“清朗·整治AI技术滥用”专项行动解读

为什么需要整治AI技术滥用？

AI技术在快速发展的同时，也伴随着一些滥用现象，例如：

• 谣言和不实信息的泛滥：AI可以被用于制造和传播虚假信息，误导公众。
• 色情低俗内容的生成：AI可能被用于生成不雅图片、视频等内容，污染网络环境。
• 侵权违法行为的实施：AI可以被用于假冒他人身份，进行诈骗等违法活动。
• 网络水军活动的猖獗：AI可以被用于批量注册账号、刷量控评，扰乱网络秩序。
• AI产品服务和应用程序违规：套壳AI应用传播，违规功能服务

为规范AI服务和应用，促进行业健康有序发展，保障公民合法权益，中央网信办开展了“清朗·整治AI技术滥用”专项行动。,,

本次专项行动分为哪两个阶段？各阶段的重点是什么？

本次专项行动为期3个月，分为两个阶段：

第一阶段：强化AI技术源头治理

• 目标：清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力。
• 重点整治6类突出问题：
  1. 违规AI产品：未履行备案或登记程序，提供违背法律伦理的功能（如“一键脱衣”），侵犯他人隐私（如克隆声音、人脸）。
  2. 传授、售卖违规AI产品教程和商品：例如，传授伪造换脸视频的教程，售卖“语音合成器”、“换脸工具”。
  3. 训练语料管理不严：使用侵犯知识产权、隐私权的信息，使用虚假、无效、不实内容或非法来源数据，未建立训练语料管理机制。
  4. 安全管理措施薄弱：未建立内容审核、意图识别等安全措施，未建立有效的违规账号管理机制，未定期开展安全自评估。例如，社交平台对通过API接口接入的AI自动回复服务底数不清、把关不严。
  5. 未落实内容标识要求：未对深度合成内容添加标识，未向使用者提供或提示显式内容标识功能，内容传播平台未开展生成合成内容监测甄别。
  6. 重点领域安全风险：已备案AI产品提供医疗、金融、未成年人等重点领域问答服务时，未针对性设置安全审核和控制措施，出现“AI开处方”、“诱导投资”、“AI幻觉”等问题。,,#违规AI产品

第二阶段：聚焦利用AI技术实施的违法行为

• 目标：集中清理利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题。处置处罚违规账号、MCN机构和网站平台。
• 重点整治7类突出问题：
  1. 利用AI制作发布谣言：例如，捏造涉时事政治、社会民生等谣言，冒充官方新闻发布。
  2. 利用AI制作发布不实信息：例如，拼凑剪辑无关图文，翻炒旧闻，制作发布涉财经、教育等领域的夸大、伪科学内容。
  3. 利用AI制作发布色情低俗内容：例如，利用AI脱衣、AI绘图生成色情内容，制作发布血腥暴力场景，生成合成“小黄文”。
  4. 利用AI假冒他人实施侵权违法行为：例如，通过AI换脸、声音克隆假冒专家、明星，利用AI冒充亲友进行诈骗，不当使用AI“复活逝者”。
  5. 利用AI从事网络水军活动：例如，利用AI技术“养号”，批量生成发布低质文案，使用AI群控软件刷量控评。
  6. AI产品服务和应用程序违规：例如，制作和传播仿冒、套壳AI网站和应用程序，AI应用程序提供违规功能服务(创作工具提供“热搜热榜热点扩写成文”)。
  7. 侵害未成年人权益：例如，AI应用程序诱导未成年人沉迷，在未成年人模式下存在影响未成年人身心健康的内容。,,#网络水军

如何参与到整治AI技术滥用行动中？

作为网民，我们可以：

• 提高警惕，不信谣、不传谣。对于来源不明的信息，要多方核实，不轻易相信。
• 积极举报违规行为。发现利用AI技术制作和传播违法不良信息的行为，要及时向有关部门举报。
• 加强学习，提升自身的人工智能素养，正确认识和应用人工智能技术。

鲁迅说：

我认为：这AI本是双刃剑，用之正则利国利民，用之邪则祸乱天下。今有网信办出手整治，固是好事，然更需吾等民众擦亮双眼，明辨是非，方能不被这AI妖风所惑，维护清朗之网络空间。
,,