OpenAI全球政策负责人克里斯·莱汉周二向记者透露，OpenAI已经与竞争对手Anthropic和Google DeepMind就人工智能安全问题进行了数周讨论。相关消息最早由彭博社报道。
三家公司为何开始讨论AI安全？
据介绍，莱汉目前在华盛顿，正与美国 lawmakers 就人工智能可能带来的灾难性风险展开工作。三家公司围绕AI安全展开接触，正值行业对前沿人工智能发展速度及其潜在风险的关注持续升温之际。
Anthropic首席执行官此前呼吁什么？
这一消息公布前，Anthropic首席执行官Dario Amodei曾于周六发表文章，呼吁整个行业展开合作，放缓前沿人工智能的发展速度，以避免可能出现的灾难性风险。
Amodei的文章及其行动呼吁得到了多位人工智能行业人士的支持，其中包括OpenAI首席执行官Sam Altman、谷歌的Demis Hassabis以及SpaceXAI的Elon Musk。
OpenAI将如何加强安全监督？
Sam Altman表示，OpenAI将与Anthropic一起，在公司内部引入第三方评估机构，用于对人工智能系统进行安全监测。简单来说，这意味着相关公司不再只依靠内部团队检查模型风险，而是计划借助外部评估者，对系统进行独立观察和评估。
三家公司已经谈了多久？
莱汉周二确认，OpenAI、Anthropic和Google DeepMind围绕人工智能安全问题的讨论已经持续了数周。这也是目前公开信息中，对三家公司沟通时间范围的明确说明。
不过，现有信息并未披露三家公司具体讨论了哪些技术方案、是否已经形成正式协议，以及第三方评估机制将如何执行。相关谈话是否会进一步转化为更明确的行业合作，也仍有待后续发展。
行业合作可能面临什么问题？
包括Altman在内的一些人士已经指出，这类公司之间的讨论也可能让参与者面临风险。由于OpenAI、Anthropic和Google DeepMind既是人工智能领域的重要参与者，也是彼此之间的竞争对手，如何在合作与竞争之间保持平衡，可能成为后续需要面对的问题。
目前可以确认的是，几家主要人工智能公司已经开始就安全问题进行接触；但从现有内容来看，讨论仍处于沟通阶段，具体成果尚未公布。
结语：AI发展越快，安全讨论越不能缺席
前沿人工智能不断加速发展，也让安全问题从单个公司的内部事务，逐渐变成整个行业都必须面对的共同议题。竞争者坐到一起，并不意味着竞争消失，而是说明某些风险可能已经超出了单一公司的处理范围。
我认为：当人工智能跑得越来越快时，真正重要的不只是“谁先抵达”，还包括“抵达之前有没有看清道路”。如果行业愿意在风险面前暂时放下部分分歧，让安全评估接受更独立的检验，那么这场关于未来的竞赛，才不至于只剩下速度，而忘记了方向。
#AI风险
© 版权声明
文章版权归作者所有，未经允许请勿转载。
