哪些机构联合发出了安全警告？
OpenAI、Anthropic、Google以及超过100家AI公司和研究机构联合发表声明，呼吁国际社会立即采取行动，应对失控AI（rogue AI）可能带来的安全风险。
这份声明并非来自单一企业，而是由众多AI公司和研究机构共同提出，反映出AI行业对安全问题的关注，已经从个别机构的内部讨论，转向更广泛的集体行动。
为什么必须立即采取行动？
联合声明指出，随着AI系统能力快速提升，防止恶意使用和失控行为的保障措施却明显滞后。
也就是说，AI的能力正在迅速增强，但与之配套的安全审查、部署评估、跨国协作和企业责任机制，并没有同步完善。当技术发展速度超过安全保障的建设速度，AI就可能面临被恶意使用或出现失控行为的风险。
这份声明提出了哪四项关键建议？
一、建立AI模型安全审计标准
声明建议建立统一的AI模型安全审计标准，让AI模型在安全性方面具备可以检查、评估和对照的依据。
有了相对明确的审计标准，不同AI模型的安全状况就能够接受更加规范的检验，也有助于发现模型可能存在的风险。
二、实施部署前强制安全评估
声明提出，应在AI系统正式部署前，实施强制安全评估。
这意味着，AI系统不能只关注功能是否强大、应用是否方便，还需要在投入使用之前完成必要的安全检查，尽可能提前发现问题，而不是等到风险发生后再补救。
三、设立跨国AI安全协调机制
由于AI安全风险并不局限于单一企业或单一地区，声明建议设立跨国AI安全协调机制，推动不同国家、地区以及相关机构之间展开协作。
这一机制的重点，在于加强各方在AI安全问题上的沟通和配合，避免不同主体各自行动、彼此脱节。
四、为前沿AI开发企业制定责任框架
声明还建议，为前沿AI开发企业制定明确的责任框架。
当企业开发和部署能力更强、影响范围更大的AI系统时，也需要承担与其技术能力相匹配的责任。责任框架的建立，有助于明确企业在AI安全问题上的职责。
这份联合声明意味着什么？
这被认为是AI行业迄今规模最大的集体安全倡议。它所体现的不只是对失控AI风险的担忧，也反映出行业安全治理思路正在发生变化。
过去，AI企业和研究机构可能更多按照各自的方式推进技术发展；而这份联合声明则显示，行业正在从各自为政转向协同防御。
这种转变意味着，面对AI能力快速提升所带来的安全问题，单个企业的力量可能并不充分，行业之间、机构之间以及国际社会之间的协作，正在成为应对风险的重要方向。
结语：技术越快，安全建设越不能迟到
AI的发展速度令人瞩目，但安全保障如果长期滞后，技术进步就可能伴随更大的不确定性。此次由OpenAI、Anthropic、Google以及超过100家AI公司和研究机构共同发出的声明，至少说明了一点：AI安全已经不再只是某一家企业的内部问题，而是需要行业共同面对的现实议题。
我认为：人们总是在工具变得强大之后，才想起为它安装缰绳；而当AI已经奔跑起来，安全就不能再停留在口号里。建立审计标准、部署前评估、跨国协调机制和企业责任框架，未必能让风险从此消失，却能让人类在面对风险时，不至于只剩下惊慌。技术可以向前，但安全必须同行。
#科技治理
© 版权声明
文章版权归作者所有，未经允许请勿转载。
