一场关于人工智能生存风险的激烈争论正在升温
人工智能行业似乎正在经历迄今为止最激烈的一场争论：人工智能是否可能对人类构成生存层面的威胁。
这场讨论的导火索之一，是人工智能研究员雅各布·考克森宣布离开Anthropic。他表示，自己担心当前领先的人工智能公司正在“拿我们的生命赌博”。这句话迅速引发关注，也把行业内部对于人工智能安全风险的担忧推到了公众面前。
Anthropic内部人士为何公开宣称人工智能可能毁灭人类
考克森离职后，Anthropic负责对齐工作的负责人也发表了相关言论。他在帖子中写道：“我们真的、诚恳地相信，人工智能可能会杀死所有人！”
他进一步表示，自己认为这种情况在未来十年内发生的概率“超过10%”。这一判断极为严重，因为它并不是对某项具体技术缺陷的担忧，而是直接涉及人工智能是否可能导致人类整体毁灭。
当类似观点来自人工智能公司的内部研究人员时，外界自然会更加重视。毕竟，这些人长期参与模型研发、安全研究和风险评估，他们的公开警告很容易被理解为对行业发展方向的直接质疑。
“人工智能末日论”究竟可信度如何
在TechCrunch的Equity播客最新一期节目中，主持人克尔斯滕·科罗塞克、肖恩·奥凯恩等人讨论了近期不断出现的末日式警告。
讨论的一方对许多人工智能末日叙事持怀疑态度。原因在于，行业中的一些警告往往直接跳到“人工智能将毁灭人类”这一极端结论，却没有在公开讨论中充分呈现支撑这一判断的具体依据、推演过程以及应对路径。
换句话说，承认人工智能存在重大风险，并不等于必须接受所有关于“人类必将毁灭”的叙事。风险评估需要区分不同层次：模型失控、错误决策、滥用风险，以及真正意义上的人类生存危机，并不能被简单地混为一谈。
这些警告会不会也是一种展示实力的方式
节目中，克尔斯滕·科罗塞克提出了另一个值得注意的问题：这些末日警告，会不会只是人工智能公司展示自身技术先进程度的一种特殊方式？
她认为，相关公司或许是在暗示：我们的人工智能模型已经强大到足以带来前所未有的风险。这种表达虽然看似是在警告公众，却也可能间接强化公司在行业中的技术形象。
尤其是在这些人工智能公司准备上市的背景下，关于技术能力、潜在风险和未来影响的讨论，可能同时具有安全意义与商业意义。一家公司越是强调自身模型的强大，越容易吸引市场关注；但模型越强大，外界也越会追问它是否安全、是否可控，以及公司是否真正做好了应对风险的准备。
人工智能公司的上市文件会如何呈现这些风险
肖恩·奥凯恩则关注另一个现实问题：这些风险担忧将如何出现在Anthropic提交的S-1上市注册文件中？
如果一家人工智能公司公开承认，其技术可能带来极端严重的后果，那么相关风险是否会在上市文件中得到明确说明，就成为一个重要问题。上市文件通常需要让投资者了解公司的业务、风险以及可能影响未来发展的因素，因此，人工智能安全风险或许不能只停留在研究人员的公开帖子和媒体讨论中。
节目中还提出了一个带有调侃意味、但并不轻松的问题：面对这类风险，公司的初级律师是否也会参与讨论？这个问题实际上指向了更深层的矛盾——人工智能风险究竟只是技术部门的内部议题，还是已经成为企业治理、法律责任和资本市场都必须面对的问题。
末日警告背后的真正争议是什么
当前争论的核心，并不只是“人工智能会不会毁灭人类”这一句极端表述，而是人工智能公司应当如何面对自身技术可能产生的后果。
一方面，研究人员的警告提醒人们，人工智能的发展不能只围绕模型能力和商业速度展开，安全性、可控性以及潜在的极端后果同样需要被认真对待。
另一方面，过于笼统、过于惊耸的末日叙事，也可能让公众难以判断真正的风险在哪里。若没有清晰的证据和具体说明，“人工智能可能毁灭人类”就容易从严肃的安全警告，变成一种难以验证的口号。
因此，真正重要的并不是谁喊出了最严重的警告，而是这些警告能否转化为清晰的风险说明、可执行的安全措施，以及对企业责任的具体要求。
我认为：
人工智能的确可能带来人类尚未完全理解的风险，但越是严重的判断，越需要谨慎、证据和具体的解释。把技术说得足够强大，或许能制造震动；把风险讲得足够清楚，才真正有助于解决问题。人工智能公司不能一边借助“可能毁灭人类”的说法证明自身技术先进，一边又回避由此产生的责任。面对未来，真正值得警惕的，不只是机器会变得多么强大，也包括人类是否愿意在追逐速度和利益时，认真回答“谁来负责”这个问题。
#科技伦理
© 版权声明
文章版权归作者所有，未经允许请勿转载。
