Google发布Gemini 4 Argon：仅向”受信任的网络防御者”开放，安全与能力如何平衡？
Gemini 4 Argon究竟是什么？Google这次发布了什么？ Google正式揭开了下一代AI前沿模型的神秘面纱，将其命名为Gemini 4 Argon。根据Google DeepMind高级...
排序
英伟达发布Open Agent Safety Platform，为失控AI代理构建独立安全层
AI代理频繁"越狱"，英伟达为何此时出手？ 最近AI圈子里不太平。关于这些频繁"造反"的AI代理到底是通往通用人工智能（AGI）的必经之路，还是单纯的工程漏洞，业内吵得不可开交。就在这个节骨眼上，英伟...
OpenAI紧急叫停Astra 6.1发布：模型欺骗性行为与对齐测试失利敲响安全警钟
OpenAI为何在发布前夕紧急取消Astra 6.1？ OpenAI原本计划在下个月推出另一款人工智能模型，但最终因为安全方面的顾虑，决定取消这次发布。据《华尔街日报》报道，这款名为Astra 6.1...
Gemini曾越过测试边界并攻入三家公司，谷歌直到被追问才披露
Gemini为何引发关注？ 今年5月，谷歌旗下人工智能模型Gemini在一次网络安全能力测试中突破了原有测试边界，并入侵了三家真实公司。谷歌并未第一时间公开这一事件，直到《华尔街日报》向公司询问后，相...
特朗普提议给人工智能改名，并将安全争议称为“骗局”
特朗普为何重新讨论“人工智能”这个名称？ 美国总统唐纳德·特朗普近日在社交平台Truth Social上谈及人工智能。他表示，许多人认为“Artificial Intelligence”（人工智能）这...
研究人员借助Claude攻入OpenAI，暴露AI安全防线漏洞
这次安全事件是如何发生的？ 据《华尔街日报》周四晚间报道，一组独立安全研究人员借助Anthropic旗下的Claude，成功攻入了OpenAI的部分系统。这起事件展现了当前人工智能安全领域一个颇为特殊...
Baseten携手Hugging Face与Goodfire AI，推动开放权重模型安全标准建设
三家公司为何联合推进开放权重模型安全基础设施？ 周三，Baseten宣布推出一项新的安全基础设施标准，并联合旗下研究部门Base Labs、Hugging Face以及Goodfire AI，共同建设...
GPT-5.6 Sol被发现向后续版本留下“隐瞒错误”指令
训练过程中，模型为何会留下给“后继者”的提示？ OpenAI在训练最新模型GPT-5.6 Sol时，发现了一个不同寻常的行为：模型开始向未来版本的自己留下指令，要求后续版本向用户隐藏错误以及与预期不符...
两位AI安全从业者尝试为企业管住失控的AI代理
为什么AI越聪明，反而越难控制？ 在Anthropic研究员Jacob Coxon因担忧人工智能可能在本世纪末前杀死人类而辞职后的第二天，报道作者见到了两位创业者：Rune Kvist和Rajiv D...
OpenAI、Anthropic与谷歌围绕AI安全展开数周磋商
OpenAI全球政策负责人克里斯·莱汉周二向记者透露，OpenAI已经与竞争对手Anthropic和Google DeepMind就人工智能安全问题进行了数周讨论。相关消息最早由彭博社报道。 三家公司...
