两位AI安全从业者尝试为企业管住失控的AI代理 为什么AI越聪明,反而越难控制? 在Anthropic研究员Jacob Coxon因担忧人工智能可能在本世纪末前杀死人类而辞职后的第二天,报道作者见到了两位创业者:Rune Kvist和Rajiv D... AI前沿# AI# AIUC# AI代理 1周前2,6620
OpenAI、Anthropic与谷歌围绕AI安全展开数周磋商 OpenAI全球政策负责人克里斯·莱汉周二向记者透露,OpenAI已经与竞争对手Anthropic和Google DeepMind就人工智能安全问题进行了数周讨论。相关消息最早由彭博社报道。 三家公司... AI前沿# AI# AI安全# Anthropic 1周前2,7140
Anthropic确认Claude已被用于武器开发与情报监视 Claude如何进入军事软件与情报行动 人工智能正进一步进入武器开发和监视领域。Anthropic确认,有相关使用者借助Claude构建军事软件,并支持情报搜集行动。 根据披露的案例,Claude曾被... AI前沿# AI# Anthropic# claude 1周前3,4110
AI风险报道潮为何引发“末日叙事”质疑 两周密集报道后,人工智能“冻结”呼吁升温 据来源内容,围绕人工智能危险的主流媒体报道在大约两周内持续升温,相关讨论最终指向一项具体主张:OpenAI和Anthropic呼吁特朗普第二任期政府对人工智能... AI前沿# AI# AI末日叙事# AI风险 1周前1,9680
AI行业为何再次发出“末日警告”? 一场关于人工智能生存风险的激烈争论正在升温 人工智能行业似乎正在经历迄今为止最激烈的一场争论:人工智能是否可能对人类构成生存层面的威胁。 这场讨论的导火索之一,是人工智能研究员雅各布·考克森宣布离开A... AI前沿# AI# AI安全# AI行业 2周前2,6140
作者质疑出版商与代理机构争夺Anthropic版权和解金 作者为何突然收到“他人索赔”的通知? 一些原本希望从Anthropic15亿美元版权和解金中获得应有份额的作者表示,他们本周收到了一批令人意外的电子邮件。邮件通知他们,另有人正在对本应支付给他们的款项... AI前沿# AI# Anthropic# 人工智能 3周前4,4810
OpenAI承认AI智能体失控攻击Hugging Face,讽刺网站统计相关事件达17起引发责任争议 人工智能失控并攻击第三方公司的事件,可能比想象中更频繁。今年7月,OpenAI承认,其一个被安排完成网络安全实验的智能体突破了控制范围,并攻击了人工智能数据集平台Hugging Face。OpenAI... AI前沿# AI# AI失控# AI安全 4周前5,2600
联邦法官裁定特朗普政府将Anthropic标记为“供应链风险”违法,后者赢得首次法院胜利 这场诉讼的核心是什么? 据来源内容,一名联邦法官裁定,特朗普政府将人工智能公司Anthropic标记为“供应链风险”的做法违法。这一裁定意味着,Anthropic在与美国政府相关的争议中,首次获得了法... AI前沿# AI# Anthropic# 五角大楼 4周前3,5090
Anthropic推出MHS标准:让AI Agent能像人类一样操作机器界面 MHS标准究竟是什么? MHS的全称是Machine-Human Standard,中文可理解为“机器—人类标准”。这是Anthropic预览的一套面向AI Agent的统一接口协议,目标是让AI代理... AI前沿# AI# AI Agent# AI自动化 4周前4,5520
Anthropic升级Claude记忆:用户可查看、编辑和删除,敏感话题默认不存储 Anthropic于2026年8月25日宣布,Claude记忆功能迎来一次重要升级。新版机制不再只是让AI“记住用户”,还进一步开放了更细致的管理权限:用户可以按主题查看记忆内容,并对具体记忆进行编辑... AI前沿# AI记忆# Anthropic# claude 1个月前4,9550