Anthropic自动化AI开发报告引发研究者担忧

Anthropic使用AI加速自身AI开发

Anthropic正在利用AI来构建更强大的AI系统，这一过程似乎效果显著，据该公司最新模型数据显示，AI研究与开发进展速度大约是去年的两倍，几乎没有放缓的迹象。

METR报告揭示AI加速发展现象

AI安全研究组织METR发布的最新报告显示，AI正在戏剧性地加速Anthropic的研究与开发过程，尽管该公司公开呼吁放慢AI发展速度，但其模型改善速度仍保持惊人势头。

调查背景与独立性

报告基于METR对Anthropic进行的11周深入调查得出，探针工作独立于夏季高调黑客事件后推出的为安全研究人员提供“类似员工”式系统访问计划。

研究者对AI自我改进的警觉

这些发现提供了AI加速自身开发的最新最清晰证据，引发研究者对AI技术能否快速推进至AI系统能够自我改进的未来阶段的深层担忧。