AI全面自动化工作？新创公司Mechanize的狂妄野心与争议

Mechanize公司想要做什么？

Mechanize 是一家目标远大的初创公司，由Epoch AI创始人、AI研究员 Tamay Besiroglu 创立。它的核心目标是：全面自动化所有工作，并最终实现经济无人化。这家公司瞄准的是全球高达 60万亿美元 的劳动力市场，试图用 AI智能体 取代人类岗位。

Mechanize的具体计划是什么？

为了实现其宏伟目标，Mechanize 计划：

1. 打造虚拟工作环境： 创建能够真实模拟现实工作场景的虚拟环境，例如使用电脑、处理长期任务、与他人合作、以及灵活调整优先级等。
2. 构建评估系统： 开发用于评估 AI 智能体在虚拟环境中表现的基准测试和评估系统，从而衡量和改进其能力。
3. 利用强化学习（RL）训练智能体： 通过强化学习，让 AI 智能体在虚拟环境中学习和掌握各种实用技能，使其能够胜任实际工作任务。

为什么要这样做？

Mechanize 认为，AI 的最大价值在于自动化普通的劳动任务，而不是仅仅成为“数据中心里的天才”。他们认为，目前AI模型在可靠性、长上下文处理能力、自主性、多模态以及执行长期计划等方面还存在不足，导致其在工作自动化方面的潜力难以发挥。因此，他们希望通过创建数据和评估体系来弥补这些不足。

Mechanize的底气从何而来？

Mechanize 的创始人 Tamay Besiroglu 通过统计人类的总工资，估算出 Mechanize 的潜在市场规模：美国工人每年总共拿大约 18万亿美元 的工资，全球范围更是高达 60万亿美元。

此外，Mechanize 还获得了包括 Jeff Dean 在内的多名 AI 名流的投资支持。

Mechanize的计划靠谱吗？

Mechanize 的计划引发了巨大的争议。

反对声音：

• 道德层面： 心理学教授 Geoffrey Miller 毫不客气地批评 Mechanize 是“人类的叛徒，我们所有人的敌人”。
• 社会层面： 有网友认为，“自动化经济”就是让人失去工作的经济，会加剧贫富分化，对人类没有任何好处。甚至有人认为这是危害性最大的目标之一。

支持声音：

• Besiroglu 认为，劳动力的完全自动化可以创造巨大的富裕、更高的生活水平，以及今天无法想象的新商品和服务。即使工资可能下降，人们还可以从其他渠道获得收入，例如房租、股息和政府福利。
• 一些人认为，如果每个工人都有智能体来帮助完成更多工作，经济富裕可能会随之而来。

Mechanize的项目有哪些技术问题需要解决？

尽管 Besiroglu 的愿景和使命有些极端，但他要解决的技术问题确值得关注。例如，如何提高 AI 智能体的：

• 可靠性
• 长上下文处理能力
• 自主性
• 多模态能力
• 长期计划执行能力

这些都是目前 AI 技术面临的挑战。

总结

Mechanize 的出现再次引发了人们对 AI 发展的思考。一方面，AI 的发展确实有可能带来巨大的经济效益，提高生产力，改善人们的生活水平。另一方面，AI 也可能导致大规模失业，加剧贫富分化，甚至对人类的未来构成威胁。因此，在发展 AI 的同时，必须重视 科技伦理，制定合理的政策，以确保 AI 的发展能够真正造福人类。