ChatGPT的创造者之一，为何对现有AI感到失望？
ChatGPT曾让迪奥戈·阿尔梅达（Diogo Almeida）感到失望。阿尔梅达曾是OpenAI研究员，参与了这款聊天机器人的构建工作，也是基于人类反馈的强化学习（RLHF）这一模型训练技术的发明者之一。
RLHF被认为是推动当前人工智能发展至关重要的技术之一。它能够让模型通过人类评价不断调整输出，从而更好地理解和回应人类语言。
然而，在亲自参与打造ChatGPT之后，阿尔梅达仍然认为，模型虽然能力强大，却没有真正解决自动化应用中的关键问题。他说：“我们手里有瓶中的闪电，但它并没有发挥作用。”
问题到底出在哪里？人工智能可能过度优化了人类语言
阿尔梅达认为，过去几年的人工智能发展，核心方向一直是优化人类语言。模型越来越擅长理解文字、生成文字，也越来越像人一样进行语言交流。
但在自动化场景中，计算机并不主要通过人类语言工作。计算机有自己的表达方式、运行规则和信息处理机制。对机器而言，真正重要的可能不是生成一段看起来流畅的文字，而是作出准确、稳定，并且能够被系统直接执行的判断。
这也解释了阿尔梅达的疑问：如果人工智能一直围绕人类语言进行优化，那么它也许会越来越会聊天，却未必能更好地帮助计算机完成实际任务。
离开OpenAI后，他创办了TypeSafe AI
两年前，阿尔梅达离开OpenAI，创办了TypeSafe AI。这家初创公司的目标，就是解决人工智能“擅长语言，却不够适合自动化”的问题。
从公开介绍来看，TypeSafe AI并没有继续沿着传统大型语言模型的路线前进，而是尝试改变模型与计算机之间的沟通方式。其思路不是让模型输出更多文字，而是让模型直接提供更适合机器使用的结果。
Jev是什么？它为什么不是大型语言模型？
本周，TypeSafe AI发布了一款新的基于Transformer架构的模型Jev。不过，Jev并不是大型语言模型（LLM）。
传统大型语言模型通常以文字作为主要输出形式：用户提出问题，模型生成句子、段落或代码。而Jev的工作方式不同，它不输出文本，而是输出概率。
TypeSafe AI将这种输出称为“经过校准的决策”（calibrated decisions）。简单来说，模型不再优先告诉用户“应该怎样用语言表达”，而是直接呈现不同判断及其对应的可能性。
从“生成文字”转向“输出决策”，意味着什么？
如果一个模型输出的是文字，计算机往往还需要继续解析这些文字，才能判断下一步应该执行什么操作。文字中可能存在歧义，表达方式也可能不够稳定，这会增加自动化系统的处理难度。
而如果模型直接输出概率和决策结果，系统就有可能更直接地利用这些信息。例如，程序可以根据不同选项的概率进行判断，再决定是否执行下一步操作。这样的方式，重点不在于语言是否自然，而在于结果是否适合机器处理。
这正是Jev试图探索的方向：人工智能不一定要表现得更像一个会说话的人，也可以成为一个更适合计算机调用和执行的决策工具。
Jev的核心变化，是放弃把语言当作唯一出口
阿尔梅达对现有人工智能的反思，集中在一个关键问题上：人类语言并不一定是连接人工智能与计算机的最佳方式。
过去四年，人工智能在理解和生成语言方面取得了巨大进步。但在自动化领域，模型最终需要完成的往往不是写出一段漂亮的话，而是作出判断、选择路径，并向其他系统传递可以执行的信息。
Jev的出现，代表了一种不同的模型思路。它仍然采用Transformer架构，却不再把文本生成作为主要目标，而是通过输出概率和“经过校准的决策”，尝试让人工智能更接近计算机真正需要的工作方式。
结语：AI不一定要更像人，也可以更懂机器
从ChatGPT到Jev，阿尔梅达关注的并不是人工智能能否继续生成更流畅的文字，而是这些能力能否真正转化为自动化系统可以使用的结果。语言让机器更容易与人交流，但决策和概率，或许更适合机器之间协作。
我认为：人们总以为机器说得越来越像人，事情就会越来越好；可机器若只学会了人的话，却没有学会怎样把事情做成，那些漂亮的句子也不过是墙上的影子。真正值得期待的人工智能，不只是会回答问题，还应当能够给出稳定、清晰、可执行的判断。 #Transformer
© 版权声明
文章版权归作者所有，未经允许请勿转载。
