刚刚! Kimi的支持能力从20万字跃升至200万字,月之暗面引领“长文本革命

AI前沿1个月前发布 wanglu852
3,305 0 0
广告也精彩

在今年2月底的《每日经济新闻》采访中,月之暗面公司强调了探索长篇幅文本处理技术在迈向通用人工智能(AGI)过程中的关键作用,他们提出,“在一定意义上,问题的本质都与上下文的长度有关。”

刚刚! Kimi的支持能力从20万字跃升至200万字,月之暗面引领“长文本革命

3月18日,该公司宣布其开发的大型模型技术在处理长上下文信息方面取得了新进展,其开发的Kimi智能助手现已能够处理高达200万字超长上下文信息,并且已经开始了产品的内部测试阶段

刚刚! Kimi的支持能力从20万字跃升至200万字,月之暗面引领“长文本革命

去年10月,当Kimi智能助手首次亮相时,其支持的最大无损上下文长度20万字,这一数字在当时的大型模型产品中是最高的。而经过五个月的发展,月之暗面已经将这一性能提升至一个全新的高度

根据OpenAI的计算方式,Kimi智能助手最初能够处理的20万字大约相当于400,000个token(语言模型中的最小文本单位)。与此同时,同期的大型模型Claude最大能处理的长文本长度为100,000个token。而在今年2月27日,零一万物推出的Yi大模型API,其中Yi-34B-Chat-200K版本能够处理大约20万到30万个中英文字符

此外,Kimi智能助手国内AI产品中的用户增长速度十分显著。根据“Ai产品榜(aicpb.com)”发布的数据,2024年2月,Kimi智能助手的访问量达到了305万次,1月份则为142万次,连续两个月的访问量在所有大型模型创业公司产品中位列前茅。

随着大型模型无损上下文长度的显著增加,用户将会体验到哪些全新的应用场景呢?

月之暗面公司介绍说,上下文长度的增加将进一步激发用户对AI应用场景的想象,这包括但不限于完全理解代码库、自动完成多步骤任务的智能代理、不遗漏关键信息的终身个人助理以及真正统一的多模态模型等。

对于新提升后的模型能力,月之暗面通过一个具体例子来说明其影响:之前需要10000小时才能成为某个领域的专家,现在仅需10分钟Kimi智能助手便能快速达到该领域初级专家的水平。

同时,指令遵循能力也是大型模型的一个显著特点,这与其上下文学习能力密切相关。

月之暗面在之前接受《每日经济新闻》的采访中提到,Kimi智能助手在理解和生成中文内容方面的表现,受到投资机构大型企业的高度评价,其“中文处理能力OpenAI不相上下”。

自产品推出以来,根据用户反馈,Kimi智能助手多轮交互长指令遵循能力成为了其一大亮点。

《每日经济新闻》了解到,目前月之暗面的团队人数已超过80人,其中绝大多数为技术人员,且团队规模仍在不断扩大。

“我们正在制造一架火箭,每天讨论应当加入何种燃料以使其飞得更快。”月之暗面在今年3月初的一次招聘活动中,在官方公众号上发表了这样的言论。从20万字200万字的能力跃升,充分证明了月之暗面正全力以赴推动大型模型应用迈入“长文本时代”。

© 版权声明
chatgpt4.0

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...
error: Content is protected !!