标签:MoE架构

Meta发布Llama 4:模型架构大变,AI战略新方向!

Llama 4 发布:Meta 的 AI 战略新方向? Llama 4 有哪些新特性? Meta 发布了 Llama 4,这次并没有追求参数量的“遥遥领先”,而是通过三款模型来重新布局,...

“谷歌发布Gemini 1.5:MoE架构驱动,100万上下文,突破复杂推理任务”

'谷歌发布Gemini 1.5:MoE架构驱动,100万上下文,突破复杂推理任务' ‍ 概述 2024年2月18日,谷歌宣布推出基于混合专家(MoE)架构的Gemini 1.5,旨在通过...