模型量化

本地运行大模型时，最先要解决的往往不是“选哪个模型”，而是“自己的硬件到底能跑什么”。开源项目 llmfit 将这一判断过程收拢为一项更直接的工作：它面向本地硬件匹配大模型，覆盖数百个模型与提供方，并...

端侧AI正在从“能不能运行”转向“如何公平比较”。2026年8月25日，前沿AI公司Liquid AI发布并开源Pipette基准套件，试图解决端侧模型长期缺少统一、可复现评测标准的问题。 这套基准不...