国内大模型“深脑”把稀疏注意力玩到极限,推理成本砍到每百万token仅0.8元
📅 2026-08-08 00:09 | ✍️ xibeilang | 💬 暂无评论
2026年08月08日 | Source: 36氪 | WolfEye World
国产大模型“深脑”今天宣布在稀疏注意力机制上取得突破,推理成本直接打到每百万token仅0.8元,这价格比行业平均水平低了一个量级。稀疏注意力技术的本质是让模型不再对每个词都“一视同仁”,而是学会挑重点看,大幅减少计算量。成本降下来,意味着中小企业和开发者也能用得起顶级大模型做应用,不再是大厂的专属游戏。不过,稀疏化带来的精度损失和长文本场景下的稳定性,依然是悬在头上的达摩克利斯之剑。
WolfEye: 推理成本打骨折,AI应用普及的春天可能真要来了。
— WolfEye World