国内大模型“深脑”把稀疏注意力玩到极限,推理成本砍到每百万token仅0.8元

📅 2026-08-08 00:09  |  ✍️ xibeilang  |  💬 暂无评论

2026年08月08日 | Source: 36氪 | WolfEye World

国产大模型“深脑”今天宣布在稀疏注意力机制上取得突破,推理成本直接打到每百万token仅0.8元,这价格比行业平均水平低了一个量级。稀疏注意力技术的本质是让模型不再对每个词都“一视同仁”,而是学会挑重点看,大幅减少计算量。成本降下来,意味着中小企业和开发者也能用得起顶级大模型做应用,不再是大厂的专属游戏。不过,稀疏化带来的精度损失和长文本场景下的稳定性,依然是悬在头上的达摩克利斯之剑。

WolfEye: 推理成本打骨折,AI应用普及的春天可能真要来了。

— WolfEye World

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注