Groq推LPU-3芯片：每秒5000 token，功耗只有GPU的1/10

📅 2026-08-17 08:05 | ✍️ xibeilang | 💬 暂无评论

📅 2026年08月17日 · 来源：Wired · 🐺 狼眼新闻

Groq今天放出LPU-3，自研语言处理单元把推理速度干到每秒5000 token，功耗却只有GPU的十分之一——跑大模型像开节能灯，能耗比碾压NVIDIA。这芯片专为Transformer架构优化，不走CUDA生态老路，靠确定性计算省掉GPU的调度开销。LPU-3瞄准的是实时推理场景，比如AI客服、代码补全这类高并发任务，理论上能把云服务成本砍半。但开发者得重写优化代码，生态迁移成本不小，NVIDIA的CUDA护城河没那么好跨。