AI芯片赛道又杀出一匹黑马。Groq今天发布自研LPU-3，推理速度比上一代提升10倍，直接对标英伟达的GPU产品线。LPU（语言处理单元）和GPU走的是完全不同的路子，它专为推理任务设计，不像GPU那样兼顾训练和渲染，所以在大模型推理场景下能实现更低的延迟和更高的吞吐量。Groq这次还强调能效比提升，同样的推理任务，功耗只有英伟达H100的六分之一。如果这数据属实，数据中心运营商的电费账单会大幅缩水。不过，英伟达的CUDA生态依然是最大的护城河，开发者迁移成本不低。对云服务商来说，多一个选择就意味着多一份议价空间，最终受益的可能是我们这些终端用户——算力成本有望进一步下降。

WolfEye: GPU独霸AI芯片的时代开始松动，专用推理芯片正在撕开英伟达的生态防线。