GPU推理时代终结？世界最大芯片加持推理狂飙20倍，英伟达H100也被干趴！📡

曾造出世界最大芯片公司Cerebras，刚刚发布了全球最快的AI推理架构——Cerebras Inference。 运行Llama3.1 8B时，它能以1800 token/s的速率吐出文字。 另外，对于70B参数的Llama3.1，可达到450 token/s及时响应。 最关键的是，价格还实惠。 根据官方API定价，Llama 3.1 8B每百万token仅需10美分，Llama 3 70B每百万token仅需60美分。 Cerebras 推理 API 提供了性能、速度、准确性和成本的最佳组合。它以每秒…