加速 Gemma 4：使用多标记预测起草器加快推理速度🌐 链接:

1. 17 hours ago

   加速 Gemma 4：使用多标记预测起草器加快推理速度
   
   🌐 链接: https://linux.do/t/topic/2119257
   
   🔍 关键词: #api
   
   🏷️ 分组: LinuxDo论坛
   
   🕒 时间: 2026-05-06 15:21:43

   LINUX DO

   加速 Gemma 4：使用多标记预测起草器加快推理速度

   [!quote]+ 我们为 Gemma 4 系列发布了多令牌预测 (MTP) 绘图仪。通过使用专门的推测解码架构，这些起草器的速度提高了 3 倍，而输出质量或推理逻辑却没有任何下降。