Skip to main content

Strata + Qwen 3.8 Flash Next 5090单卡就可以招呼 decode 200+tks/s🌐 链接:

  1. Strata + Qwen 3.8 Flash Next 5090单卡就可以招呼 decode 200+tks/s

    🌐 链接: https://linux.do/t/topic/3054493

    🔍 关键词: #api #gpt

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-10-21 16:43:36
    LINUX DO
    Strata + Qwen 3.8 Flash Next 5090单卡就可以招呼 decode 200+tks/s
    32G单显卡跑出这种decode 200tks/s， 使用的ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF,千万不要以为IQ3而去认为质量不行，多来几轮，确实能打 btw： 对应的Strata已经更新到v0.2.1，注意需要使用api key，本地记住即可