Skip to main content

实测Qwen3.8-27B / GLM 5.3 / V4F -- 秦始皇骑北极熊🌐 链接:

  1. 实测Qwen3.8-27B / GLM 5.3 / V4F -- 秦始皇骑北极熊

    🌐 链接: https://linux.do/t/topic/2758684

    🔍 关键词: #api

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-08-15 16:27:13
    LINUX DO
    实测Qwen3.8-27B / GLM 5.3 / V4F -- 秦始皇骑北极熊
    最近V100 32G降到3500左右了，又开始手痒想自部署 于是租了台32G V100，实测了一下Qwen3.8-27B，供大家参考 跑的是Unsloth的GGUF量化版 Qwen3.8-27B-UD-Q4_K_XL 显存占用 256K+MTP+8位KV：显存占用 28,644M Prefill速度测试（45K文字输入）： 60,000 字符 → 45,802 token，耗时 83.75 秒，平均 546.9 token/秒 （瞬时峰值速度在 600–800 token/秒，随上下文变长逐渐降到约…