Skip to main content

DGX Spark本地跑Qwen3.6-27B-nvfp4速度分享🌐 链接:

  1. DGX Spark本地跑Qwen3.6-27B-nvfp4速度分享

    🌐 链接: https://linux.do/t/topic/2247924

    🔍 关键词: #api

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-05-26 14:30:04
    LINUX DO
    DGX Spark本地跑Qwen3.6-27B-nvfp4速度分享
    模型选择，请自行下载并准备好以下两个模型 1、Qwen/Qwen3.6-27B-FP8，作用：用来给下方的模型开启MTP 2、sakamakismile/Huihui-Qwen3.6-27B-abliterated-NVFP4 docker镜像 docker pull scitrera/dgx-spark-sglang:0.5.12 给镜像打补丁 mkdir docker-build cd docker-build 输入nano Dockerfile，在其中填写以下内容 # 基于你提供的基础镜像…