Skip to main content

TeslaT4显卡跑模型真的不中用吗，主要用来沉浸式翻译🌐 链接:

  1. TeslaT4显卡跑模型真的不中用吗，主要用来沉浸式翻译

    🌐 链接: https://linux.do/t/topic/2025720

    🔍 关键词: #api

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-04-22 09:35:53
    LINUX DO
    TeslaT4显卡跑模型真的不中用吗，主要用来沉浸式翻译
    我现在8卡的T4显卡，单卡16G，跑Qwen3.5-9B-Q4_K_M.gguf cli下测试的结果如下，速度都还行 8卡结果：[ Prompt: 71.2 t/s | Generation: 23.7 t/s ] 单卡结果：[ Prompt: 78.2 t/s | Generation: 29.8 t/s ] 双卡结果：[ Prompt: 222.0 t/s | Generation: 37.9 t/s ] 双卡结果：[ Prompt: 86.2 t/s | Generation: 38.0 t/s…