RTXpro6000大战Qwen 27B 8位版本🌐 链接:

1. an hour ago

   RTXpro6000大战Qwen 27B 8位版本
   
   🌐 链接: https://linux.do/t/topic/2761529
   
   🔍 关键词: #api #gpt
   
   🏷️ 分组: LinuxDo论坛
   
   🕒 时间: 2026-08-16 15:09:22

   LINUX DO

   RTXpro6000大战Qwen 27B 8位版本

   基本之前chatgpt这种大模型常见翻车的问题都能答对，速度60左右，显存只占了1/3。 上下文拉满到 26w token 作为api 给 agent 用能跑到一半显存（45G+）。