Skip to main content

怎么蒸馏GPT🌐 链接:

  1. 怎么蒸馏GPT

    🌐 链接: https://linux.do/t/topic/2969023

    🔍 关键词: #api #gpt

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-09-30 10:24:15
    LINUX DO
    怎么蒸馏GPT
    公司准备训练一个垂直领域的大模型, 只进行SFT微调, 我的任务就是准备SFT微调的训练数据. 我有的是一个GPT20x的订阅和一些deepseek的官网token, 我只管负责提供训练数据, 具体的训练由其他人负责, 听说是有几台8卡h100可以用, 不知道申请到几台, 基模是qwen27B/30B 目前工作流 1.向GPT6 Pro要求调研某领域具体应用场景, 来让GPT6 Pro自行填充大量上下文 2.伪装场景, 比如我需要出一些考试或者评测人员的题目, 让GPT6 Pro制定计划 3.把计划扔到work执行…