大小模型协同的智能任务处理架构研究🌐 链接:

摘要 随着大语言模型能力的快速发展，单一大模型已经能够完成复杂推理、代码生成、文档写作和工具调用等任务。然而，在实际应用中，完全依赖大模型处理所有请 求会带来成本高、响应慢、上下文浪费和任务调度不灵活等问题。为解决这些问题，本文提出一种大小模型协同的智能任务处理架构：用户需求首先进入小模型， 由小模型进行意图识别、任务分类、复杂度判断和初步处理；当任务超出小模型能力范围时，再转交给大模型进行高层推理、方案制定或专家级解答。大模型不必 直接执行所有细节操作，而是可以生成任务指南、执行计划或判断标准，…