07:36 · Aug 28, 2024 · Wed 使用llama-factory进行lora微调后,推理正常,但是tools调用异常📡 https://linux.do/t/topic/187511🔍 api🏷️ DO论坛🕒 2024-08-28 15:35:53 LINUX DO 使用llama-factory进行lora微调后,推理正常,但是tools调用异常 通过llama-factory对glm-9b-chat模型进行lora微调, 使用Supervised Fine-Tuning,主要是微调自我意识, 然后将微调后的模型导出, 修改GLM-4-main/basic_demo/openai_api_server.py文件,设置MODEL_PATH = ‘/opt/glm-9b-chat-lora’, 启动openai_api_server.py,通过接口正常的推理没有问题,一切正常 然后进行tools调用时报错,报错信息如下: ERROR: …