一种基于端云协同的大模型生态在线进化学习方法及应用

本发明提供一种基于端云协同的大模型生态在线进化学习方法及应用，并将其应用于电商领域，实现了电商模型的高效训练与部署。该方法采用端云协同架构，云端部署大语言模型，端侧使用中小型语言模型，二者通过协同工作实现大模型生态的高效训练和推理。在训练过程中，云端模型作为教师模型，生成伪标签以补充数据集，指导端侧模型的优化训练。同时，引入多模型协作的自训练机制，多个模型扮演不同角色并相互讨论，自主生成训练标签，进一步优化端侧模型。与此同时，用户反馈信息将被纳入云端模型的提示词中进行情境学习，从而持续优化模型性能。本发明将该方法应用于电商场景，成功构建并部署了电商模型生态，实现了该领域的智能化发展。
复旦大学
宋梁 | 滕梁宇 | 刘洋 | 郭俊岑 | 刘靖