大模型运营标准研讨会顺利召开
会议时间：2023-09-06
会议类型：
随着大规模预训练模型（以下简称“大模型”）热度不断攀升，大模型与各行各业的深度融合正在塑造全新的数智化转型路径。当前，企业迫切寻求大模型落地场景，以实现生产方式的变革、任务性能的优化和员工效率的提高。然而，大模型工程化的路径尚不明朗、专有模型的二次开发成本高、底层资源管理复杂、部署上线过程耗时长等问题成为了大模型赋能千行百业的阻碍。在此背景下，中国信息通信研究院云计算与大数据研究所（以下简称“中国信通院云大所”）已展开对大模型运营（LMOps）体系的研究，并启动《大规模预训练模型技术和应用评估方法 第3部分：模型运营》（以下简称“大模型运营标准”）标准编制，为专有大模型的构建、模型服务和应用的落地提供参考。 图1：LMOps示意图
2023年6月30日上午，中国信通院云大所举办的“大模型运营标准专题研讨会”在京成功召开。本次研讨会邀请了来自上海浦东发展银行、中移信息技术中心、中国移动研究院、北京中关村科金、腾讯、天云数据、好未来、科大讯飞、燧原科技、北京奇虎科技、启明星辰、万达信息、星鲸科技、北京熵简科技、思谋科技、360集团、浪潮通信（排名不分先后）等单位的多位专家，围绕大模型运营标准内容、大模型工程化应用现状等话题进行研讨交流。 图2：会场照片 研讨会由中国信通院云大所人工智能部高级业务主管秦思思主持，她从当前大模型处于百家争鸣的局面为起点，阐述了大模型发展历程、行业对大模型平台的需求，分析了部分企业在大模型落地过程中面临的困难，并详细介绍了大模型运营标准后续规划。中国信通院云大所人工智能部工程师胡慧，围绕大模型平台的数据处理和回流、模型训练与微调、模型压缩与测试、服务部署与托管、平台支撑能力等环节进行内容讲解，分别对各能力子域的基础功能和高级功能的技术要求做了详细介绍。 图3：主要参编单位 随后，与会专家学者们集思广益，对征求意见稿开展深入交流，并提出了诸多宝贵意见和建议。同时围绕大模型工程化落地等关键问题，特别是针对私有数据面临的隐私风险、信息孤岛问题，分享宝贵经验并探讨面临的瓶颈，为大模型稳着陆提供实践价值，为标准的持续优化提供宝贵信息。 ❖ 中国信通院云大所将以此为基础，继续推动大模型工程化的创新发展，助力企业级大模型应用快速落地，为社会创造更多价值。大模型运营标准将于近期正式发布，一方面为应用方企业使用大模型赋能业务提供参考，另一方面为大模型平台方企业优化和迭代产品能力提供指导，欢迎更多企业和专家的参与，有意者请与以下老师联系。 联系人： 胡老师 17371328072（微信同号） huhui@caict.ac.cn 齐老师 15501080011（微信同号） qijing1@caict.ac.cn 秦老师 13488684897（微信同号） qinsisi@caict.ac.cn