中国信通院完成大模型可信标准征求意见稿
发布时间：2023-09-05
作者：NGAI
自去年以来，大模型技术突飞猛进，为经济社会发展带来新机遇的同时，也产生了诸多风险。在技术层面，大模型研发运营环节PB级别的训练数据量、亿级别的模型参数量和工程落地难度倍增等问题使得其固有的数据风险与模型风险显著放大。在应用层面，大模型的广泛应用与多场景融合更进一步引发了隐私泄露、偏见歧视和技术滥用等风险。如何统筹大模型技术发展和风险防范、共筑大模型可信生态引起社会各界高度关注。
为进一步理清大模型在落地过程中的可信问题，探索通过标准形成大模型可信的落地方法论，中国信息通信研究院（以下简称：中国信通院）于今年3月启动了大模型可信相关标准的研究和讨论工作。经过前期系列的讨论和系统的研究，目前已经形成《大规模预训练模型技术和应用评估方法 第5部分：可信要求》征求意见稿。2023年7月底，中国信通院组织对该征求意见稿的第二次研讨会，来自移动集团、电信集团、联通集团、北银金科、中科院自动化所、北京交通大学、华为、蚂蚁集团、360集团、科大讯飞、浪潮云、新华三、商汤、九章云极、燧原科技、Boss直聘等50余位行业专家参与本次会议。 中国信通院云计算与大数据研究所（以下简称“云大所”）人工智能部工程师吴思奇介绍了大模型可信的前期研究、工作进展及未来工作安排。 中国信通院云大所人工智能部工程师丁怡心组织讨论了标准文稿。该文稿共分为基础设施可信、数据可信、算法模型可信、应用可信4个能力域，评价体系贯穿大模型研发、运营、应用全过程。随后与会专家针对标准文稿展开讨论，围绕硬件设备可信、软件设备兼容性、数据采集、数据处理、模型可信、应用服务合规性等方面进行充分探讨及交流。 ❖ 目前，大模型可信标准研制工作持续推进，预计将于9月上旬正式发布，并于9月中旬开启评估测试。欢迎感兴趣的单位报名参与共建。 联系人： 丁老师 13641208925 dingyixin@caict.ac.cn 吴老师 15927505636 wusiqi@caict.ac.cn