中国信通院联合发布《大模型治理蓝皮报告（2023年）——从规则走向实践》

近一年来，以ChatGPT为代表的大模型技术引发通用人工智能新一轮发展热潮，成为改变世界竞争格局的重要力量。与此同时，围绕人工智能治理的议题探讨显著增多，全球人工智能治理体系加速构建。我国人工智能治理框架和治理规则日渐成熟完善，积极开展技术工具和评估方法研发落地，推动人工智能治理从规则走向实践，力图为全球人工智能治理提供可行方案。

2023年11月24日，中国信息通信研究院和中国科学院计算技术研究所在“2023江西国际移动物联网博览会”上发布了《大模型治理蓝皮报告（2023年）——从规则走向实践》。中国信通院政策与经济研究所所长辛勇飞对蓝皮报告进行了深度解读。

蓝皮报告首先分析了大模型技术变革引发的风险挑战，提炼出大模型治理基本框架；然后聚焦各方高度关注的四大议题，探讨相应制度方案，同时挖掘欧美等主要国家和地区在大模型治理领域最新动态趋势；最后聚焦到我国以事前备案、全流程评估、事后溯源检测为代表的大模型治理落地实践，期望为完善大模型治理体系提供有益参考。

报告核心观点

1. 大模型变革带来的风险挑战

大模型基于大数据、大算力、多模态的技术优势，实现了从感知世界、理解世界向创造世界的跃迁，成为内容生产方式的“颠覆者”、通用人工智能的“先行者”、人机交互的“协作者”。技术变革的同时带来四维度风险挑战，大模型幻觉、涌现效应等加剧模型自身风险，大模型技术滥用、情感计算等侵犯个人人格尊严，大模型版权侵权、数据泄露等危及企业商业秘密等利益，同时在就业替代、加深数字鸿沟等方面冲击社会稳定。

2. 大模型治理聚焦四大核心议题

一是探索数据治理规则，构建高质量训练数据。关注数据流通共享、数据标注、合成数据应用等，积极探索数据来源合法性基础、透明度保障、删除权等权利困境。二是创新知识产权保护，优化从训练数据的输入端的版权治理到人工智能生成物输出端的版权保护，激励技术创新。三是探索大模型伦理治理应对策略，探索RLHF、解释性等价值对齐方案，确保大模型可控可信。四是强调信息内容治理，标识工具和平台责任成为信息内容治理的主要抓手。

3. 全球大模型治理最新动态趋势

全球大模型治理体系加速构建。美国从各部门松散式行业治理走向拜登政府统筹的政府集体行动，总体仍体现“对内发展、对外竞争”的治理内核。欧盟继续发挥人工智能治理领域的布鲁塞尔效应，加紧推进《人工智能法案》的制定进程。英国力图以促进创新的监管方法引领全球治理，打造本土产业发展优势。联合国、G7和金砖等国际组织在大模型治理国际合作中各显其能，各有侧重推动大模型治理的国际化进程。

4. 探索我国大模型治理的主要落地工具

事前阶段，我国通过备案制度推进大模型实现面向监管的透明度，报告梳理了备案要求和备案现状。在风险动态管控方面，我国主张全流程安全评估，各界积极推进安全评估标准化、智能化，目前学界业界发布了各类评测工具和评测平台，但存在评价方式、标准不统一、评估结果差异大等问题。事后溯源检测方面，我国探索基于隐式标识的检测、基于内容分布的检测等技术工具，实现细粒度来源追踪和责任追溯。

报告目录

一、大模型治理的重要性紧迫性凸显

（一）大模型技术浪潮兴起    

（二）大模型引领数字化变革

（三）大模型带来的典型风险

二、技术变革下大模型治理框架日渐明朗    

（一）治理模式：敏捷治理成为国际较为通行的治理方案

（二）治理主体：激励多元主体协同治理成为全球共识    

（三）治理机制：软硬兼施推进大模型治理

三、聚焦大模型治理核心议题规则    

（一）数据治理规则    

（二）知识产权保护    

（三）伦理问题治理    

（四）信息内容治理    

四、把握全球大模型治理最新动态趋势 

（一）美国从松散碎片式治理逐步趋向体系化治理

（二）欧盟继续发挥人工智能治理领域布鲁塞尔效应  

（三）英国力图以促进创新的监管方法引领全球治理  

（四）国际组织在大模型治理国际合作中各显其能

五、探索我国大模型治理主要落地工具  

（一）事前备案

（二）全流程评估  

（三）事后溯源检测    

六、完善我国大模型治理体系的思路建议    

（一）确立促进创新的人工智能敏捷治理理念  

（二）聚焦人工智能场景应用细化制度方案

（三）立足当前治理实践创新人工智能治理工具    

（四）激励企业积极管控风险以推动平台合规    

（五）促进全球人工智能合作治理体系构建

主要专家简介

中国信通院政策与经济研究所高级工程师

 程莹 

主要从事人工智能治理、算法治理、平台治理等研究工作，深度支撑多项人工智能、算法相关立法政策起草工作，曾在《法律科学》《光明日报》等期刊发表论文多篇，主持发布《算法治理蓝皮书（2022年）》等研究报告。

中国信通院政策与经济研究所工程师

刘志鹏

主要从事平台、算法、数据的治理研究，深度参与算法反垄断、平台经济公平竞争等领域政策研究与咨询工作。参与编著《算法治理制度之竞争规制》，参与多项部委、地方文件起草。

更多精彩，敬请阅读解读PPT。

版权声明：本报告版权属于中国信息通信研究院、中国科学院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院、中国科学院”。违反上述声明者，编者将追究其相关法律责任。

撰写团队联系方式：

中国信通院

政策与经济研究所

程莹

010-62301327

chengying@caict.ac.cn

点击“阅读原文”，下载报告。

校  审 | 谨  言、珊  珊

编  辑 | 凌  霄

推荐阅读