文|饶少阳
近年来，人工智能的发展势如破竹，在金融、教育、医疗等行业，以及软件编程、自动驾驶等领域展现出极大的应用潜力，成为驱动全球数字经济发展的重要动力。与此同时，人工智能的快速发展也对实现技术应用和规范约束应用之间的平衡提出了更高要求。
人工智能治理（AI治理）是指国际组织、政府机构和AI企业等通过建立敏捷有效的监管方式，把AI打造成安全可信、风险可控、造福人类的新型生产工具的过程，旨在“促进”和“约束”之间寻找博弈平衡，以保障人类在享受AI技术发展红利的同时，基本权益得以保障。AI治理关系着全球经济的发展和人类的共同命运，正在成为世界各国的共同课题。
全球AI治理的演变
随着AI技术的发展和实践，AI治理的主要内容从鼓励AI创新演变成规制和创新协同，当前正走向全球合作治理，各国政府的态度和关注重点也在不断发生变化。
2016年到2019年期间，全球人工智能头部前驱企业和行业联盟等在各大技术论坛、公开讨论中不断抛出关于科技与伦理的话题，旨在探索颠覆性技术的治理实践，比如伦理准则、算法原则等。这个阶段，鼓励AI创新和开放AI市场逐渐成为企业呼吁的主基调。为避免在全球AI竞争中落伍，各国政府对AI发展也主要持包容性态度，更多关注人工智能发展和产业规划布局，鲜有约束。
2020年到2022年期间，随着AI技术应用范围扩大和深度拓展，人工智能对全球经济和国家安全的影响日益引发关注。国际组织和研究机构开始高度关注人工智能可能带来的多重风险，各国政府开始广泛开展人工智能领域治理框架、技术标准、应用规范和相关政策的讨论和拟定。治理内容不仅包括AI使用数据的安全性，还包括AI算法的透明度、公正性和责任性。
2022年至今，尤其是在以生成式人工智能（GenAI）为代表的技术快速迭代和ChatGPT为代表的新型生产工具浮现后，产业发展实现跃迁，应用范围从专用于单一场景迈向多个领域的通用场景，主要能力从“感知、判断”转向“理解、生成”。生成式AI治理的重要性和紧迫性迅速提升，各国政府均加速了生成式AI治理政策的制定颁发。与此同时，各国政府已经意识到单一国家难以左右生成式AI发展治理，必须依靠全球力量才能实现有效治理。
在此背景之下，全球AI治理主要呈现以下特点：
第一个特点是多元共治，治理思路多样化。当前，参与AI治理的主体众多，不同主体依据自身角色属性采取不同的AI治理手段。从国家层面来看，各主权国家正通过颁布政策文件、成立统筹机构、发布指导框架等方式，逐步加强人工智能监管与统筹，以确保人工智能的健康发展并应对潜在风险；从国际组织层面来看，以联合国为代表的国际组织在AI治理方面提出倡议、建立共识，推动各国针对人工智能发展表达合理关切、寻求解决方案；从科技企业层面来看，科技企业通过签署承诺书、实施最佳实践、设定风险阈值等自律方式，大力推动全球人工智能技术的安全和可靠。
在治理思路方面，全球AI治理的差异化也十分显著。先是治理理念分化，欧盟坚持伦理优先的治理模式，警惕AI技术和AI应用可能带来的伦理风险；美国坚持创新优先原则，确保AI企业在技术和产业领域保持全球领先地位；我国则兼顾AI伦理治理和创新发展，秉持审慎稳健的同时兼顾产业创新。再是治理架构形态不一，欧盟采取高效的伞形垂直治理架构，形成从欧盟到成员国再到企业层面的垂直治理体；美国倾向于行业主导、分散监管审查的治理架构。
第二个特点是全球AI治理的话语权争夺显著加剧。当前全球AI治理规则尚不明确，各国纷纷争取AI治理的制高点和话语权，全球各主要经济体和国际组织正积极研究制定AI治理规则，如欧盟理事会正式批准《人工智能法案》，以期继续在AI治理领域发挥“布鲁塞尔效应”，引领全球AI治理规则的建构。同时，美国、加拿大、日本、韩国、新加坡、巴西等国积极布局并陆续开展实质性立法和监管工作，争取在人工智能监管领域的话语权。部分西方发达国家更是利用自己在技术和产业方面的优势地位，通过各种平台不断打造AI治理的“小圈子”，希望把主导人工智能国际规则的能力控制在少数国家内部，寻求在全球新一轮科技治理规则制定中占据主导位置，并且坚持本国利益至上的基本思路，推动将本国国内规则国际化。
第三个特点是全球AI治理对治理机制敏捷性的需求更加突出。人工智能有着演化自主、迭代迅速、权责隐蔽等特点，这也容易造成追责难、跟进难和演进失控等问题。因此，AI治理模式亟须转变为灵活、及时、强适应的敏捷模式。
从灵活性来看，AI治理强调建立能适应人工智能技术自主迭代和多场景切换的灵活响应机制，在宏观层面设定普适性约束底线，在微观层面将算法、数据、平台等治理对象匹配到具体场景中，设定个性化场景规则，构建普适性与个性化相结合的灵活治理模式；从及时性来看，AI治理愈发强调能够针对不同时期的需求实行不同治理模式，形成“事前正向引导、事中及时调适、事后全程追踪”的动态治理模式；从适应性来看，AI治理愈发强调尊重新兴技术的发展尺度，践行包容审慎的治理原则，挑选重点领域开展治理试点测试，不断探索监管沙盒式试验性监管制度（指先划定一个范围，对在“盒子”里面的企业采取包容审慎的监管措施，同时杜绝将问题扩散到“盒子”外面，属于在可控的范围之内实行容错纠错机制，并由监管部门对运行过程进行全过程监管，以保证测试的安全性并作出最终的评价），讲究治理手段软法先行，充分引导与保障新兴技术发展，提供试错机会。
构建中国特色AI治理体系
在充分借鉴国外先进经验的同时，我们还需探索构建具有中国特色AI治理体系，促进产业的健康平稳发展。
一是“软硬兼施”，探索特色实践。
一方面，软法先行，以软促新。充分发挥组织倡议、行业引导、实践案例的“软”作用。引入风险分类分级管理措施，通过监管沙盒机制允许企业在受控环境中测试人工智能产品，提升创新能力和风险控制水平；发挥标准的引领作用，推动制定有关人工智能公平性、可解释性和安全性的国际标准及团体标准，形成人工智能伦理治理的示范经验。另一方面，硬法善后，以硬止险。构建与AI治理配套的法律法规体系。重点针对算法偏见、数据泄露和深度伪造等风险，开发相应的风险评估与监测工具，逐步完善相关法律法规，对高风险领域设置红线“硬”约束。
二是多元协同，提升国际话语权。
在人工智能领域，我国需要汇聚多方力量，通过协同合作与对话，推动人工智能的高质量发展。为此，应鼓励我国政府、企业、学术机构、非政府组织等多元主体在全球治理平台上就算法伦理、隐私保护等热点问题发声，推动形成有效的监管框架，明确人工智能应用的边界和责任归属，逐步实现从“规则适应者”向“规则制定者”的转变。同时，我国应积极融入全球AI治理进程，通过举办行业峰会、设立国际联合研究机构、深化跨国科技合作项目等方式，促进各方共识的形成，凝聚具有中国特色的价值主张，并将中国倡议转化为国际实践。
三是开放合作，弥合全球智能鸿沟。
我国应进一步加强国际交流合作，分享先进技术和实践经验，参与全球人工智能产业链分工，并积累治理经验，为构建更加平衡和公正的全球科技生态奠定基础。此外，应继续支持联合国在全球AI治理中的主导作用，创新多边合作机制，深入理解发展中国家的核心关切，推动国际社会在人工智能领域形成广泛共识，确保“全球南方”在人工智能发展进程中平等受益。
展望未来，AI治理将打破国界，协同发展，加速治理理念向可操作方案的转化。AI技术的发展将进一步推动治理方式的升级，继续向智能、敏捷、多元共治的方向迈进，实践“用AI治理AI”，“用AI促进AI”。
（本文作者系中国电信研究院战略发展研究所所长）
责编：郭霁瑶
guojiyao@ceweekly.cn
美编：孙珍兰
未经允许不得转载：盒子书格 » 构建中国特色 AI 治理体系
