发展与治理两手抓，次世代人工智能的发展之道

　　编者按：
　　近年来，我国针对人工智能技术可能带来的风险，出台了相关法律和政策要求，科技企业也努力加强风险控制，接受社会监督。如何更好的推动针对新型人工智能技术的＂敏捷治理＂？如何在有效应对技术不确定的同时，激发创新活力，加强国际竞争力和技术影响力？
　　全文约2199字，建议阅读时间6分钟。共同无知
　　＂共同无知＂是指 治理者 和 被治理者 都不确定治理对象带来的风险和挑战。传统治理范式中，治理者和被治理者 信息不对称 。治理者对技术研发应用了解较少，需要通过 算法透明 等方式，理解技术过程和技术后果，采取相应治理机制。但新一轮人工智能技术发展迭代迅速，各方面临的问题更多是，对技术发展变化和影响后果共同无知。
　　以前，算法透明在很大程度上能够让各方了解技术特点及其结构，理解技术原理及负面影响。但以ChatGPT为代表的新型人工 智能技术模型复杂、底层原理缺乏明确理论解释 ，给治理提出新的挑战。
　　另外，传统科技治理以先验式为主，也就是在风险识别的基础上，分类分级建立治理框架，采取预防性制度规则防范风险。但ChatGPT为代表的新型人工智能技术 可解释性差、风险情况未知、发展前景无法预知 的情况，必须要探索新的治理模式。
　　目标模糊
　　＂目标模糊＂是指作为最普遍应用的新型技术，人工智能的广泛影响使得治理目标呈现多元化特点。人工智能技术快速迭代，应用场景也越来越广泛，要用更加包容的态度面对问题，设定多元、合理、具备包容性的治理目标。
　　以前，人们担心基于 内容生成类算法 被用于换脸等深度伪造，给信息安全及其相关的 肖像权、财产权 带来危害。现在，随着ChatGPT出现和应用，很多专家也开始担心技术落后于人会带来的风险，呼吁通过更好的治理手段来解决 数据、算力 等发展堵点。
　　技术快速发展也要求 动态模糊治理工具 的运用范围，利用合规、可信的技术对技术本身进行治理和约束，实现多样化的治理效果。例如， 数字水印技术 开始是 DRM（数字版权管理） 机制的一种，被用于保护内容的著作权；随着深度合成技术发展以及普及，该项技术逐渐被应用于虚假内容治理领域，避免用户混淆、误认，并实现生成内容可追溯、可检测。治理工具的效果随技术发展呈现多样化特点，其使用方式和使用效果也是多元的。对治理工具的选择和确定需要考虑到这种模糊性，避免过于严格、单向度工具的设计和使用，并在过程中动态调整。
　　关系依赖
　　＂关系依赖＂是指多类型主体参与＂ 人工智能生成内容（AIGC） ＂，造成＂牵一发而动全身＂的多元主体的治理困境。传统治理范式下治理者和被治理者身份清晰，社会公众等利益相关方较少参与。但以ChatGPT为代表的通用人工智能技术主体多元，包括 内容服务提供方 、作为 数据提供方 的用户以及提供通用人工智能的技术支持者等。
　　人工智能治理不是二元对立的双边关系，需要各方互相依赖、共同探讨，需要各类主体发挥自身治理能力优势，取长补短，形成综合全面的共治体系。例如，可以构建 开源开放的社区环境 ，逐步形成自律自治的技术共同体，加强预判风险能力，有效补充外部监管。另外，由于人工智能设计 伦理问题 ，通过多方参与形成共识的方式开展伦理治理，主动接受社会监督，有助于达成共识、建立信任。
　　敏捷治理
　　面对上述挑战，应当如何有效的治理ChatGPT，让它的创新能力可信可控可靠，服务人类福祉和数字经济高质量发展？
　　以往，科技治理的主要范式有两种： 包容性自规制 和 规制性监管 。包容性自规制范式的核心思路是＂避风港规则＂，是一种通知。删除规则为核心的企业自律和结果责任体系。它形成于 20世纪80年代 ，为上世纪末开始的快速发展变革浪潮提供了治理模式基础。很明显，这种治理方式下会产生较多侵权问题。规制性监管的特点是 严格风险管控 ，例如在完整、全面的监管风险评估前禁止药品上市等，并对技术使用过程进行较强的 穿透性监管 。
　　以ChatGPT为代表的新型人工智能技术快速迭代并带来重重挑战的背景下，上述两种范式明显无法契合新技术治理的目标和诉求。这就需要一种新的治理范式： 敏捷治理 。 敏捷治理的核心是多方共治 和反馈迭代 ：涉及复杂参与主体和利益相关者的治理场景依赖多方共同参与达成共识，而面对复杂多变的治理问题，无法事前得到完善的治理规则，需要在治理和技术迭代的共同实践中不断反馈更新治理框架。敏捷治理理念更为契合人工智能技术特点，能更有效地达到治理目标。
　　针对以ChatGPT为代表的新型人工智能技术带来的三大挑战，敏捷治理可以通过共同学习解决共同无知的问题，通过同行评议解决目标模糊的问题，通过反馈迭代解决关系依赖的问题。
　　共同学习
　　共同学习 可以充分考量各方的不同利益诉求，借鉴 科学决策 的方法，通过标准化的科学方式开展 成本收益评估 ，运用 比例原则 避免治理手段的绝对化。
　　同行评议
　　同行评议 能够发挥专家知识的作用，评议本身属于探索性的 柔性治理方式 ，其 灵活性 和 专业性 能够得到保障，评议过程中可以考虑运用 监管沙箱 等实验主义治理方式。
　　反馈迭代
　　反馈迭代 能够充分考虑实践中得到的有效信息，逐渐理清、拨开复杂的 主体间依赖关系 ，明确治理问题及治理目标，充分发挥各方积极性，形成互信、合作、敏捷的治理共同体。
　　结语
　　人工智能是一枚硬币的两面，我们需要认真思考和探索如何发挥智能和人工智能的优势，避免其缺点和负面影响，同时建立透明、公正、可靠的人工智能治理机制，加强对人工智能技术的监管和规范，注重人工智能技术的伦理和社会责任，实现更加智能化、高效化和可持续发展的未来。