专家热议人工智能引领韧性治理与未来科技

　　近日，第三届人工智能合作与治理国际论坛举行，第一场主论坛以人工智能引领韧性治理与未来科技为主题，与会专家展开热烈讨论。主论坛由清华大学文科资深教授、苏世民书院院长、人工智能国际治理研究院院长薛澜主持。联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良，世界工程组织联合会前主席、中国新一代人工智能发展战略研究院执行院长龚克，美国国家工程院外籍院士、北京智源人工智能研究院理事长张宏江，国际人工智能协会前主席约兰达吉尔应邀出席论坛并作主旨发言。
　　薛澜表示，基于数据驱动的第四范式正在从根本上改变传统的科研范式，释放出巨大的创新潜能。人工智能为代表的数字技术成为推动新一轮科技与产业革命的强大引擎。人工智能技术如何才能更好地服务于国家、社会、产业乃至全球治理，解决发展不平衡不可持续问题，特别是应对气候变化、公共卫生、数字鸿沟等重大问题与全球性挑战，消除全球治理赤字？如何推动构建富有韧性，公平合理的全球治理体系，特别是发挥人工智能技术在其中的积极作用？如何在算法研发设计中更多考虑公共利益与社会责任，在数据采集利用中更好平衡商业价值与个人隐私，在人工智能伦理原则与标准制定中更加尊重多元文化与不同诉求？这些问题亟待研究与解决。
　　徐浩良在发言中表示，尽管世界上有些地区已经采取行动，政府在监管人工智能的风险和危害方面仍面临持续困境。联合国开发计划署（UNDP）已经认识到，数字技术并非一劳永逸的万能灵药，因此在UNDP的《20222025年数字战略》中制定了具有雄心的愿景，即创建一个数字技术助力人类和地球发展的世界。UNDP与各国政府的交流与互动凸显了对数据及人工智能的治理及道德规范的迫切需求。在人工智能领域快速发展的背景下，我们必须始终重视以下几个关键问题：要负责任地利用数字技术，谁来设计并实施全球行为准则和标准体系？如何做出决策？关键受众是谁？希望达成什么样的最终效果？
　　龚克介绍了人工智能在韧性发展和韧性治理中的重要应用。他指出，韧性是可持续发展的重要要求和愿景。韧性发展是一个重要发展思路，它正视困难、风险、冲击、变化，以适应力、恢复力应对之，使系统损失减小到可承受度，使运行不失稳、发展不逆转。韧性发展不仅贯穿于联合国《2030年可持续发展议程》，而且也受到中国的重视。他认为，数据的及时、准确、全面对于AI助力韧性发展至关重要，物联网的发展、多源数据的融合、数据的无偏化处理等成为AI助力韧性发展的技术趋势。从人工智能为韧性治理提供了技术赋能的角度来看，只有负责任、符合伦理、依法和适度地应用人工智能，才能让人工智能在韧性治理中既作为治理工具，也作为治理对象的两个方面得到统一。龚克特别强调，技术赋权必须以法律为边界，贯彻AI伦理原则，防止技术异化为权力。
　　张宏江以AI赋能科学发现为题，分享了人工智能赋能科学发现的实践经验。他首先总结了四种传统的科学研究范式，包括基于观察自然现象的实验范式；利用模型和归纳的理论范式；模拟复杂现象的计算进路和综合理论、实验、模拟的数据探索范式。在此基础上，他认为建立于数据、算法、算力基础上的AI驱动深度学习模型已成为科学发现的新范式，例如在分子生成设计、药物研发设计、健康计算等领域的应用，深度学习正在革命性地推动科学研究的新范式。此外，在材料、化工产品、健康管理、药物研发等领域促生了大量新的设计和产品，尤其是AI驱动的科学研究将成为促进生物医药和生命健康的一个有效新途径，颠覆传统新药研发模式，助力我国在新药研发方面实现换道超车。
　　约兰达吉尔在发言中指出，AI可以克服人类缺乏系统性、易出错、有偏见、写作能力欠佳等局限性，应当让AI成为科学生态系统的一部分，实现从AI复现论文到AI成为研究助理，再到AI和人类一起合作发表论文，乃至成为科学的引领者。她认为，人类固有的局限性使其很难把各个学科的知识融会贯通，而AI系统则可较好地了解各个学科门类并进行跨学科整合。同时，AI还具备提供更精确和定制化的报告、自动更新科学发现、提高论文可复现性、综合调整数据、整合不同学科的信息和模型等系列优势。她建议可以开发AI科学家，给AI以算法、数据，让AI有更大的主动性、自主性和独立性，并让其参与科学问题研究。
　　主旨发言环节结束后，专家们进行了研讨并与观众进行了互动交流。围绕主持人薛澜有关如何帮助发展中国家缓解其关于人工智能应用和治理之间的担忧的问题，徐浩良认为，发展中国家与发达国家在新技术发展的能力建设方面存在很大差距，而在帮助缩小差距的过程中，要坚持国家政府主导，在国际框架、国际协议里的承诺范围内帮助其提高能力，缩小他们与现代技术或现代应用技术、概念治理方面的差距。
　　围绕观众提出的韧性治理理念如何促进人工智能工作这一问题，龚克认为，人工智能是一个相对比较脆弱的系统，我们要在人工智能系统本身设计中增加鲁棒性，引入人工智能韧性检验的概念，并将其制定到相关标准中。张宏江认为，在设计人工智能系统时，需要考虑在敏感度和韧性之间矛盾的核心点上由人来介入，且重点是系统本身知道自己需要人介入。约兰达吉尔认为，人工智能作为新兴技术需要更加关注安全问题。