引子：近年来，人工智能迅速发展，正在深刻改变人类社会生活、改变世界。然而，关于人工智能法律、伦理、社会管理等争议也随之而来。为促进新一代人工智能健康发展。国家新一代人工智能治理专业委员会６月１７日发布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《治理原则》），提出了人工智能治理的框架和行动指南，旨在更好协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展。本期思与辨就该问题进行讨论。

■主持人：赵鑫

■嘉宾：匡贤明（中国（海南）改革发展研究院经济所所长）

李文军（广西师范大学政治与公共管理学院副教授）

贾开（电子科技大学公共管理学院讲师）

对于人工智能发展隐患的理解，最好是结合其应用环境来展开分析

主持人：在您看来，人工智能的发展存在哪些风险和隐患？

匡贤明：依存大数据，人工智能有可能使得传统的隐私保护面临挑战。个人经济活动产生的大数据，所有权归谁？这是新问题，人工智能发展的安全漏洞，不仅是技术问题，也是发展问题。尤其是人工智能用于医疗设备的安全问题开始得到人们的关注。此外，发展有可能触及某些伦理问题。

李文军：一是人工智能本身的认识论问题；二是由人工智能引发的认识论问题。前者决定了人工智能研究者选择哪条进路来实现人工智能，后者则揭示了生活在网络化、信息化、数字化和智能化时代的我们需要关注的新的认识论问题。

贾开：一是技术本身的缺陷，二是技术应用的风险。实际上，对于人工智能发展隐患的理解，最好结合其应用环境来展开分析，不同环境有不同的隐患，而不同环境下不同隐患的重要性顺序也不同。比如当把人工智能应用于重大决策领域时，人工智能的“黑箱”问题就是值得注意的“隐患”；而应用于教育、医疗等社会领域时，歧视和偏差问题可能显得更为突出。另外，人工智能与其他技术的不同之处在于它是“一般性技术”，类似于蒸汽机、电的发明而具有改变人类生产生活形态的功能。正因为此，人工智能发展的“隐患”（或者说风险）值得我们更多关注。

《治理原则》最主要的亮点还是“负责任”这个主题上

主持人：《治理原则》有哪些值得关注的亮点？

贾开：《治理原则》是第一次由我国提出的较为系统的思考，既结合我国实践，也是为探索人工智能全球治理共识所做的贡献。《治理原则》亮点较多，限于篇幅我仅就第八条“敏捷治理”做一阐释。一方面，与国外提出的人工智能治理或者伦理原则相比，此次提出的“敏捷治理”是首次在治理层面提出的具有指导性、可执行性的原则，相当于在明确风险的同时也指出了应对风险的方法；另一方面，就概念内涵来看，“敏捷治理”注意到了人工智能技术尚处于高速发展期而尚未定型，因而其更多倡导治理本身伴随技术发展而演进的动态性，以及在此过程中多方参与的重要性。更为具体的政策实践还需要进一步充实，但“敏捷治理”的思想可能正是“发展”与“风险”二元平衡的最佳路径之一。

李文军：《治理原则》最主要的亮点还是在“负责任”这个主题上，“负责任”涵盖人工智能的基础研发到应用。随着科学技术的发展，人工智能正以前所未有的速度和规模得到发展与利用，已经成为企业界、学术界和政策界等日益关注的话题，对人们的日常生活方式和思维观念的变化产生了深刻的影响。但面对人工智能发展的不确定性，如何将伦理道德嵌入到人工智能，进而规避风险，造福人类是必须要思考的问题。《治理原则》中“共担责任”的内容提供了一种应对该问题的有益思考。

匡贤明：一是超前性。与历史上出现问题再来应对不同，人工智能在经济社会生活的渗透还处于应用阶段的时候，重视技术的治理问题。二是综合性，《治理原则》不是一个简单的技术治理，而是涉及到人工智能的法律、伦理、社会的治理；不仅是国内治理，而且涉及到人工智能的全球治理。三是导向性。发展负责任的人工智能，明确表明了人工智能发展的目标是服务于人的发展，而不是反过来。比如，明确提出“个人数据授权撤销机制”，就是为了解决大量注册用户“注册易、注销难”的问题。因此，这个“负责任”涵盖了人工智能的基础研发层到应用层，更应成为贯穿人工智能发展的一条主线。

治理人工智能，根本目的是为了促进人工智能的良序发展

主持人：治理人工智能，您有哪些建议？

李文军：首先，需要适当降低人工智能研究与应用的进度，使人工智能创新与人类社会进步保持平衡。其次，建立人工智能发展的政策与法规。人工智能发展的不确定性使人们越来越意识到需要从政策与法规的角度规制与监督人工智能的创新过程，明确人工智能发展的权利与责任。最后，需要推动人工智能研究与创新的全球治理。人工智能发展是全世界共同面临的问题，应明确各国的职责，积极参与国际对话，构建有全球关怀、与国际接轨的人工智能创新的全球治理网络，加强人工智能伦理道德、隐私保护以及安全风险等国际共性问题的研究。

贾开：治理人工智能既包括对于技术本身发展风险的治理（例如安全性），也包括对于技术应用的治理（例如无人驾驶汽车业态的治理）。主要有三方面的政策建议。首先，应重视将算法、数据作为治理对象纳入治理范畴，推动跨学科、跨领域的交流与共识。长久以来，我们的治理对象都是人类社会的生产生活行为，但人工智能带来的变革性影响则在于机器自我生产的代码开始作为影响人类社会的重要规则，其自然应被纳入治理范畴。再者，应加强人工智能教育，一方面是为了推动成果共享，另一方面也是缓解人工智能的发展阻力。人工智能深度嵌入人类社会，还面临着人类认知上的挑战，这也同样需要推进人工智能教育，使得人们能够正确面对人工智能的机遇与挑战。最后，应加强全球合作，推进人工智能全球治理。人工智能的发展具有开放性和不确定性的特征，生产门槛的降低使得人工智能技术研发的跨国流动性很强，相关标准的制定、开放平台的搭建、共享合作框架的形成，无不要求构建相应的全球治理机制。

匡贤明：治理人工智能，根本目的是为了促进人工智能的良序发展。因此，对人工智能进行“包容监管”十分重要。人工智能的发展有很大的不确定性，可能带来的风险也有很大的不确定性。在这方面，既不能放任自流，也不可因噎废食。其次，要形成综合治理体系。构建起政府、社会、市场综合治理的格局。最后，要明确治理底线和红线，在当前的社会与法律框架下，明确人工智能发展的底线和红线。如果要超越这个底线与红线，需要经过社会的广泛讨论与认可，进而实现人工智能的有序、良序发展。