陈智敏：充分发挥人工智能在实现碳中和目标中的作用，高度重视人工智能发展中的伦理和法律问题

导语:在全球新冠肺炎疫情尚未企稳的情况下，本届太和文明论坛将采用线上、线下相结合的形式于 9 月 5 日至 11 日举办，下设国际关系、经济科技、教育文化、青年对话四个分论坛，聚焦中美与中欧关系、碳达峰、碳中和、职业教育等主题，洞悉世界潮流、迸发前沿观点、激荡思想火花。

目前尚处于弱人工智能时代，生产力、生产关系、生产方式开始面临解构和重塑;无论强人工智能、超人工智能时代是否真的到来，传统的生产方式、生活方式、社会秩序都可能受到撼动甚至颠覆。需要对潜在的风险进行预判和研究，用伦理和法律搭建起风险治理的框架，为人工智能持续健康安全发展提供保障。

中国友谊促进会理事长陈智敏先生深入探讨人工智能发展过程中的伦理和法律问题——“充分发挥人工智能在实现碳中和目标中的作用，高度重视人工智能发展中的伦理和法律问题”。

党的十九届五中全会将人工智能作为具有前瞻性、战略性的国家重大科技项目进行部署。“新一代人工智能正在全球范围内蓬勃兴起，为经济社会发展注入了新动能。”当前我国新一代人工智能正与实体经济深度融合，广泛应用于社会民生领域，激发创新活力和社会潜能，成为经济发展新引擎。随着我国移动基站、光缆线路、互联网接入端口等物质基础不断夯实，加之中国人口众多所形成的海量数据和市场需求的优势，为人工智能广泛应用和深度挖潜提供了持续动力，中国已跻身国际“第一方阵”。

但是，人工智能发展机遇与安全风险并存:

一、数据非法跨境流通可能危害安全和主权;二、数据信息过度采集和非法使用可能侵犯公民权利和隐私;三、算法偏好可能加剧社会偏见或歧视，威胁公平正义;四、机器深度学习难以理解人性和道德，无人驾驶汽车紧急避险等智能决策可能威胁特定人群生命;五、人机交互式产品广泛应用带来的工作、生活、情感高度依赖，可能威胁社会伦理。

这不仅是一个技术问题，也是一个安全问题，同时还涉及伦理、法律和国际规则等重大问题。要加强人工智能发展的潜在风险研判和防范，维护人民利益等，确保人工智能安全、可靠、可控。要加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。

党中央、国务院和有关部门、研究单位、企业高度重视人工智能发展的科技伦理与法律问题，有关研究正在实践中不断地探索，出台了一些相关的法律法规。全国政协对这一问题十分重视， 2020 年专门就“人工智能发展中的科技伦理与法律问题”，组织到安徽、江苏、北京开展专题调研，中共中央政治局常委、全国政协主席汪洋主持双周协商座谈会，政协委员们与相关部委负责同志进行了深入、广泛的交流与协商。

要充分发挥人工智能在碳达峰、碳中和等方面的重要作用，必须高度重视人工智能的伦理法律问题。目前尚处于弱人工智能时代，生产力、生产关系、生产方式开始面临解构和重塑;无论强人工智能、超人工智能时代是否真的到来，传统的生产方式、生活方式、社会秩序都将受到撼动，甚至颠覆。

需要对潜在的风险进行预判和研究，用伦理和法律搭建起风险治理的框架，为人工智能持续健康安全发展提供保障。在世界百年未有之大变局和中华民族伟大复兴战略全局中充分利用我国人工智能发展的优势，在人工智能治理的国际规则制定上占据主动、拥有更多话语权，是提升我国国际竞争力的重要内容，也是我国积极参与全球治理体系改革和建设，特别是推动全球环境治理，实现碳达峰、碳中和目标的重要途径。

一、要历史、辩证、全面地看待人工智能发展中的伦理和法律问题。一部人类发展史就是一部科学技术的进步史。科学技术具有创造性、革命性、颠覆性，它既重塑着社会生产力和生产关系，也重构着人们的生活方式和伦理法律秩序。任何一项重大的科技创新及广泛应用都会对现有的社会生活、伦理、法律秩序带来不同程度的冲击和挑战。

历史上，哥白尼的天体运行论、达尔文的生物进化论都是对当时伦理法律秩序的挑战。人类社会就是在科技创新与伦理法律规制的对立统一、彼此转化中，在两者的冲突平衡、再冲突、再平衡的螺旋式上升中不断前进的。

文明的发展会不断推动伦理和法律的发展变化。现在有关人工智能带来的伦理法律上的挑战，是按照现有的理念去思考，还是按照人工智能的发展变化和人类社会的发展变化而不断地调整，不断地重构?如碳达峰、碳中和就为人工智能的发展提出了新目标、新要求。

二、从国家发展战略高度制定人工智能发展规划，引导人工智能发展与国家创新驱动发展战略相衔接，特别是在高端制造业、节约资源和保护环境相关产业中充分运用人工智能，推动实现碳达峰、碳中和目标。

三、统筹发展和安全的关系，在发展中规范，在规范中发展，构建多部门协同、多学科融合、多元主体参与的风险治理和规则治理研究框架和工作体系。重视人工智能红利可能形成的“数字鸿沟”“贫富鸿沟”等社会财富分配问题、人工智能发展所引发的就业问题，充分运用碳达峰、碳中和等产业创造的新的工作岗位、工作方式，在实现碳达峰、碳中和目标的同时，推动实现共同富裕。

四、弘扬“科技向善”理念，在科研人员中树立扬善避恶、善作善为、保护环境（实现碳达峰、碳中和目标）、造福人类——特别是子孙后代的道德准则和道德底线。针对深度伪造技术可能引发的政治风险、社会风险，以及对国际社会安全的潜在影响，个人信息被窃取倒卖所引发的刑事犯罪(现在电信网络诈骗处于高发阶段，在有的地方已经占刑事案件总量的一半左右)，“数据投毒”导致人工智能系统误判后危害社会公共安全(如卫生医疗、道路交通、环境保护等)等问题，应从法律法规上建立数据确权、数据安全保障、算法安全审查等制度，为人工智能发展形成正确价值导向和稳定社会预期提供有力保障。

五、构建人工智能伦理法律体系必须要坚持以人民为中心的理念。发展人工智能必须坚持人民至上，以人民为中心、以实现共同富裕为目标。始终坚持“不忘初心、牢记使命”的谆谆教诲，在增进人民福祉的同时，解决好人民群众反映强烈的突出问题，绝不能损害生态环境、群众身体健康、生命财产安全，不能侵害广大消费者的合法权益，不能沦为不法资本利益集团谋取不正当利益的工具，不能形成数据、算法和算力的垄断。

要重视数据产权问题研究，规范数据权属、使用、交易、共享机制，解决数据所有权、使用权、收益权等问题。从制度上维护最广大人民群众的根本利益，让人工智能创造的财富为全体社会成员共享共用，这是我们社会主义制度的根本属性所决定的。

六、在人工智能伦理法律体系国际规则制定中发挥重要作用。我们要走出自己的人工智能伦理法律路子，建设有中国特色的体系，胸怀世界百年未有之大变局和中华民族伟大复兴战略全局，立足中国国情、立足先发优势，在人工智能治理国际规则的制定中积极参与并发挥引领作用，为构建新规则、新秩序、新格局贡献中国智慧和中国方案，为推动全球实现碳达峰、碳中和目标贡献中国力量和中国效率，努力推动人类命运共同体健康安全发展。