薛澜：AI可能带来几方面风险 要重视风险防控

AI技术在带来便利的同时，也存在各种新的风险，如何协调人工智能发展与治理的关系显得尤为迫切。

在7月4日上午举行的2024世界人工智能大会暨人工智能全球治理高级别会议开幕式全体会议上，清华大学苏世民书院院长薛澜分享了三个方面的看法：人工智能未来带来的收益和可能带来的风险；人工智能治理方面中国做过什么样的实践，以及它可能带来的启发；人工智能的国际治理问题。

金叶子／摄

他谈到人工智能发展带来的收益时举例， 2015年全世界193个国家在联合国共同签署了SDGs（人类可持续发展目标），希望到2030年能够推动人类社会更好地发展。193个国家所签署的SDG一共有17个目标，下面有169个具体的指标。总体来讲，人工智能会对169个指标里面134个带来积极促进作用，也有可能对其中59个产生不利影响。

他举例道，目前，人工智能可能带来一些风险。第一：技术内在问题，包括所谓幻觉，另外自主人工智能系统长远来讲，受到自主发展的可能对人类社会的威胁；第二：基于技术开发带来风险，包括数据安全问题、算法歧视、能源环境等问题；第三：技术应用，包括误用或者滥用，长远对社会就业带来影响。这些问题都是不可忽视的。

在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，而人工智能可能只是一个比较突出的领域。如何推动人工智能健康发展，尽可能地让它收益最大化？同时把风险降到最低？

他表示，中国在过去这些年的实践当中已经建立了相对比较完整的体系，首先在底层产业应用方面有一系列法律法规去推动人工智能的合理发展。针对算法、算力、数据有一系列治理规则。同时，针对它的风险也有很多基本规则。2019年发布《人工智能治理准则》，包括《伦理准则》。另外，针对相关很多问题的法律也出台，针对专项及具体场景应用都出台相应治理规则。构建了多维度、多层次、多领域、多举措的整体治理体系。

同时，他特别强调人工智能发展和风险防控，要让广大社会能够对人工智能有更好地了解，“中国社会对人工智能发展积极、拥抱，但同时也对人工智能认识有不足的地方。所以，今年2月份四部门发布了《2024年提升全民数字素养与技能工作要点》，部署这方面任务。”