世界互联网大会人工智能专委会召开“前沿人工智能安全风险的协同治理”研讨会

7月15日下午，由世界互联网大会人工智能专委会主办的“前沿人工智能安全风险的协同治理”研讨会在北京召开。世界互联网大会秘书长任贤良出席会议并致辞，联合国副秘书长兼数字和新兴技术特使阿曼迪普·辛格·吉尔发表视频致辞。

会议认为，当前，前沿人工智能加速发展，大模型、智能体等技术能力持续演进，正在深刻影响经济社会发展和全球科技创新进程。与此同时，模型滥用、网络安全、虚假信息、跨境扩散等风险交织叠加，前沿人工智能安全风险呈现出复杂性、跨域性和不确定性，对风险识别、评估、监测、预警、干预和预防等治理环节提出了更高要求。面对前沿人工智能带来的新型安全挑战，单一国家、单一机构或单一技术路线难以独立应对，亟须政府机构、国际组织、企业、高校、科研机构和智库等多方加强协同，推动形成更加开放、包容、有效的前沿人工智能安全治理体系。

会议就加强前沿人工智能安全风险的协同治理提出三点建议：一是加强风险识别研判。围绕前沿人工智能能力演进和应用扩散带来的新趋势、新形态，持续提升风险的识别、评估、监测、决策能力，增强对重大风险、长远风险和跨领域风险的前瞻研判。二是强化制度规则衔接。推动政府治理、企业内部治理、行业自律和社会监督有效衔接，促进技术标准、评估方法、治理流程和责任机制相互支撑，引导人工智能技术在符合科技伦理、公共利益和安全要求的前提下创新发展。三是拓展国际合作路径。发挥国际组织平台作用，围绕前沿人工智能安全治理重点问题加强交流对话，推动各方在风险认知、治理机制、能力建设和协同应对等方面凝聚共识、深化合作。

时政Vlog丨联合国秘书长古特雷斯：这就是中国建立AI合作的美好之处

7月17日上午，2026世界人工智能大会暨人工智能全球治理高级别会议在黄浦江畔的世界会客厅正式拉开帷幕。开幕式结束后，联合国秘书长古特雷斯参观了会场内的人工智能展览，和中国AI从业者互动交流，还现场给人形机器人出了一道考题。和ToSun记者团一起去现场看一看

国际人工智能治理协会主席约翰·希金斯；中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅；360集团首席科学家、高级副总裁潘剑锋；中国信息通信研究院人工智能研究所所长魏凯；微博COO、新浪移动CEO、新浪AI媒体研究院院长王巍在现场分别从全球人工智能治理互操作性、模型安全评估、智能体安全、人工智能原生安全体系、平台可信治理和国际协作等角度作主旨演讲。剑桥大学智能未来研究中心教授肖恩·欧·海格缇通过视频发言参与研讨。

圆桌对话环节由曾毅教授主持，与会嘉宾围绕“前沿人工智能风险的协同应对”展开深入交流。联合国人工智能高层顾问机构专家、IQuilibriumAI常务董事兼首席执行官希梅娜·索菲亚·比维罗斯·阿尔瓦雷斯；经合组织人工智能未来专家组成员、AI Safety Connect创始人塞勒斯·霍兹；安恒信息副总裁林明峰；华为AI治理产业发展首席专家柳嘉琪参加讨论。嘉宾围绕智能体等新兴技术带来的风险、治理机制的可执行性与互操作性、企业安全实践和国际协作等方面进行了深入讨论。

本次研讨会由北京前瞻人工智能安全与治理研究院承办，360集团协办。世界互联网大会人工智能专委会成员、大会会员代表，以及来自政府部门、驻华使领馆、国际组织、科研院所、企业等机构的120余位代表以线上线下相结合的方式参加了会议。