国家主席习近平在2026世界人工智能大会暨人工智能全球治理高级别会议开幕式上的主旨讲话中强调：“要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。”当前，人工智能正加速嵌入经济社会各领域，在释放巨大创新潜能的同时，也带来数据泄露、算法歧视、深度伪造等风险。因此，人工智能发展越快，越要统筹好发展与安全的关系，构建规则明确、监测有力、预警及时、响应高效的安全治理体系，切实提升人工智能风险防范和应对能力。

人工智能安全治理，关键在于把功夫下在平时、把责任压到全链条、把整改落到闭环中。既要在研发端把牢源头关，也要在运行端盯紧风险信号，更要在事件发生后迅速应急处置、及时复盘整改，真正做到防在前、控在中、治在后。

事前防范的关键是在模型形成过程中同步建立安全约束，使风险既难以进入模型，也难以转化为不当输出。在技术层面，应将安全要求贯穿模型设计、训练和上线全过程，把权限控制、环境隔离、内容过滤等要求嵌入模型运行规则，规范数据来源，清理错误、偏见和有害内容，减少模型学习和放大风险的可能。针对复杂风险场景，应加强安全训练、提升模型识别和处置恶意指令及风险内容的能力，尤其要强化上线前测试，全面检验各项安全措施的有效性，确保风险能有效控制后再上线运行。在制度层面，应加快推进国家层面的人工智能综合性立法，明确安全治理的基本原则、适用范围、制度框架和底线要求；加强人工智能专门立法与数据安全、知识产权、个人信息保护等现行法律的衔接，及时健全重点领域和关键环节的安全规则；按照权责一致原则，明确研发者、服务提供者和应用主体的责任，完善监督检查、责任认定和权利救济机制，推动各类主体依法履责，切实保护相关主体合法权益。

事中防控重在建立灵敏高效的监测预警体系，力争风险早发现、早研判、早预警。人工智能风险具有隐蔽性和动态演化特征，传统定期检查难以及时识别。应根据模型开发、部署应用和运行维护等各阶段的风险特征，明确监测对象、指标和方法，建立统一的技术监测标准，并据此形成覆盖上线前安全测试、运行中持续监测和重大升级后复评的监测机制；监测既要综合运用基准评测、对抗测试、异常检测等手段，也要推动企业日常监测、机构独立测评和监管部门核验协同联动、共享数据、交叉验证，及时发现模型性能偏移和安全防护失效等问题。风险监测信息只有及时转化为预警信号，才能为风险防范赢得主动。首先，应建立人工智能风险目录、评估指标和预警阈值，综合评估风险发生概率及其影响，科学划定预警等级。其次，在明确不同等级预警的发布主体、接收对象和防范要求的基础上，规范风险预警信息发布，并根据风险变化调整或解除预警。最后，健全国家综合预警、行业专业预警和企业内部预警上下联动的责任体系，确保预警信息及时传递、有效落实。

事后处置重在健全应急响应和整改机制，力争及时控险、查明原因、彻底整改。针对人工智能风险跨平台、跨行业、跨区域扩散的特点，应建立统一指挥、分级负责、部门协同的响应机制，分类制定应急预案，并在数字政务、金融科技、能源管理等重点领域常态化开展演练，模拟模型投毒、深度伪造、对抗样本攻击等场景，检验预案和流程。安全事件发生后，应迅速核实影响范围，视情采取停止生成、限制传播、关闭接口、降级运行、人工接管或者暂停服务等措施，及时阻断风险扩散；同步保存运行日志、调用记录和相关数据，做好证据保全、原因排查和影响评估；针对暴露出的漏洞和薄弱环节，应及时修复系统、调整规则、更新数据，必要时重新训练和测试模型，复测确认风险得到控制后再恢复服务，并将处置和整改情况纳入后续安全评估。值得注意的是，对受影响用户，应在及时告知情况的基础上，畅通申诉、复核和赔偿渠道。

安全是发展的前提，发展是安全的保障。构建人工智能安全治理体系，不是给创新“踩刹车”，而是为创新“装方向盘”和“筑防护栏”。只有把源头治理做深、过程监管做细、事件处置做实，形成协同高效的治理闭环，才能确保人工智能安全、可靠、可控，更好赋能高质量发展、增进人民福祉。

（作者孔朝阳系对外经济贸易大学国际商学院副教授，宫绮系北京城市学院经济管理学部教师）