当前，全球人工智能技术发展已进入快车道，新一轮科技革命正在重塑经济和社会结构。2025年政府工作报告首次将“人工智能﹢”单独列为政策章节，明确提出要持续推进“人工智能﹢”行动，将数字技术与制造优势、市场优势更好结合起来，支持大模型广泛应用。据数据公司IDC预测，到2028年中国人工智能总投资规模将突破1000亿美元，5年复合增长率为35.2%。然而，技术快速发展的同时，AI诈骗、AI侵权等新型违法犯罪行为层出不穷，给数据安全、知识产权保护和社会伦理带来严峻挑战。近日，在2025中关村论坛“科技与法治论坛”现场，与会嘉宾就如何通过立法为人工智能“保驾护航”进行深入探讨。

人工智能安全风险逐渐显露

“过去常说‘有图有真相’，如今哪怕有视频也可能是精心设计的骗局。”论坛上，清华大学智能法治研究院院长、清华大学法学院教授申卫星分享了一个案例：某企业财务人员收到一封转账邮件，凭借日常反诈意识准确识别出这是钓鱼邮件。然而，不一会，又收到一段“公司CFO召开高管会议”的视频，视频中CFO神态自若，并明确指示其进行转账操作。随后，财务分15次给5个账户转了两亿港币，全程未察觉视频系伪造。

这并非个案。公安部数据显示，近两年来，全国共发生“AI换脸”类诈骗案近百起。奇安信集团副总裁段继平透露：“除了金融诈骗，AI技术还被用于制造虚假新闻、侵犯知识产权等违法行为。从AI换脸诈骗到伪造身份盗取账户，犯罪手段已形成完整产业链，甚至出现定制化AI犯罪服务。”

传统法律遭遇“数字鸿沟”

面对AI技术带来的新型法律问题，现有法律体系显得有些滞后。全国人大常委会委员、全国人大宪法和法律委员会副主任委员、清华大学法学院院长周光权坦言，“由于人工智能技术迅猛发展，现有法律制度体系难以囊括或衔接人工智能技术引发的各类问题，出现了一定程度滞后。”

中国人民大学法学院教授、未来法治研究院副院长丁晓东也表示，人工智能发展高度依赖训练数据，但许多现有的个人信息保护、著作权和数据互联制度诞生于传统工业时代，在人工智能时代已显脱节，难以适应大规模数据汇聚和规模效应的需求。

尽管监管部门已采取行动，如国家互联网信息办公室出台《人工智能生成合成内容标识办法》，明确规定自9月1日起，AI生成内容必须添加“AI”标识。但专家们认为，仅靠规则难以完全填补漏洞。

段继平建议，大模型安全治理需要政策规范与技术手段并重，通过动态监管和全流程防控，确保AI应用的健康发展，在段继平看来，不仅要事前对大模型生成内容进行合规性约束，还要保证事中出现问题时可以实时监测、拦截，事后实现精准溯源和取证，形成一套“技术对抗﹢源头治理”的总体方案。

法治护航下的创新发展

在刚刚过去的全国两会期间，人工智能安全防护、大模型数据安全、监管立法成为政协委员们热议的焦点议题。多位委员指出，我国人工智能领域的法律规范存在诸多空白，呼吁加快立法进程。

实际上，从国际层面来看，许多国家已经认识到人工智能立法的重要性并付诸行动。2022年美国发布《人工智能权利法案蓝图》，为技术发展划定伦理边界，2024年欧盟通过《人工智能法案》，建立起分级监管框架。

“目前我国在大数据和人工智能立法领域呈现‘顶层规划＋地方试点＋行业协同’的特点。”北京市人民检察院第四分院检察长刘惠表示，未来需要进一步填补法律空白，强化技术安全和伦理规范，推动数智技术和法治的深度融合。

全国政协委员、中华全国律师协会监事长吕红兵建议加快制定一部有关生成式人工智能的行政法规。在他看来，制定一部既要解决当下问题，又能充分考虑长远的人工智能法难度极大，可以选择生成式人工智能这一社会最关心最直接最现实的“切口”，重点加快出台有关生成式人工智能全方位规范的立法。

全国政协委员、金杜律师事务所高级合伙人张毅提出，立法应当坚持以人民为中心，保障人的主体地位和权益，遵循“以人为本、智能向善、造福人类”的原则。

申卫星表示，科学合理的法律规制有利于提升应用部门和消费者对于人工智能产品的信任度。人工智能技术的可持续发展不仅是技术竞争，也是法治软实力竞争，人工智能立法已经成为各国彰显人工智能治理国际竞争力和话语权的重要标志。对于立法形式，申卫星建议：“应以综合立法为主，兼顾单行法的配套，考虑好与既有法律之间的关系。”

“要采取具有问题导向、试错性质、有弹性的立法思路，通过行业实践等多种规制手段逐步探索形成数字经济发展所需要的法律制度。”北京大学电子商务法研究中心主任薛军表示。丁晓东则建议在个人信息保护方面，对目的必要性原则作扩张解释，以广泛汇聚合理利用为前提，辅助程序性保护机制和个人信息拒绝权。在数据互联方面，构建合理预期机制，完善爬虫技术责任规则等，在保护权益与促进创新之间寻求平衡。

周光权表示，当前，社会各界对人工智能相关法律的制定充满期待，全国人大常委会也在紧锣密鼓地开展相关调研工作。“立法研究既要积极，又要稳慎，统筹好发展与安全的关系，确保人工智能安全发展。既要通过立法为新技术新产业发展提供法律保障，又要深入研究相关法律和伦理问题，有效应对新技术的不确定性所带来的新挑战。”（记者 马嘉悦）