首 页 社会聚焦 社情民意 民意时评 创客说 乐观社会 画里有话 滚动资讯

首页>社会>民意时评

警惕AI深度伪造诈骗

2026年06月22日 09:33  |  作者:杨岚  |  来源:人民政协网-人民政协报 分享到: 

眼见为实、耳听为真,是人们判断真伪最朴素的常识。但在AI深度伪造技术面前,眼见未必为真。一段高度复刻的人脸视频、一句惟妙惟肖的模拟语音,诱导企业财务转账、哄骗老人交出养老积蓄……近期多地频发AI换脸、拟声诈骗案件,看不见的数字骗局,正悄然啃噬老百姓的“钱袋子”。

随着AI技术的快速发展,电信诈骗模式也在迭代升级。不同于以往犯罪分子大范围撒网、话术诱导的传统套路,如今不法分子只需利用网络泄露的照片、语音素材,借助低成本AI工具,就能复刻他人样貌和声线,实施精准诈骗。骗局针对性更强、迷惑性更大,企业财务人员、独居老年群体,已然成为高发受害人群。待到受害者察觉异常时,涉案资金早已被快速拆分转移,挽回损失难度极大。

今年全国两会期间,全国政协委员靳东在接受记者采访时提及,有不法分子利用AI伪造其人脸和声音,致使一名老人被骗走27万元养老钱。不仅靳东,张凯丽、温峥嵘等演员也都遭遇过AI盗脸,莫名其妙“被直播”“被带货”,诱导粉丝扫码支付,借助名人公信力和限时营销心理实施诈骗,单案涉案金额最高可达百万元。对此,靳东呼吁加快完善法律法规,明确AI深度伪造技术使用边界,补齐监管制度短板。委员们建议,对利用AI技术诈骗老年人的行为依法从重惩处,压实平台审核监管责任,守护银发群体财产安全。还有委员提出,全面落实AI生成内容溯源水印制度,精准区分原生影像与合成影像,从源头遏制虚假伪造内容传播,为治理新型诈骗提供抓手。委员们的建言献策,精准戳中当下AI诈骗治理的堵点与难点。

技术本身无对错,但失控的技术流通、失范的行业监管,正在滋生成熟的黑色产业链。网上非法售卖换脸软件、语音合成工具,个人人脸、声纹等生物信息被肆意倒卖,平台审核宽松、管控缺位,让新型诈骗有了可乘之机。治理AI诈骗,不能仅依靠群众提高警惕就能实现,需要全链条补漏洞、强弱项。

网络平台必须压实主体责任。摒弃重流量、轻监管的思维,对AI合成、深度拟声功能强化管控,搭建智能识别预警系统,拦截清理虚假合成内容,严查违规工具流通,斩断黑色产业传播链条。

此外,监管治理需要紧跟技术迭代步伐。针对AI诈骗新型业态,细化处罚标准、完善司法界定,严厉打击非法伪造、倒卖个人生物信息牟利行为。网信、公安部门常态化开展专项整治,保持高压震慑态势。金融机构持续优化转账风控体系,对紧急、大额异地转账增设人工核验与风险提醒,守住资金安全最后一道关口。

对普通民众而言,更要彻底更新反诈思维,打破“眼见即为真”的固有认知。线上音视频核验不再可信,但凡涉及借钱、转账、资金周转,必须通过电话确认、线下核实进行双重核验。同时也要时常提醒家中老人,认清AI伪造骗局套路,摒弃老旧辨伪认知。多方协同、精准发力,才能击穿隐形AI骗局,牢牢守护好人民群众的财产安全。(杨岚)

编辑:廖昕朔