人民政协网北京3月2日电 工业和信息化部近日表示，2025年将实施“人工智能+制造”行动，加强通用大模型和行业大模型研发布局和重点场景应用。随着生成式人工智能（AI）技术爆发，国产手机厂商正掀起新一轮AI语音助手升级潮，各主流品牌先后发布搭载自研大模型的语音助手，推动行业从“基础指令响应”向“主动智能服务”跃迁。与此同时，其带来的生活便捷性与数据安全隐患受到广泛关注。

技术创新与数据安全须兼顾

国家顶层设计持续完善，构建人工智能发展宏伟蓝图。2017年，“人工智能”首次被写入《政府工作报告》；2024年，“人工智能+”行动首次被写入《政府工作报告》；党的二十届三中全会通过的《决定》要求“建立人工智能安全监管制度”。在生成式人工智能面临产业变革的同时，手机AI语音助手如何取得技术创新与合规发展的平衡，成为新课题。

可以看到，近年来，部分国产手机AI大模型或语音助手逐渐发展延伸出一种新功能：通过语音输入一句话，即可实现手机点餐、订票、取消自动扣款等服务。这类功能大多通过手机端侧大模型，在绕过第三方App授权的基础上，以“识屏+模拟点击”的方式进行。其中，识屏即为对手机屏幕截屏，理解、分析屏幕内容；模拟点击利用手机系统“无障碍权限”，识别当前屏幕中的按钮坐标，绕过第三方App授权，直接操作其内部功能。这种模式下，手机可能在用户不知情的情况下自行截屏、分析屏幕内容，甚至模拟手指点击操作。

两者如何兼顾？“技术创新的本意是为了社会进步、用户便利，”在全国政协委员、北京市金台律师事务所主任皮剑龙看来，人工智能新技术蓬勃发展的同时，也要确保加强消费者知情权等权益，“由于技术门槛高，普通用户难以掌握，开发厂商在用户不知情下推广、售卖各类服务产品屡见不鲜，甚至出现以假乱真、侵犯隐私等恶性现象，对用户权益造成损害。”

合法合规与商业秩序须同步

当前，国内生成式AI在技术创新与商业化应用上快速发展，但手机AI语音助手暗含的数据隐私泄露风险、算法偏见引发的伦理争议、跨平台语音标准不统一等问题，亟需政策端加速完善生成式AI语音监管的合规治理，也需要企业构建“技术创新+合规治理”的双轮驱动模式，促使行业从单一功能服务向个性化、可信赖的智能体验升级。

有观点认为，“手机无障碍权限用途被泛化”的趋势需要审慎关注。智能手机开发无障碍功能的初衷是为了让残障人士得以与普通人一样使用智能手机，而当前却容易被用作其他用途，很多开发者借由无障碍功能在手机系统内权限较高、功能强大的特点，开发出自动关闭弹窗广告、抢红包、抢票等软件，其中不乏违法犯罪行为。比如，在“无障碍权限”方式下，App可能会在用户不知情下被连续自动操作10步以上，从而引发黑客攻击、“劫持”，造成用户数据泄露、转移账号资金等问题。

事实上，国家互联网信息办公室等七部门已经在2023年联合发布《生成式人工智能服务管理暂行办法》，成为我国首个针对生成式人工智能产业的规范性政策。“对于生成式AI等新兴领域，还要更好贯彻《中华人民共和国反不正当竞争法》和《网络反不正当竞争暂行规定》等法律法规的基本精神，反对流量‘劫持’、非法数据获取与恶意干扰等行为。” 肖新光进一步建议。

除此之外，容易对消费者权益造成损害的商业行为还表现在：行业普遍缺乏统一的数据收集标准，不同厂家间收集范围相差巨大，部分行为明显涉嫌侵犯用户隐私；多数用户很难理解动辄上万字的隐私协议，更无法认清辨析各类隐藏条款；整体上看，此类侵犯隐私的违法成本还比较低，惩处力度不足等。

“需要开启技术手段、收集用户信息时给予其明确提醒；在用户无法确定服务内容是否为AI提供时亦明确说明，从而确保消费者知情权和自主选择权。”在皮剑龙看来，“要加快AI数据收集、隐私方面的立法与规范，夯实对相关不法行为监督；面对海量个人信息使用，亟须更全面严格的个人信息使用规范，且严格处置违法行为，从根源上避免利用技术强势地位，过度收集信息进而造成用户损失；同时加强用户科普教育。”

“针对手机移动生态应该建立行业协商机制；面对快速发展、日新月异的AI与智能设备发展情况，相关部门应推进行业多元共治。”肖新光建议。

未来，随着模型轻量化、行业知识融合及伦理体系的完善，伴随生成式AI技术进阶的国内手机AI语音助手，也将进一步赋能用户交互、推动经济与消费变革。（王勤）