近日，2026年国家网络安全宣传周开幕式在山东济南举行。全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》，围绕人工智能发展新趋势更新风险分类，完善技术应对和综合治理措施。其中对深度合成、生成式内容等新型风险作出系统性回应，为防范AI换脸、拟声等深度伪造诈骗提供制度参照，也为智能时代筑牢安全底座指明方向。

人工智能在便利生活的同时，也带来新的安全隐忧。不法分子利用AI换脸、拟声等深度合成技术，凭借少量照片、短段语音等素材，即可伪造亲友、同事、客户的音视频。视频通话中的“熟人”不一定就是本人，仅靠画面和声音判断身份，普通群众很容易被仿冒。一些以紧急借钱、垫付资金、冒充领导安排转账为套路的案件，已造成养老积蓄、家庭存款等财产损失，防范压力明显加大。

随着工具门槛下降，深度伪造风险进一步外溢。人脸、声纹等生物信息一旦在社交平台过度暴露，可能被用于训练仿冒模型；个人信息遭非法收集、倒卖后，还会被接入灰产工具链。AI诈骗不只是“钱的问题”，频繁出现“视频里的熟人可能是假的”，也会削弱人们对网络身份、远程沟通的信任。仅靠个人提高警惕，已不足以应对全链条风险。

《人工智能安全治理框架3.0》的价值，正在于把治理关口前移。框架延续“风险分类、技术应对、综合治理”逻辑，推动安全检测评估、内容识别、可追溯等能力建设；与《人工智能生成合成内容标识办法》相衔接，要求对文本、图片、音频、视频等生成合成内容落实显式标识和隐式标识，推动AI内容可识别、可溯源。在此基础上，还需监管、平台、行业、公众协同，把制度要求转化为可执行的反诈防线。

平台应压实主体责任，提升对伪造音视频、仿冒账号的识别拦截能力，落实深度合成和生成合成内容标识，对疑似冒充身份、诱导转账的内容早发现、早预警、早处置；同时完善投诉举报和证据留存机制。监管部门应坚持全链条治理，既打击实施诈骗的团伙，也严查非法提供AI合成工具、倒卖人脸声纹、侵犯公民个人信息的黑产，形成持续震慑。

网络安全为人民，网络安全靠人民。再完善的制度和技术，也离不开群众防范意识。应摒弃“视频通话看到脸、听到声就一定是本人”的惯性：涉及转账、验证码、屏幕共享，务必通过常用电话、线下见面或家庭约定暗号二次核验；不随意发布高清正脸、证件照和长段语音，降低被仿冒素材化的风险。可疑音视频可借助国家反诈中心App等工具辅助鉴别，发现受骗及时保留录屏、聊天记录并报警。

智能浪潮奔涌，安全防线必须同步。人工智能要释放效率红利，也要守住安全底线。以治理框架为引领，压实研发、服务提供、平台传播、行业使用和公众参与各方责任，把标识溯源、技术识别、普法预警结合起来，才能更有效抵御深度伪造诈骗，守护群众“钱袋子”，维系数字社会来之不易的信任。