据《法制日报》报道，山西省忻州市忻府区陈女士在驾车途中接到“哥哥”的QQ视频求助。视频中 “哥哥” 借钱紧急，陈女士因看到是哥哥的脸便未多怀疑。直到事后联系真人，才惊觉视频中的 “哥哥” 竟是诈骗分子通过 AI 换脸和声音合成技术伪装的。这一新闻发布后引发关注。当人工智能实现质变进化，这把“双刃剑”的滥用风险愈发凸显，如何规范技术应用已成为亟待解答的时代命题。

技术创新本应是发展的“新引擎”，但AI的无边界滥用正侵蚀社会信任根基。从仿冒名人声音带货到伪造“熟人”诈骗，高度逼真的合成技术让“耳听为虚、眼见非实”成为现实，不仅威胁公众财产安全，更冲击着人与人之间最基本的信任防线。技术狂飙突进的背后，若缺乏约束与规范，再先进的工具也可能沦为谋利的“暗器”。

诈骗“魔高一尺”，防范“道高一丈”。提高警惕是防范诈骗的最好方式，不管是在互联网上还是社交软件上，都要提升防范力，把牢警惕意识，避免过多地暴露自己的个人信息。面对花样翻新的网络诈骗，要擦亮双眼，记住“天下没有免费的午餐”，切勿轻信各种骗局，牢记“贪小便宜吃大亏”的教训。同时，在透明的网络世界里要注意保护好个人隐私，不轻易提供人脸、指纹、声音等个人生物信息，不过度公开或分享动图、视频等个人视图资料，不随意点击陌生网页、陌生软件等风险链接，让“AI诈骗”无机可乘。如有转账汇款、资金交易等金钱来往，务必要第一时间提高警惕，通过回拨电话、线下见面等多种途径进行核实确定。

平台“责无旁贷”，铲除“滋生土壤”。防范AI诈骗，互联网相关企业无疑是主力军。公众个体的自我保护能力较弱，互联网企业平台应花费更多心思，替用户考虑周全，织密织牢安全防护网。平台作为信息内容管理的第一责任人，面对花样百出的AI合成虚假信息，要持续加大数据安全投入，有针对性地通过推进技术创新来对AI诈骗进行反制，及时识别提醒或封禁各类AI生成的虚假信息、仿冒账号。同时，平台对用户的个人信息也应负起责任，不过度收集、不发生泄漏、不违规利用，严格规范使用包括生物识别信息在内的个人信息，防止部分人动“歪”心思，从源头铲除AI诈骗的滋生土壤。

多方“重锤擂鼓”，诈骗“无所遁形”。斩断AI诈骗的黑手，需要社会各方齐心协力。即将实施的《人工智能生成合成内容标识办法》为治理AI声音克隆乱象提供了新思路。另外，中央网信办近日在全国范围内部署开展“清朗·整治AI技术滥用”专项行动，将强化AI技术源头治理，清理整治违规AI应用程序等。这一系列举措也为治理AI声音克隆乱象提供了有力抓手。同时，各地也要强化公共宣教，及时科普最新最多最全的诈骗手段、防范措施、法律权益等，引导公众运用法治手段维护自身合法权益，让AI诈骗无所遁形、无处藏匿，共建良好网络生态。

（作者单位：平原县委宣传部）