2025年6月，央视主持人李梓萌从未说过的一句话，却从她的“嘴”里传遍网络：“深海多烯鱼油，专治头晕手麻、记忆下降。”这不是她主持的节目，也不是广告代言，而是一场彻头彻尾的AI伪造。北京一家公司用她的形象直播卖货，产品却是普通糖果。技术鉴定显示，那个“她”根本不存在——只是一串代码拼凑出的幻影。

这起全国首例AI仿冒公众人物被行政处罚案，揭开了一个危险的现实：技术已不再只是工具，它正在成为信任的掘墓人。李梓萌的脸被“盗用”，但真正受损的，是我们每个人对所见所闻的基本确信。

AI换脸已不再是实验室里的黑科技。如今，只需9.9元一天，普通人就能租用AI软件，上传一张照片，几分钟内生成“明星带货”视频。电商平台甚至明码标价：刘亦菲的脸1280元，永久使用；三分钟录音，即可克隆声纹，实现声画同步。这些伪造内容绕过平台检测，在抖音、微信、快手的直播中畅通无阻。技术的平民化，让欺诈的门槛降到了地板。

更可怕的是，这种伪造正在瓦解我们对信息的基本判断。Jumio 2025年报告显示，69%的全球受访者因AI欺诈对线上内容更加怀疑，36%的人不再相信“有图有真相”。当AI能完美复刻李梓萌的神态语气，谁能保证下一秒出现在你手机里的“亲友求救视频”不是骗子？当虚假内容比真实信息更生动、更煽情，辟谣的速度永远追不上谣言的传播。

这不仅是李梓萌一个人的危机。名人光环本是公众信任的延伸，如今却被技术反噬，沦为欺诈的放大器。企业用AI伪造“专家推荐”“明星背书”，消费者难辨真伪；骗子用AI模仿亲人声音索要转账，亲情成为攻击入口；甚至真实新闻也被污名为“AI生成”，真相在怀疑中被消解。毕马威调查显示，58%的人认为AI不可信，而93%的消费者认为防骗责任在自己——当每个人都得化身侦探，社会的信任成本已高到无法承受。

技术不会停下，但社会不能失守。北京市场监管局的处罚是一次亮剑，但法律必须跑在技术前面。平台需强化源头识别，建立数字身份认证体系；监管应明确AI生成内容的强制标识义务；公众也需提升媒介素养。更重要的是，我们必须重建一种共识：技术的自由，不能以牺牲集体信任为代价。

当真实变得需要自证，虚假便已获胜。我们捍卫的不只是李梓萌的脸，而是这个社会还能不能相信“眼见为实”的最后底线。