张文宏带货蛋白棒系AI合成视频 网络AI换脸技术应用边界与治理引关注

张文宏遇AI合成视频困扰

近期，张文宏遭遇了AI合成视频的干扰。对此，他迅速采取了行动，发现视频后立刻提出投诉。然而，该账号不断更换，导致他的精力逐渐耗尽。另外，先前广泛传播的视频，发布者后来公开了原始视频，显示视频中女生仅仅是与朋友进行日常交流，其内容和表情与合成视频有着显著差异。

AI换脸成热门现象

AI技术的进步使得AI换脸图片与视频广受欢迎。然而，这一现象在娱乐公众的同时，也引发了风险和困扰，真假难辨。《法治日报》记者的调查显示，网络上有不法分子公然销售AI合成软件，并提供教程，使得制作AI“克隆人”视频成为一项商业活动。

利用名人合成视频卖货

有人借助名人的影像与语音进行人工智能合成，随后将成品上传至短视频平台以销售商品。在视频的介绍中，他们使用了“AI复制品人”“AI虚拟人”等标识。然而，数日后记者重新访问这些视频时，发现它们均显示“因违规无法播放”，其原因是“涉嫌高风险项目或引流行为”。

引流帖子充斥社交平台

社交平台及短视频平台上，大量帖子利用AI数字人或“克隆人”视频进行引流。广告声称用户只需简单操作，即可定制数字人并轻松提升视频流量。若AI合成软件的随意销售涉及为犯罪分子提供服务，可能构成共同犯罪。以“西藏小男孩被埋图”事件为例，此类行为已引发关注。

平台规制与技术识别

现有部分网络平台存在个人以“技术销售”为名，通过信息不对称向他人传授开源项目或应用的操作。这些平台能够通过流量控制、发布警告、冻结账户等措施来管理相关视频内容。北京盈科(上海)律师事务所的李悦指出，尽管AI技术不断进步，但仔细辨别仍能区分出合成视频。我国于2023年发布了《互联网信息服务深度合成管理规定》。

打击违法犯罪存难点

专家表示，针对利用AI合成技术进行的违法活动进行精确打击存在挑战。李悦提到，技术上的难点主要在于匿名性，犯罪者常以匿名身份和虚拟货币进行操作；同时，取证过程复杂，需要证实视频的多个细节；此外，跨境性质也是一大问题，部分犯罪行为发生在境外。针对此，专家建议，法律应当明确界定技术应用的范围和界限，并对各方的法律责任进行详细规定。

业界普遍关注，目前AI合成技术的监管中，最急迫需解决的核心问题究竟为何？