"活跃在巴黎时尚秀场上的明星居然也开始带货了""杨幂、刘亦菲竟然卖起了减肥茶"，消费者在直播间里看得一头雾水，但却因"眼见为实"屡屡疯狂下单，被骗了还浑然不知。更有甚者，打出"包教包会"的旗号当起了职业培训师。"培训费用"从 29.9 元到上万元，涵盖工具、承诺包教包会，消费者缴费后才知道所谓的包教包会，是"只售出无售后"。从"AI 换脸"到"Sora"，当消费者们还沉浸在科技对世界的重塑力上时，有这样一些商家早已经构建起了一条低成本牟暴利的灰色产业链。
"主播"变"明星"带货骗你没商量
晚上 9 点，点进电商直播间，"杨幂"和"刘亦菲"竟然卖起了减肥茶，不久后"迪丽热巴"也加入到直播带货中。在短短 4 个小时的时间里，依靠着"明星同款""顶流力荐"的标签，直播间内的商品销量已达上千件。
"追直播追了好几天，结果追了个‘李鬼’，简直欺骗了我的感情和信任。"消费者李响愤愤不平道。
消费者在观看直播购物时，会因为对某个明星的喜爱和信任而购买产品。部分商家正是抓住了消费者的这一心理，开始借助 AI 换脸技术诱导消费者消费购物。
北京商报记者在实际对比了十余个同类型"明星"直播间后发现，通常情况下，只要直播间里的"明星"不做过于大幅度的动作，真的很难分辨出真伪。
但只要直播时间一长，仔细观察就不难发现，该直播间内的"女明星"如果动作稍大，就会暴露"面具"之下的本来样貌，或者出现"面具"出画的现象。
当眼见也不一定为实，针对疑似"AI 换脸"的画面，消费者如何防范？产业观察家陈一凡指出，大面积遮挡脸部，或在脸部前方挥手，将导致人脸检测失效，消费者可以由此判断是否应用了相关技术。
"骗术"当"技术"输出玩多元变现
光直播带货还不过瘾。如今部分商家还做起了更"高级"的生意，将已经烂熟于心的"骗术"，当作"技术"输出。
顺着某科普博主的账号，北京商报记者进入一个独立站点，而该博主科普 AI 技术的身份背后，掩藏着一条完整的"AI 换脸"套餐销售链。
除了售价 29.9 元的"AI 换脸"教程，该博主还提供人脸模型定制。整体定制服务在 2000 元至上万元不等，具体价格视质量要求和应用场景而定，能够在全流程帮助科技"小白"完成"AI 换脸"的一系列操作，实现视频通话、直播等多个场景下"换脸"。
而服务于"技术流"的套餐则更加简单直接。通过电商平台直接检索"AI 换脸模型"，无法显示出相关结果，但用于训练人脸模型的 src（源视频）素材包却可在平台公开兜售。
素材包售价低至 16.8 元，最贵的仅 29.8 元。北京商报记者购买了其中一款素材包，其中约含图片 4000 张，大部分是对应演员的影视剧截图和个人照片。而在明星之外，该商家还提供"大众脸女带货主播""中年男路人"等素材包。
北京商报记者以消费者身份暗访了某素材包销售商家，该商家向记者介绍，"如果是纯新手，不推荐购买，需要有一定搭建此类模型的基础。"而在记者的一再追问下，该商家表示，也有可以直接使用的人脸模型，但需要脱离平台私下购买，女性面孔居多售价更高，男性面孔较少。
想售后？不支持任何理由退款和换货
这笔存在于"技术流"层面的交易也并不省心。
通过"AI 换脸"从事虚拟主播的柒柒谈道，"模型用得久了，慢慢出现了一些运行不稳定、脸部有锯齿、表情无法识别的问题，当时砸进去近万元做的模型，但商家已经联系不上了，如果另外找人修改模型，几乎要重新开始，又是一大笔费用"。
在暗访中，北京商报记者注意到，几乎所有的"换脸"明星素材包商家商品详情，都在商品介绍中写明："本店为虚拟产品，下单后自动发货，不支持任何理由退款和换货。"
聚焦在人脸模型定制服务上的问题同样是售后。北京商报记者以咨询换脸明星进行直播带货为由与提供人脸模型定制的商家刘先生取得联系，对方称需要预先支付 99 元作为定金，随后可以进行一个初步的"换脸尝试"，看看效果再判断是否要进行进一步的需求对接。
当涉及如果最终的成品无法达到满意的效果如何进行售后服务时，刘先生三缄其口，始终回避交货后的维护问题。
消费者赵月告诉北京商报记者，当初为了"AI 换脸"充了月卡，结果生成视频居然需要花 168 元成为终身会员，到现在平台却没有预兆地突然下架了"AI 换脸"功能。
此类情况并非个例，在黑猫投诉中以"AI 换脸"为关键词检索，出现了近百条投诉，其中包括"换脸"效果不合心意但平台不受理退款等。
严重损害消费者权益平台需强监管
对于"AI 换脸"所触碰到的版权及损害消费者权益等问题，商家们也纷纷预先表态"不背锅"，在多位提供人脸模型定制服务的业务介绍中，均提到"不接任何违反道德或者法律的相关业务，业务范围仅限于个人娱乐、合法直播领域"。
根据《民法典》相关规定，公民享有肖像权，这意味着他人不得随意使用肖像，同样地，使用明星的脸部图像也可能涉及到侵犯明星的肖像权。
北京市中闻律师事务所律师赵虎指出，如果使用"AI 换脸"技术来制造虚假的代言人形象，误导消费者购买商品或服务，那么这种行为就可能构成虚假宣传。同时，人脸作为识别个人身份的重要信息，如果被不当使用，也可能涉及到名誉权的问题，应由商家承担相应的法律责任。此外，发生数据泄露的情况，需要查明原因并确定责任，当由于 AI 工具本身存在缺陷导致的数据泄露，那么 AI 工具的提供者应当承担相应的法律责任。
那么买了假明星带货的产品，消费者要不要负连带责任？
对于消费者而言，赵虎进一步指出，消费者在购买商品时仍需保持理性，注意辨别直播间内容的真伪。当消费者基于对直播内容的信任和兴趣进行购买，他们通常是受害者，而非责任方。如果消费者因为商家的虚假宣传或侵权行为而遭受损失，有权向商家维权，可及时向平台或相关部门举报，维护自身权益和市场秩序。
事实上，相关规定早已为"AI 换脸"划定了"底线"和"红线"。2023 年起施行的《互联网信息服务深度合成管理规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，深度合成服务提供者应当以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。
今年全国两会，全国政协委员靳东再谈"假靳东"，再度回应了犯罪分子冒名其身份，通过运营"高仿"社交账号，再以投资、恋爱等各种理由索要钱款这一事件，他对媒体表示，希望从法律层面加大对网络平台的监管，让网络空间更加清朗。
相关业内人士也向北京商报记者表示，现阶段，尽管不少平台已经明确要求商家在使用"AI 换脸"技术时注明身份，以确保 AI 合成视频的发布者身份清晰可辨，但在利益驱动下，仍存在试图通过模糊身份来规避责任或误导消费者的商家。此外，平台监管的不到位和处罚力度不够，也可能使得一些商家对规定置若罔闻。
陈一凡指出，新质生产力确实以其颠覆性和原创性的特点，为传统生产格局注入了新的活力，为经济社会发展提供了新的动能，催生出众多新产业，成为推动社会进步的重要力量。新科技的应用往往带来市场的变革，但如果被错误使用，可能导致市场信号失真，资源配置不合理。
北京商报沸点调查小组
