“快递上门”已成为中国百姓的居家日常。图为北京某小区门口堆积的包裹。方华摄

  “你相信我，去试试这个牙膏，刷完之后整个牙齿发亮，绝了！”近日，一名网红主播强力推荐的价格不菲的去渍牙膏视频广告，跳在了正刷短视频的北京叶先生（化名）的手机界面上，基于对主播带货能力的“耳闻”，以及平台承诺“7天无理由退货”的兜底，叶先生选择了果断下单。

  然而在收到商品后，叶先生发现牙膏的品牌、产地等信息，与视频中的描述不符。经搜索该主播的官方账号并通过在线沟通，他得到了“广告是假的，视频也是合成的”“请认准唯一账号直播间”“可申请平台介入”的回复，以及“我们的稽查团队天天都会在平台上巡查”的表态。

  按图索骥的叶先生，找到了坐标广州的发货商家。面对他的质疑，商家一再强调自家商品实属正品，且反馈良好，但对主播虚假代言一事不置可否，虽然贴上了主播头像的广告图片遭到了主播工作室的否认。最终，态度良好的商家非常痛快地承诺上门取货、后续退款，但不包括影响二次销售的商品。已经启封其中一管牙膏的叶先生这才意识到，直播间购物果然是“雷区不断”：

  第一，高科技，一不留神就沦为网红经济的数字“画皮”，制造出知名主播为某商品质量背书的假象；第二，在主播极具个性的销售话术下，直播间更容易诱发冲动消费；第三，跨平台的跳转链接“障眼法”，看似为完成支付一环，实则带有极大的迷惑性，为同类商品的“移花接木”创造了条件，无法给消费的人提供有利的空间和时间进行商品信息的核实与调研；第四，究竟从何时起，消费者的购买意愿与主播的影响力挂上了钩？也即当“饭圈文化”蔓延至商业消费领域，网红主播能否通过代言的方式，成功跨越不一样的行业间的知识鸿沟、消弭专业上的差距、填补监管上的真空？

  自2019年以来，直播电商市场增长幅度超过了10倍。相比传统的广告变现，自2016年开始兴起的直播带货，以“直播+内容+电商”的低成本优势和“直接转化为销售数据”的即时变现能力而蔓延开来。也是在这一年，微博与淘宝开启了“电商+网红”的融合之路，淘宝出现第一批主播，网红成为流量入口，推荐变成了销售经营渠道，助推网红电商步入快车道。人们至今还记得，当年某网红店铺在“双十一”期间成为第一家销售额破亿的淘宝女装店铺。

  2018年起，抖音、快手等短视频平台崛起，大量网红凭借自身的粉丝基础和内容创作能力，迅速在直播带货领域崭露头角，推动网红经济加快速度进行发展壮大。2019年，直播电商市场迎来了爆发式增长，同比增长超过200%，且超级网红主播成为现象级话题，但直播电商在电商市场中的渗透率仅超4%，仍处于起步阶段。相关调研显示，2023年直播电商交易规模超4.9万亿元，同比增长40.48%，且市场渗透率增至31.9%，这表明，直播电商已成为电子商务行业的重要组成部分，并持续吸引大量消费者关注。

  正因为短视频和直播形态的兴起，降低了内容生产的门槛，也带来了新型的互动模式与娱乐场景，丰富着人们的物质选择和文化消遣。随着初代网红和流量明星相继入场，更是蒙上了“明星也能这样平民化”的猎奇色彩。当商品的零售窗口变成了居家日常、田间地头，大小主播们现身说法、一一演示，商业代言变得“平民化”“接地气”“沉浸式”“氛围感十足”而引来关注，达人直播一度成为电商营销的主战场。

  但与此同时，虚假宣传、捏造数据、图文不符、场景不实、产品质量不过关、执法监管不足、司举证难等问题泥沙俱下，各种负面新闻层出不穷，其中最引人注目的莫过于李佳琦的“眉笔门”事件和薇娅的高额罚款，以及2024年的东北雨姐虚假代言、三只羊公司虚假宣传事件，让整个行业形象遭受重创。相关统计显示，近5年，我国直播电商市场规模增长了10.5倍，但直播带货投诉举报量也在逐年上升，5年间增幅高达47.1倍！

  然而，当下数字化技术的引入，不仅容易营造出虚假的热度和人气，让我们消费者难以掌握商品和服务的真实状况，严重误导购买决策，还让诸多的小作坊贴牌产品甚至“三无”产品，通过数字化手段，实现了“移花接木”式的虚假宣传，并通过跨平台跳转链接的“障眼法”，让我们消费者的整个购物过程变得“扑朔迷离”。

  “随着生成式人工智能技术的发展，深度伪造技术快速崛起，但有关规定法律法规尚不完善，缺乏可操作的细则和明确的处罚标准。”全国人大代表、TCL创始人李东生在今年两会期间提出《关于加强AI深度伪造欺诈管理的建议》。

  在图像、视频、音频、文本生成方面取得巨大进展的生成式人工智能技术，如Midjourney、DALL·E、Stable Diffusion等模型，可以通过用户输入的图像和文字生成以假乱真的图像。并且，生成式人工智能模型正向多模态方向发展，可生成逼真度更高的虚假内容，大范围的应用于内容创作、图像编辑、艺术创作等领域。随着生成对抗网络（GAN）、扩散模型（Diffusion Model）等技术的一直在优化，生成式人工智能的输出质量也在大幅度的提高。例如，扩散模型解决了传统生成模型的稳定性问题，进一步提升了生成内容的真实度。

  基于生成对抗网络（GAN）等深度学习算法的深度伪造技术在慢慢的提升，深度伪造内容已从简单的面部替换发展到全身动态视频和多模态融合，且生成质量在不断提高。

  “AI技术降低了视频合成和制作的门槛，导致虚假内容生成变得容易，平台应加强对AI生成内容的审核和监督。”全国人大代表、美的集团副总裁钟铮建议，平台应强制标注AI生成内容的警示性提示，提醒用户辨别；利用AI技术审核AI合成内容，结合人工审核，提高识别准确率。

  “对于防止AI深度伪造欺诈，建议加快人工智能深度合成内容标识管理规章制度的出台，明确对AI深度合成服务商未履行标识义务的惩罚制度，完善未按要求做标识的行为界定、分类细则，以及相应的处罚标准。”李东生建议，加强深度合成内容标识技术标准和发布的管理，保证标识的有效性；对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其做标识；加强国际合作，形成对AI深度合成内容的有效监管。

  “建议将生成式人工智能纳入专项立法，明确开发者、运营者、用户三方责任，并完善多部门联动的动态监督管理体系。”全国政协委员周世虹如此建言。众多建言者一致认为，AI治理要兼顾技术创新与风险防控，通过完善立法、强化技术监管、压实平台责任等手段，构建综合治理体系。

  显然，技术的突破性进展，一并带来了伦理与法律的挑战，以及检测难度的加大：生成式AI在创造新内容的同时，同样引发着虚假信息传播、隐私侵犯、版权纠纷等问题；深度伪造技术的滥用，不仅带来了身份冒充、欺诈、名誉损害等社会问题，还因为其从单一模态向多模态的演变，导致生成内容的逼真度和复杂性在持续不断的增加，传统的检测的新方法变得更难以应对。为此，多国在加速立法，规范生成式人工智能的应用，建立强制标识制度以区分真实与伪造内容，同时发展防伪大模型以提高检测能力。

  “推动电商新模式（如直播电商、社交电商）健康发展，通过政策引导推动电子商务行业高水平质量的发展。”2025年政府工作报告强调，要全面提振消费，推动内需成为经济稳步的增长的主动力；鼓励消费场景创新。

  直播电商蒸蒸日上已是大势所趋，有序发展更是当务之急。事实上，面向直播电商乱象的重拳整治工作一直在深化。为推动直播经济从野蛮生长向有序发展转变，由中央网信办牵头部署的“清朗”专项整治行动自2021年开启，聚焦消费者投诉最集中、行业暴露最突出的违反相关规定的行为，着重打击网络直播中的虚假宣传等乱象。涉及直播经济的监管政策体系也在逐步完善中，如《互联网直播服务管理规定》明确了直播服务的准入门槛和管理要求、《网络主播行为规范》对主播行为予以规范并明确了禁止行为和处罚措施。2024年，北京市市场监督管理局发布《北京市直播带货合规指引（征求意见稿）》，明确了直播带货平台经营者及从业人员的合规要求，进一步规范促销活动和消费的人权益保护。

  各大平台也纷纷加强对直播带货的监管。如抖音上线了更为严格的新版“健康分”，对主播进行阶梯式管理，并在2024年开展了20余次专项行动，无限期回收直播权限账号32万个，清退直播机构526家。淘宝更新了《直播管理规范》，对直播间商品上架增设严格规定。2024年，三只羊公司因虚假宣传被罚没6894.91万元，旗下账号全面停播；东方甄选因产品的质量问题被曝光；“交个朋友”因医疗广告违法被罚超58万元。这些案例表明，无论主播或机构影响力多大，一旦违法违规，都将受到法律和平台的严惩。

  “2024年中国直播电商交易规模预计达到5.3万亿元。”中商产业研究院发布的《2024-2029年中国直播电子商务行业市场分析及投资风险趋势预测研究报告》给出了这样的预期。另据广州市政府工作报告披露，2024年广州直播电商零售额达到5171亿元，区域市场同样显现出强劲的活力。作为一种新兴的商业模式，直播电商已经深刻改变了我国的产业链布局，在推动消费持续扩大、促进就业持续增长、激发经济社会持续健康发展活力等方面发挥着突出作用。但，欲速则不达，暴露出问题也并不可怕，这同样为找到对症下药的良方创造了条件，终究推动这一赛道从加快速度进行发展步入规范发展的健康轨道。