blog
2025-09-02

抖音:对滥用 AI 技术的商家和达人商家采取下架、清退等措施

IT之家 9 月 2 日消息,抖音电商安全与信任中心今日发布了关于加强治理 AI 内容滥用的公告。公告称,平台已对违规视频和账号采取下架、清退等措施,并强调 AI 应用必须合规,任何误用、滥用行为将被严厉打击。

IT之家附公告全文如下:

随着人工智能(AI)技术在电商内容领域的普及,极大提升了商家与达人的内容创作效率。与此同时,抖音电商近期发现,少数商家和达人存在滥用或误用 AI 技术的情况,甚至借助 AI 生成误导内容,损害消费者合法经济权益,扰乱平台正常交易秩序。

具体表现如下:

  • 少数商家利用 AI 技术生成虚假商品展示、夸大不实的功能宣传内容,误导消费者购买,造成用户财产损失。

  • 利用 AI 生成虚拟人物冒充真实身份,冠以权威专家、名人的虚假人设进行带货,损害消费者信任,违规变现。

  • 在商品详情页、直播间使用 AI 生成的虚构测评、编造使用体验,刻意制造虚假口碑,影响消费者理性判断。

以下将通过典型 AI 内容滥用案例,帮助各位商家及达人理解平台的电商 AI 内容治理规则:

典型违规案例一:

AI 仿冒名人带货

少数视频创作者利用 AI 仿冒名人形象、声音和口型,用于商品宣传,误导不了解的用户下单购买。例如,有账号合成某知名运动员父亲、哥哥的声音,并使用相同文案称“家里要盖新房”,借此博取流量。在这些 AI 合成视频中,往往挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接,误导消费者下单。目前站内已及时处置相关视频,也呼吁广大创作者尊重名人肖像权,共同维护平台的营商环境。

⊙ 合规解析:创作者不得利用 AI 生成虚拟人物或仿冒社会名人、特定专业身份(如军警等),进行带货变现,或通过卖惨方式违规营销。

典型违规案例二:

生成违背常识的 AI 内容

创作者利用 AI 创作不符合现实或不存在的商品内容,甚至夸大商品大小、量产等,涉嫌虚假宣传。如,少数创作者在直播间利用 AI 展示樟树港辣椒丰收的场景,辣椒的数量、分布和植株生长规律完全不符合现实农业,并在口播中夸大种苗的量产,误导消费者下单。

⊙ 合规解析:创作者不得利用 AI 生成违背常识、虚构编造等内容,如与农业现实完全违背的内容等。

典型违规案例三:

AI 内容与售卖商品完全无关

少数视频创作者利用 AI 制作与售卖商品完全无关的内容,从而吸引消费者关注。如,创作者实际售卖产品为硫磺润肤露,但利用 AI 更改各地方新闻报道画面作为素材吸引用户关注后,讲解推销相关商品。

⊙ 合规解析:创作者不得使用与商品无关的虚假或误导性素材,如篡改新闻报道为虚假商品测评等来吸引关注。

典型违规案例四:

缺少 AI 自主声明

少数视频创作者未主动添加 AI 视频声明。

⊙ 合规解析:用户发布 AI 生成的内容时,需自主声明,不做自主声明,平台会根据规则进行识别和治理。

为进一步帮助商家规范使用 AI 能力,保障消费者购物体验,平台提醒商家做好以下几点:

发布 AI 生成内容主动声明

创作者在发布作品时,如作品为 AI 生成内容,应勾选“内容由 AI 生成”进行自主声明。若未按要求勾选,平台将对相关作品进行识别与治理。

合规创作

避免发布虚假或误导性的 AI 内容

  • 不得发布涉及误导性的 AI 人物视频。包括但不限于利用 AI 生成虚拟人物或仿冒社会名人,捏造虚假人设、诱导互动,或冒充特定专业身份(如军警等)进行带货、变现等行为。

  • 不得发布误导性的 AI 事物视频。包括但不限于利用 AI 生成违背常识或虚构编造的内容,如与事实严重不符的商品测评等。

抖音电商提醒,AI 技术应在合规前提下合理使用,任何滥用、误用导致消费者权益受损的行为都将受到严格治理。平台将持续强化风险识别能力,推动人工智能合规应用,切实维护消费者合法权益,保障良好的电商生态环境。

抖音电商安全与信任中心

2025 年 9 月 2 日

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

来源于:https://www.ithome.com/0/879/960.htm    如有侵权请联系我们