顶流明星在TikTok带货黑五类产品？AI 热潮下的隐忧

前一段震惊全网，利用AI换脸和语音合成工具的诈骗案件估计大家也听说了。据微信号平安包头介绍， 福州市某科技公司法人代表郭某，收到好友的微信视频后按照好友要求打款为其提供保证金，在10分钟内被骗子骗走430万元。

利用AI数字人和声音合成技术诈骗在海外也有类似案例。

几个月前，TikTok上疯传着乔·罗根（Joe Rogan）为一种名为Alpha Grind 的壮阳药产品带货的视频。

在TikTok短视频片段中，乔·罗根谈及这款号称能提升男性睾丸激素100到200点的产品， 引导观众在亚马逊中搜索找到这个产品，在视频中为观众贴心地准备了15% 的优惠券。

他说：“这款产品能让你的下体增大，你能感受到真实有效！”

乔·罗根也会赞助推广黑五类产品！明星吃相也这么难看了么！

可能乔·罗根不为我们中国人所熟知，乔·罗根绝对算的上是顶流明星。 罗根在许多领域颇有建树，从喜剧表演到电视和电台主持，以及作为UFC（终极格斗冠军赛）的解说员。

乔·罗根最为人熟知的可能是他的播客节目《乔·罗根经验》（The Joe Rogan Experience），罗根在其中与各行各业的嘉宾进行深入访谈。节目的主题涵盖了科学、哲学、文化、体育和时事等各个领域。《乔·罗根经验》已成为全球最受欢迎和最畅销的播客之一，每周都会吸引数百万观众。

在UFC和MMA领域，乔·罗根也有着巨大的知名度和影响力。作为UFC的最为著名的解说员，罗根以他深入的战术分析、对选手动作的解说和对比赛策略的评估而闻名。

作为这样一个在美国以及全球范围内非常知名和备受关注的媒体人物，他的推荐和背书对于产品和品牌来说具有重要的商业价值。

那么卖家和品牌如果想要和乔·罗根合作，价格一定很昂贵么？上述的这段“真实得令人毛骨悚然”的乔·罗根带货视频，是用语音合成和数字人AI 工具制作而成，成本近乎为零！

这样的顶流名人有着庞大的粉丝基数和在粉丝群体中的强大号召力，结合真伪难辨的AI生成内容，用投流的方式在TK快速放大，这样的策略能获得的收益之大简直难以想象。

该视频在舆论发酵后被TikTok官方下架，所属的账号也被封禁。 不过，在视频下架前的短短几天内，该视频就获得了超过500 万次观看。

TikTok官方也意识到AIGC（人工智能生成内容）所存在的伴生风险。 在今年4月21日，TikTok 官方在更新了的社区指南中加入AI 生成内容规则。 任何AI制作的内容必须予以标记，同时明文规定不得使用公众人物形象作为政治或商业背书应用。

AIGC之势不可阻拦，这是内容相关行业从业者的共识。 内容的生产方式被彻底改变，内容生产效率大幅度提升。 但，也带来了新的安全和法律风险。