当你震动于又一波名人开端代言土味广告时，更让人震动的事实是，这些广告大多跟名人本尊无关，而是大规模乱用AI拟声的商业欺诈。
近来，某短视频渠道呈现“婵宝小助理”“全妹福利号”等数十个仿冒账号，循环播映全红婵赛后承受媒体采访的原始画面。但你稍加细看，很快便会发现端倪——画面中的全红婵仍穿戴东京奥运领奖服，口中说出的却变成了“500单土蜂蜜，16块9发两斤”“驼奶粉对三高人群特别好”。
4月29日，全红婵父亲只能无法发声，称有人用AI假造全家声响售卖蜂蜜，他们对此毫无方法。
在此之前，相似的AI拟声圈套早已延伸——上一年12月，“张文宏”解说某品牌蛋白棒的AI假视频走红网络，因其形象与声响高度传神，导致很多中老年顾客上当下单，销量一度破千；
还有渠道使用AI技能，将古天乐、林峰等港星的肖像、声响及视频片段，组成为线上赌博、游戏的代言宣扬片，逼得两人的生意公司不得不出头驳斥谣言；
就连小米CEO雷军的标志性普通话也没能逃过，从鬼畜视频里的“Are you OK”，变成了虚伪理财广告里“稳赚不赔”的呼喊……
从明星、学者、运动员到闻名企业家，AI假带货的受害者名单里还包含靳东、刘晓庆、刘德华、杨单纯、倪萍、潘玮柏、张伯礼……乃至是每一个普通人。而完结这些，最低只需要一块钱，便能够在二手渠道上买到一套“声响克隆工具包”。
两年前，“AI孙燕姿”翻唱《发如雪》引发全网热议时，人们更多是惊叹技能的打破。但当任何人都能用App一键生成明星带货视频、假带货广告播映量动辄破百万，工作现已完全变了味。
正如一位网友所说：“曾经忧虑相片是P的，现在连声响都不能信了，科技究竟在维护谁？”
“瘦身不是不吃，而是学会吃。”视频里，张馨予正对着镜头共享瘦身心得。当画面切换到自己身段高挑的写真照时，这位女明星忽然话锋一转，开端引荐起某品牌瘦身药：“早上饭后冲一杯，专门提代谢，我便是靠这套方法瘦到106（斤）。”
视频全程没有一丝卡顿和机械感，连口型都顺利对上——若不是当事人亲身驳斥谣言，谁都想不到这段视频里的声响、表情满是AI假造。
4月18日，张馨予在交际渠道发文称，有商家使用AI技能仿制其声响售卖瘦身药，自己从未引荐过任何瘦身药，将追查究竟。一位差点付款的宝妈告知《新周刊》：“视频我重复看了三遍，要不是看到谈论区有人提示，我肯定要下单了。”
其间，热播综艺成了重灾区——在《一路繁花》的吃饭片段里，刘晓庆夹鱼的镜头被P上“诗诺千君贴”广告，字幕还打着“进步代谢”的宣扬语。当事人无法在3月3日回应称：“画面是我的脸，声响像我的声响，但真不是我”。
而在另一档综艺中，女星“应采儿”也表明晰自己孩子有几年一向不长个，后来给他弄了元德吉钙一下长了几厘米，“谢娜”还在一边帮腔：“杨紫跟我说过。”
翻开相关查找栏，各类保健品、瘦身药的“代言人”名单可谓全明星阵型，就连张伯礼院士都得出来为某“国货品牌”站台……
“这些视频就像流水线出产的赝品，把综艺片段当原材料，用AI改字幕、换配音，最终贴上产品链接。”某直播从业者告知《新周刊》，“实质是低本钱引流起号，还能躲避代言费用”。
AI拟声热度四起背面，也衍生出一条暴利的灰色产业链。在某电子商务渠道查找“AI配音”服务，有商家直言：“明星声响200元一条，素人50元，包教包会”。
“AI李鬼”猖狂，受害者名单在不断加长。明星们在面临肖像权、名誉权两层损害的一起，顾客也愈加简单误购残次产品。
据《咸宁日报》报导，AI拟声带货的产品存在资质不明、厂商不清等问题，涉事店肆多为2024年新注册账号，宣扬封面、产品包装、案牍说辞简直相同。而本该承当审阅职责的渠道，也没有提示“该画面或许由AI生成，请注意区分”，客观上成为了“假带货”习尚的推手。
本年两会期间，企业家雷军自称成了AI拟声的受害者。在很多短视频切片里，“假雷军”用标志性的湖北普通话吐槽堵车、戏弄调休，传神到网友团体@雷军自己：“这是不是你小号？”。
除了假造大众人物带货营销，AI换脸、拟声技能还被用于普通人的欺诈。前不久，有骗子用AI组成靳东的声响陪白叟谈天，骗走近百万养老钱。而据央视新闻报导，福建一位公司老板和“合作伙伴”视频通线分钟，看着了解的样貌、听着了解的声响，当场转了430万，成果对方却是AI组成的假人。
一名长时间调查人工智能的学者曾向《新周刊》解说，只需收集声响中的频率、音色、腔调等要害特征，合作语速和情感参数，即便少数样本也能在几秒内完结克隆。
另一方面，AI拟声使用也从未像今日这样垂手而得。“现在施行AI换声欺诈的技能门槛，相当于在手机里装置一个修图App。并且换声、换脸的传神度会渐渐的好，普通用户会愈来愈难以区分或区别。”上述专家称。
互联网上的AI声响克隆攻略也随处可见。光是在小红书上，有关“AI组成明星声响软件”的帖子就多达4w+条。闲鱼App上，一次AI声响克隆更是低至10块以内，这意味任何人都能够低本钱地取得自己想要的AI明星声响，其间，还有博主用自己孩子的声响资料，组成了“AI版新闻联播开场白”。
“假设AI换脸拟声被过度乱用，或许将来某一天，咱们不得已在发布实在录制内容时进行声明，着重内容的实在性。整个社会对实在性的区分本钱将会十分高，一定要采纳方法防止该技能泛滥成灾。”我国传媒大学副教授张鹂在承受《潇湘晨报》采访时曾表明。
现在，国内正在立法上注重此类问题。2024年4月，北京互联网法院宣判全国首例“AI声响侵权案”，初次清晰自然人声响权益的维护规模可及于AI生成内容。此外，相似“白名单准则”也会在9月1日上线，让以往难以区分的AI著作“持证上岗”。
但是，这行写着“内容为AI技能制造，请慎重鉴别”的半透明小字，实际效果怎么仍需打个问号。先不管那些蚂蚁巨细的水印，戴着老花镜的中老年人能不能看清。大部分人连AI是啥都搞不懂，刷到AI换脸的摄生专家视频时，只会疑惑：“这视频里的人分明在动，咋会是假的？”
归根到底，无论是AI拟声、换脸仍是一再爆出的AI假新闻，坚持置疑与求证，或许才是咱们应对虚伪内容的最终堡垒。究竟，被AI偷走声响的，全红婵们不是第一个，也不会是最终一个。
