中国政策档案 Governance Archive HOLDINGS 191,948 · FONDS 70
Record · 凤凰网科技 ACC. 900038000

AI Cloned My Voice and Stole My Job

AI克隆了我的声音,抢走了我的工作

Issuer
凤凰网科技
Date
Instrument
other
Cited by
0
This media report details the experience of a freelance voice actor whose voice was cloned by AI without consent, leading to economic harm and difficulty in legal recourse. It highlights the challenges of AI voice theft in China's short-video industry and the limitations of current legal protections.
Full text · 原文 3,868 字
文 | Sleepy、Menmen<br> 小鱼在短视频平台刷到自己的声音,是在一个平平常常的晚上。<br> 这副嗓子他靠它吃了六年饭。音色、咬字、换气时喉头轻轻一收的位置,都和他自己发出来的声音一模一样。<br> 视频里那个声音说:「这个人生过得真没意思。」<br> 他盯着屏幕愣了一下。这种丧气话,他接单的时候是主动避开的。他不会这么说,也不愿意这么说。可那个声音说得理直气壮。<br> 拿嗓子搬砖的人<br> 小鱼把配音做成全职,是 2020 年底的事。第一单来自亲戚,亲戚公司有个科普短视频项目要配音,知道他一直喜欢这个,就把活派给了他。后来他慢慢入了行,主要给短视频和自媒体账号配音,一个月挣一万上下。<br> 他赶上的是这门生意的尾巴。短视频配音在中国已经长成一条庞大的流水线,2022 年全球配音市场有五十多亿美元的盘子。可利润顺着链条往下走,一路被削减得越来越少。甲方给平台的报价大约三十块一分钟,落到配音员手里,常常只剩一块五。<br> 小鱼站在链条的末端。他没有出圈的作品,说不出几个被观众记住的角色,算不上正经的「配音演员」。他自己的说法是,拿嗓子搬砖的人。声音不是天赋,也不是艺术表达,是吃饭的家伙。<br> 这件家伙他护得很紧。接单久了,他会特意提醒合作方,别把他的联系方式随便往外推。他怕声音用得太多、太滥,失去辨识度。一个没名气的配音员,能守的本钱不多,稀缺算一个。<br> 2023 年 11 月,朋友发来一条消息。他这才知道,网上已经有人用他的声音克隆出了 AI 配音,用得肆无忌惮。<br> 他想追溯声音是从哪儿流出去的,几乎无果。这几年他接的单太多,任何一段发在网上的视频都可能被人下载下来,用软件把他的声音干干净净地提出来。他不知道是哪一段、被谁、在什么时候拿走的。<br> 寄生虫与宿主<br> 事情变得越来越糟糕了。<br> 合作方很快学会了拿他的 AI 声音来跟他谈价。找一个真人配音,哪怕压到极低,也要几十块。而自己部署一个模型,成本几乎可以降到免费。对那些一个月要更几百条内容的账号来说能省不少钱。<br> 小鱼甚至替对方想过,不让人家用某种程度上也是不让人家赚钱。可人家赚钱的时候,可不会考虑自己的行为正在断小鱼的生路。<br> 更麻烦的在后面。他的克隆声音在平台上越铺越多,审核和算法开始把这个声音直接判成 AI。被判成 AI 的内容,进不了更大的流量池。等他的 AI 声音泛滥到一定程度,他本人的真声也被当成了 AI,一样进不去。<br> 一个真实的人被自己的复制品拖累。他的声音作为一种劳动能力,被从他身上拆了出去,又回过头来挤占他自己的生存空间。<br> 有官方媒体转发过用他 AI 声音做的视频,后来干脆自己也做了几条。越是大机构这么用,普通人就越相信这个声音原本就是个 AI。他去维权,对象越大,他自己就越像那个说谎的人。明明是他被侵权,看起来倒像他想从一个「AI 声音」里分一杯羹。<br> 法律也没有他想的那么全能。2024 年 4 月,北京互联网法院判了全国第一例 AI 声音侵权案。配音员殷某的声音被一家公司拿去卖钱,法院认了,声音是人格的一部分,AI 克隆出来的声音只要还能听出是谁,用之前就得单独拿到授权。殷某赢了。<br> 可殷某能赢,是因为他能溯源。他的声音集中出现在几家 APP 上,被告是一家具体的公司。小鱼的声音散在几百个自媒体账号里,源头不可考,被告不可寻,每一次盗用都是几十块几百块的小额侵权。法律为「一个人告一家公司」准备了答案,没有为「一个人被整个互联网盗用」准备答案。<br> 小鱼给这种关系起过一个名字,寄生虫与宿主。一个声音被用到进不了流量池,使用者就会去找下一个声音。<br> 「他们会切换下一任宿主,」他说,「不知道下一任宿主能不能撑得比我久。」<br> 鞭子抽打着另一个我<br> 小鱼私人账号的评论区和私信里,不断有人来问他的声音怎么弄。<br> 「这个声音怎么用?」<br> 「你这个声音确实好,怎么克隆?」<br> 他们问得理直气壮,像是问一个 App 怎么下载。<br> 这种冒犯让小鱼难受。他不觉得声音是能被简单买断的东西。在他看来,要是连脸和声音都能被彻底买断,那人的一部分就重新成了奴隶。<br> 可被问到那个克隆出来的声音到底算不算「他的声音」,他的回答有点拧巴。他承认,论相似度,那就是他的声音。正因为他觉得那和自己有关,他才去维权、去发声。但他又说,那不是「他」,因为它没经过他的允许,也没经过他的思考。<br> 他打了个比方。「像是对方拿着鞭子在抽打着另一个我,让我说出一些话。」<br> 我们问他,如果真的授权了呢,那个 AI 声音算不算属于他自己。他沉默了一会儿。<br> 「比起没有授权的,」他说,「那更属于自己。」<br> 被拿走,和被买断。两件事都不好,他只能挑一个不那么坏的。<br> 而授权这条路,已经有人走到尽头给他探过了。今年六月,《小猪佩奇》的制作方孩之宝给参演的儿童配音演员发了新合同,要求允许公司用他们的声音做 AI 复制和生成。媒体把这事捅出来之后,英国的青年演员经纪人们发了一封公开信反对,理由只有一条,孩子根本没有能力理解这类授权的长期后果。一千多人在信上签了名。<br> 让孩子签一份他自己看不懂的授权是在占便宜,可就算是成年人能看懂合同,签了又能怎么样。短期换一笔钱,长期呢,对方之后拿这个声音说什么、做什么,他未必管得住。<br> 而且真到 AI 声音彻底成熟的那天,市场只会更偏好头部。头部配音演员的声音会在行业里得到某种永生,年轻的声音再也挤不进来。行业里有人做过调研,声音被大规模盗用之后,七成以上的中小配音从业者收入掉了一半还多,头部也普遍掉了三成。中小从业者剩下的价值,是给模型当训练样本。<br> 「真到了这一天,」他说,「也许配音圈就死了。」<br> 边界<br> 困扰小鱼的问题,正好在解决另一些人的困扰。<br> Helen 是纪录片导演,也拍广告。她第一次用 AI 配音,是去年给一个纪录片项目剪 demo。给客户看片子,得先剪一个五分钟的短版,可长片里的同期声剪不出一个完整的短故事,她只能重写一段稿子,用配音把故事串起来。<br> 她先找了配音公司。预算有限,选了一分钟一百二十块左右的样音。拿回来一听,稳定度、节奏、情感都不行,她一度怀疑那根本不是真人配的。<br> 后来剪辑师提议,要不用 AI 试试。反正只是内部交流的 demo,不播出,不商用。<br> 结果那个 AI 声音,比配音公司的低价真人还好。<br> 这是 Helen 第一次清楚地感觉到,AI 配音已经成熟到可以干活了。不过她的边界也清楚。demo 可以用,正式商用不行,纪录片更不行。拍摄对象同期声里的那些东西,停顿、气口、迟疑、一句话说出口之前的犹豫,本身就是叙事的一部分。AI 能把声音处理得更干净更顺滑,可纪录片要的不是顺滑。<br> 不完美,是人的证据。Helen 花钱买的是这个不完美。算法从小鱼身上剥掉的,也是这个不完美。同一样东西,在一边是创作的材料,在另一边是流量的负资产。<br> 最难拒绝的人<br> AI 不从最好的声音开始取代。它先走进那些「不必那么讲究」的缝隙。Helen 的 demo 就是一道缝,开得合情合理,内部交流,不播出,不商用。每个缝都开得合情合理。可这些缝隙连起来就是一条路。<br> 在这条路上,最难保护自己的,是最难说出拒绝的人。<br> Helen 拒绝 AI,代价是在预算和工期之间重新做一遍取舍。小鱼拒绝,代价是继续维权,继续耗时间耗钱,继续面对一个又一个账号的冷漠和拉黑。那些配《小猪佩奇》的孩子拒绝,代价可能是直接丢掉一个角色。<br> 而声音一旦被克隆,它就不只会去配音。<br> 2023 年 4 月,福州有人用 AI 换脸加拟声,冒充一位企业家的好友,一通十分钟的视频电话,骗走四百三十万。2024 年初,香港一家跨国公司的职员被拉进一场多人视频会议,屏幕上坐着总部 CFO 和几位同事,他照着会议指令转出两亿港元。事后查明,整场会议里,除了他自己,没有一个是真人。<br> 如果哪天,小鱼的克隆声音被拿去打这样一通电话呢。如果他年迈的父母接到一个「他」打来的电话,说「这个人生过得真没意思,借我点钱」呢。<br> 没有如来<br> 小鱼现在每发一条作品,都要多做一件过去不存在的工作,证明说话的确实是他自己。<br> 一个真人,在自己的账号上,发自己的录音,却要先设法让审核和听众相信,这一次是他本人在说。这道工序笨拙、多余、本不该存在。<br> 这个处境,吴承恩四百多年前写过。<br> 《西游记》第五十八回,六耳猕猴变成孙悟空的样子。不是「像」孙悟空,是每根毫毛都一样。照妖镜照不出,观音分不出。<br> 地藏王菩萨的坐骑谛听,趴在地上听出了真假。但它不敢说。它怕假的当场闹起来,没人管得住。<br> 这跟平台何其像。不是分不出,是分辨这件事对它们没有好处。分出一个真人,要付审核成本,要担误判的麻烦。那不如就让所有的都是 AI,这是最省事的办法。<br> 最绝的是唐僧。真悟空一路护他,可脾气大,爱顶嘴,动不动撂挑子。假的那个乖,听话,随叫随到,从不闹脾气。所以唐僧先赶走的是真的。<br> 就像那些拿 AI 声音压价的合作方。真人的小鱼会累,会涨价,会拒绝某些稿子。AI 的小鱼永不疲倦,要什么语气给什么语气,价格压得很低。站在需求那一端,谁不愿意留下更听话的那个。<br> 吴承恩最后还是安排了一个如来,三界之中只有他分得出真假,一句话定案,假的现出原形,真的归位。<br> 小鱼的麻烦在于,他的世界里没有如来。<br> 另外,民间读《西游记》,读出过一个阴谋论,说雷音寺那一棒,打死的其实是真悟空,理由是此后的悟空再没闹过脾气。这个说法流传了很多年,因为读的人心里清楚,当真假只剩权威一句话可分的时候,谁也不敢保证那一棒子真的没打错。<br> 就算小鱼赢下每一场维权,几年之后,人们记住的那个声音,也未必是他自己说出口的。