“國(guó)慶假期7天，被‘雷軍’罵了8天？” “十一”期間，一批以“雷軍”的聲音為配音的視頻在社交媒體上快速傳播，除了吐槽國(guó)慶過(guò)得太快、堵車(chē)太煩以外，一些“AI雷軍”化身游戲npc，言辭犀利且常常語(yǔ)出不遜。這些聲音以假亂真，以至于有網(wǎng)友在雷軍本人微博下留言，“雷總，最近你怎么在罵人”，雷軍迅速回復(fù)了三個(gè)憤怒的表情。

在“AI雷軍”事件之前，AI在聲音領(lǐng)域因技術(shù)濫用、侵權(quán)等問(wèn)題曾引發(fā)國(guó)內(nèi)外的聲討。今年1月，多名巴西配音演員發(fā)起抵制運(yùn)動(dòng)呼吁對(duì)影視行業(yè)中AI的使用進(jìn)行監(jiān)管，在國(guó)內(nèi)“AI孫燕姿”等網(wǎng)友篡改歌手演唱視頻的傳播也引發(fā)了諸多爭(zhēng)議。

今年4月，北京互聯(lián)網(wǎng)法院對(duì)全國(guó)首例“AI聲音侵權(quán)案”做出了一審判決，判決中提到，利用人工智能合成的聲音，如果能使一般社會(huì)公眾或者相關(guān)領(lǐng)域的公眾根據(jù)其音色、語(yǔ)調(diào)和發(fā)音風(fēng)格，關(guān)聯(lián)到該自然人，可以認(rèn)定為具有可識(shí)別性。

暨南大學(xué)法學(xué)院/知識(shí)產(chǎn)權(quán)學(xué)院副教授吳雨輝向南都記者表示，“雷軍AI聲音熱傳現(xiàn)象”是典型的深度偽造行為，需要在源頭上加強(qiáng)對(duì)于生成式人工智能服務(wù)商的監(jiān)管，要求其切實(shí)履行《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)定。

國(guó)慶7天被“AI雷軍”罵了8天？

國(guó)慶期間，一批以“雷軍”的聲音為配音的視頻在社交媒體上快速傳播，除了吐槽國(guó)慶過(guò)得太快、堵車(chē)太煩以外，一些“AI雷軍”化身游戲npc，言辭犀利且常常語(yǔ)出不遜。

國(guó)慶期間，“雷軍AI配音”話(huà)題在抖音平臺(tái)的瀏覽量過(guò)億，B站上相關(guān)創(chuàng)作也已超過(guò)上百條，不少網(wǎng)友戲稱(chēng)，“國(guó)慶假期7天，被‘雷軍’罵了8天”。

在雷軍的微博評(píng)論區(qū)中，連日來(lái)也有不少網(wǎng)友留言詢(xún)問(wèn)此事。10月7日，有網(wǎng)友留言詢(xún)問(wèn)雷軍，“雷總，最近你怎么在罵人”，雷軍迅速回復(fù)了三個(gè)憤怒的表情。

10月9日，小米公關(guān)部總經(jīng)理王化在微博上公布了雷軍“金光閃閃名場(chǎng)面”這個(gè)經(jīng)典梗的完整視頻，并澄清大家“被目前網(wǎng)絡(luò)中斷章取義的五個(gè)字給誤導(dǎo)了”。隨后有網(wǎng)友在評(píng)論區(qū)呼吁，“把‘雷軍 AI’ 語(yǔ)音罵人的事情先解決一下”，王化評(píng)論回應(yīng)稱(chēng)已將此事轉(zhuǎn)給了小米法務(wù)部。

目前，南都記者檢索視頻平臺(tái)，相關(guān)罵人視頻已不見(jiàn)蹤影。

涉事軟件平臺(tái)仍未下架“雷軍罵人AI”

在“AI雷軍”事件中，不少網(wǎng)友曾在發(fā)出的視頻評(píng)論中提及，自己是使用了reecho睿聲聲音軟件來(lái)制作相關(guān)惡搞視頻。

南都記者登錄睿聲官網(wǎng)的聲音市場(chǎng)看到，用戶(hù)自創(chuàng)的社區(qū)角色中除了雷軍以外，還有周杰倫、成龍、劉亦菲、馬云等名人。用戶(hù)在語(yǔ)音生成功能中，只需輸入一段文案，即可快速生成一段相關(guān)語(yǔ)音，可以選取上述名人的聲音來(lái)讀出輸入的文案，效果非常逼真。

南都記者隨意點(diǎn)開(kāi)一個(gè)“AI雷軍”語(yǔ)音，該語(yǔ)音開(kāi)頭便使用不雅用語(yǔ)，并提到“最煩你們這些打游戲喜歡犟嘴的畜生了”。目前，該語(yǔ)音已經(jīng)被使用了3.7萬(wàn)次。南都記者實(shí)測(cè)發(fā)現(xiàn)，截至發(fā)稿時(shí)間，該雷軍相關(guān)的AI聲音仍可生成和下載，并未下架。

南都記者采訪(fǎng)獲悉，reecho睿聲聲音軟件由深圳言域科技有限公司開(kāi)發(fā)，該公司于9月30日曾獲得奇績(jī)論壇的天使輪投資。言域科技創(chuàng)始人兼CEO謝偉鐸告訴南都記者，該公司目前已接到了小米公司的聯(lián)系，正在配合對(duì)方訴求對(duì)涉及侵權(quán)的用戶(hù)內(nèi)容做告知和下架等處理，對(duì)于其它可能涉及侵權(quán)的內(nèi)容也正在逐步排查處理中。

值得一提的是，此前網(wǎng)絡(luò)上流傳的“三只羊”盧某某在酒后發(fā)表的一段言論，其中對(duì)“三只羊”處理客訴問(wèn)題、競(jìng)爭(zhēng)對(duì)手等發(fā)表了相關(guān)看法，還提及“與三只羊女主播之間的不正當(dāng)關(guān)系”，一度引發(fā)了熱議。后續(xù)合肥市公安局高新分局發(fā)布公告稱(chēng)，該錄音系被人用AI軟件偽造克隆。該公告還提到了克隆的具體手段：犯罪嫌疑人利用從互聯(lián)網(wǎng)下載的音視頻資料，杜撰三只羊盧某某酒后言論腳本，先使用AI工具訓(xùn)練生成假冒盧某某的音頻(其中出現(xiàn)的女聲也系A(chǔ)I工具訓(xùn)練生成)，后用視頻軟件合成音視頻，并通過(guò)網(wǎng)絡(luò)發(fā)布，形成謠言大量傳播。

9月27日，reecho睿聲通過(guò)官方賬號(hào)表明，自己正是“三只羊盧某某錄音門(mén)”事件背后的大模型平臺(tái)，犯罪嫌疑人通過(guò)三只羊此前直播片段的約30秒錄音進(jìn)行克隆，并通過(guò)文本進(jìn)行了生成。

“AI聲音侵權(quán)”已有判例

在“雷軍AI”事件之前，AI在聲音領(lǐng)域因技術(shù)濫用、侵權(quán)等問(wèn)題曾引發(fā)國(guó)內(nèi)外的聲討。

今年1月，多名巴西配音演員為呼吁對(duì)影視行業(yè)中AI的使用進(jìn)行監(jiān)管，曾聯(lián)合發(fā)起抵制運(yùn)動(dòng)。在國(guó)內(nèi)，除了“AI孫燕姿”以外，網(wǎng)友篡改歌手演唱視頻的傳播也引發(fā)了諸多爭(zhēng)議。目前，AI在聲音方面的應(yīng)用仍有不少灰色地帶，諸多視頻經(jīng)過(guò)二次甚至是多次篡改、傳播，導(dǎo)致溯源環(huán)節(jié)長(zhǎng)、當(dāng)事人維權(quán)成本高。

今年4月，對(duì)于全國(guó)首例“AI聲音侵權(quán)案”，北京互聯(lián)網(wǎng)法院做出了一審判決。在該案件中，配音師殷某發(fā)現(xiàn)，一款叫“魔音工坊”的配音APP將自己錄制有聲書(shū)的聲音AI化后以“魔小璇”的名義對(duì)外出售牟利。其中，自2021年9月7日至今，在短劇視頻“小禾侃劇”的賬號(hào)里，自己“被AI的聲音”已經(jīng)使用在了119部作品里。

原告配音師殷某稱(chēng)，自己從未對(duì)“魔音工坊”的行為有過(guò)授權(quán)。溯源發(fā)現(xiàn)，殷某曾受中廣影音（北京）文化傳媒有限公司委托錄制了3本書(shū)的音頻，該公司又將音頻提供給微軟（中國(guó)）有限公司，后者將殷某的聲音進(jìn)行AI化處理后，生成了“曉萱”文本轉(zhuǎn)語(yǔ)音產(chǎn)品，并向兩家其他公司授權(quán)對(duì)外出售。之后，殷某“魔音工坊”所屬的公司直接調(diào)取該文本轉(zhuǎn)語(yǔ)音產(chǎn)品生成“魔小璇”的文本轉(zhuǎn)語(yǔ)音產(chǎn)品，并在該平臺(tái)使用。殷某認(rèn)為，在未經(jīng)自己授權(quán)的情況下，上述五家公司的行為已經(jīng)嚴(yán)重侵犯了自己的聲音權(quán)益。

南都記者關(guān)注到，該案雖加入了AI元素，但爭(zhēng)議焦點(diǎn)在于上述五家公司的行為是否構(gòu)成了對(duì)自然人的聲音權(quán)益侵犯的議題中。根據(jù)審判文書(shū)，法院認(rèn)為，自然人聲音以聲紋、音色、頻率為區(qū)分，具有獨(dú)特性、唯一性、穩(wěn)定性特點(diǎn)，能夠給他人形成或引起一般人產(chǎn)生與該自然人有關(guān)的思想或感情活動(dòng)，可以對(duì)外展示個(gè)人的行為和身份。自然人聲音的可識(shí)別性是指在他人反復(fù)多次或長(zhǎng)期聆聽(tīng)的基礎(chǔ)上，通過(guò)該聲音特征能識(shí)別出特定自然人。利用人工智能合成的聲音，如果能使一般社會(huì)公眾或者相關(guān)領(lǐng)域的公眾根據(jù)其音色、語(yǔ)調(diào)和發(fā)音風(fēng)格，關(guān)聯(lián)到該自然人，可以認(rèn)定為具有可識(shí)別性。

而在該案中，被告軟件公司系僅使用原告?zhèn)€人聲音開(kāi)發(fā)涉案文本轉(zhuǎn)語(yǔ)音產(chǎn)品，而且經(jīng)當(dāng)庭勘驗(yàn)，該AI聲音與原告的音色、語(yǔ)調(diào)、發(fā)音風(fēng)格等具有高度一致性，能夠引起一般人產(chǎn)生與原告有關(guān)的思想或感情活動(dòng)，能夠?qū)⒃撀曇袈?lián)系到原告本人，進(jìn)而識(shí)別出原告的主體身份。

惡搞“AI雷軍”已構(gòu)成侵權(quán)

暨南大學(xué)法學(xué)院/知識(shí)產(chǎn)權(quán)學(xué)院副教授吳雨輝向南都記者表示，“雷軍AI聲音熱傳現(xiàn)象”是典型的深度偽造行為。“網(wǎng)友的惡搞行為顯然是對(duì)雷軍先生個(gè)人的權(quán)益侵害，如果這些視頻沒(méi)有清晰標(biāo)注‘深度合成’字樣的話(huà)，更是對(duì)社會(huì)公共利益的侵害。為了防止此類(lèi)事件引發(fā)更嚴(yán)重的社會(huì)危害，需要在源頭上加強(qiáng)對(duì)于生成式人工智能服務(wù)商的監(jiān)管，要求其切實(shí)履行《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)定。”

而上述的AI聲音侵權(quán)第一案，則是讓人們直觀(guān)地認(rèn)識(shí)到了一種新的聲音權(quán)益使用方式，尤其是意識(shí)到其與著作權(quán)的差異和相通之處?！吧深?lèi)似他人風(fēng)格的作品未必構(gòu)成著作權(quán)侵權(quán)，但是生成類(lèi)似他人聲音的作品則構(gòu)成人格權(quán)侵權(quán)。這一判決有助于推動(dòng)聲音權(quán)保護(hù)立法和實(shí)踐的進(jìn)一步完善，在聲音識(shí)別比對(duì)標(biāo)準(zhǔn)、聲音權(quán)商業(yè)化、普通人聲音權(quán)保護(hù)等方面做出更多的探索?！眳怯贻x稱(chēng)。

吳雨輝還提到，目前已有法律對(duì)AI聲音進(jìn)行規(guī)范和限制。“在私人權(quán)利保護(hù)方面，AI聲音涉及到他人聲音權(quán)的侵犯，根據(jù)《民法典》的規(guī)定，使用他人聲音應(yīng)當(dāng)取得許可；在公共利益保護(hù)方面，未經(jīng)許可的AI聲音生成實(shí)際上是一種深度偽造行為。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》等法律規(guī)定，未經(jīng)許可以他人聲音生成AI聲音是違法行為；生成AI服務(wù)提供商如未盡到標(biāo)記義務(wù)和審核義務(wù)，未及時(shí)采取處置措施，也有可能承擔(dān)法律責(zé)任。”

采寫(xiě)：南都記者 林文琪