在 CDPR 開發的奇幻 RPG 系列《巫師》中,為「利維亞的傑洛特」配音的 Doug Cockle 多年來為玩家們帶來了許多令人難忘的演出,而他本人也像絕大部分的玩家和一般民眾一樣,對於隨意盜用他人聲音的「深偽」等 AI 技術恨之入骨,甚至希望能控告所有盜用他聲音的公司或個人。

在近期接受《Polygon》網站的訪談時,Doug Cockle 談論到了他對於自己的聲音近年來常常被人隨意盜用的看法,並不客氣地表示,如果他有那個權力、資金和影響力的話,他絕對會把所有冒用他聲音的 AI 平台告上法庭,甚至把他們弄到倒閉。

隨著 AI 生成技術的崛起,在未經許可的情況下複製他人的聲音,並說出對方從來沒有說過的話已成為了一件容易到相當恐怖的亂象,舉例來說,在 Character.AI 等 AI 角色扮演平台上,用戶就能與模擬傑洛特角色性格的 AI 機器人聊天,甚至直接套用 Doug Cockle 的聲音,隨心所欲上演各種互動情境。

然而,真正讓 Cockle 感到不安的事,許多人會利用這類 AI 剝奪一位真實人物的自我認同,並利用他的聲音編造出任何他們想要的、足以以假亂真的語音內容,而根據 Cockle 的說法,這類用戶通常會利用變造的聲音逼人說出一些令人作嘔的東西,甚至對此完全不以為意,甚至認為只要標註「AI生成」就能逃過一切責任。

而對於這樣的亂象,Doug Cockle 表示如果真的有機會的話,他絕對不會為了金錢或賠償起訴這些 AI 公司或使用者,而是他對於這種近乎侵犯的行為感到怒不可遏。

「他們可以隨意讓傑洛特說出各種十分恐怖的言論。讓他變成一位種族歧視者、厭女者,或說出一些極其駭人的政治立場。

我現在講得可能有點激動,但這真的已經成為我目前人生中最讓我在意、最困擾我的事情。」Doug Cockle 表示

對於一般人來說,這類生成式 AI 早已悄悄遍佈了整個網路,而各種亂象以及後過也開始浮出檯面,這項科技不僅會試圖收集人們的聲音等個人資料,還可能被有心人士隨意濫用,藉此對無辜的人造成傷害。

除了 Doug Cockle 面臨的問題之外,有「深偽變造」的亂象在亞洲也早已延燒了好一段時間,像是在 2024 年,就有 26 名聲優一同發起了一場「NOMORE 無斷生成AI」的聯署運動,其中包含了中尾隆聖、浪川大輔、梶裕貴、福山潤、朴璐美、甲斐田裕子、山寺宏一、關俊彥、中田讓治等資深業界人士。

而到了最近,曾在《新世紀福音戰士》中為主角碇真嗣配音的緒方惠美也對於自己的聲音常常遭人利用深偽技術變造濫用感到十分心痛,並呼籲日本政府能夠盡快制定相關法規,此外,於《咒術迴戰》中為七海建人配音的津田健次郎甚至還向 TikTok 平台提出告訴,藉此抗議大量未經許可冒用他聲音的影片創作。