馬斯克旗下人工智慧公司 xAI 挑戰美國明尼蘇達州「AI裸露影像禁令」的訴訟,首輪攻防以敗訴收場,聯邦法院駁回 xAI 提出的初步禁令申請,意味著這項針對人工智慧生成非自願裸露影像的法律將繼續生效。
這項法律於8月1日正式上路,禁止網站營運商、軟體開發商及其他業者,提供利用人工智慧將可識別人物製作成虛假裸露影像的功能,明尼蘇達州政府表示,立法目的在於遏止未經當事人同意的深偽性影像散布,降低AI技術遭到濫用的風險。

xAI則主張,該法限制了受美國憲法第一修正案保障的言論自由,因此要求法院在案件審理期間暫停執行法案,不過,美國地區法官多諾萬・弗蘭克認為,xAI未能證明法律已對公司造成足以支持初步禁令的實質損害,因此拒絕暫停法案施行。
法官在裁定中指出,這起案件涉及人工智慧新技術與憲法權利之間的複雜法律問題,未來仍需要透過完整的訴訟程序進一步釐清,但現階段沒有理由阻止法律繼續生效。
明尼蘇達州民主黨籍總檢察長基思・埃里森則表示,法案獲得跨黨派廣泛支持,因為AI裸露工具近年已被用來製作兒童性虐待素材,以及未經同意散布性化影像騷擾他人,因此州政府認為有必要透過法律加強防範。
近年來,AI生成深偽內容引發各界高度關注,xAI旗下聊天機器人Grok也曾因生成色情內容而受到批評,監管機構持續要求AI業者建立更完善的安全機制,xAI近期也開始對部分使用者提起訴訟,指控有人刻意繞過Grok的防護措施,製作未經當事人同意的性化深偽影像。