深偽色情

深伪色情（英語：DeepFake Pornography），或假色情，是一种由人工智能合成的色情作品。它通过深伪技术，将已存在的色情作品当中的身体部分合成为其他人的身体备份（主要是更换面部）以制作虚假的色情作品。深伪色情内容一直备受争议，因为它的内容通常都是将女性名人的面孔放在色情表演者的身体上，而这些女性名人的深伪色情作品通常是在未经她们同意的情况下制作的。^[1]

历史

2017年，互联网上出现了大量深伪色情内容，特别是在Reddit上。^[2]第一个吸引眼球的是黛茜·雷德利的深伪色情内容，它曾出现在几篇文章中。 ^[2]其他著名的深伪色情作品出自不同的名人之手。 ^[2][3][4][5]荷兰网络安全初创公司Deeptrace于2019年10月发布的一份报告估计，网上所有深伪内容中有96%是色情的。 ^[6]

2017年12月，萨曼莎·科尔(Samantha Cole)在Vice发表了一篇关于r/深伪的文章，首次引起了主流对在线社区分享深伪的关注。^[7] 六周后，科尔在一篇后续文章中写道，人工智能辅助的虚假色情作品大幅增加。^[8]自2017年以来，Vice的萨曼莎·科尔发表了一系列文章，报道了围绕深伪色情内容的新闻。 ^{[9][10][11][12][5][13][7][8]}

自那以后，多家社交媒体禁止或努力限制深伪色情内容。最值得注意的是，Reddit上的r/Deepfakes subreddit于2018年2月7日被禁止，原因是违反了政策，即“非自愿色情”。^{[14][15][16][17][18][19]} 同月，Twitter的代表表示，他们将暂停涉嫌发布非双方同意的深伪内容的账户。^[13]

斯嘉丽·约翰逊经常成为深伪色情的主题，她在2018年12月向华盛顿邮报公开谈论了这个话题。^[20]在一份事先准备好的声明中，她表示，尽管存在担忧，但她不会试图移除任何深伪内容，因为她相信它们不会影响她的公众形象，而且各国不同的法律和互联网文化的性质使得任何移除深伪内容的尝试都是失败的。^[20]

然而，虽然像她这样的名人受到名气的保护，但她认为，深伪色情对知名度较低的女性构成了严重威胁，她们的声誉可能会因为不由自主地出现在深伪色情或报复性色情作品中而受损。^[20]

深度裸体（DeepNude）

2019年6月，一款名为DeepNude的可下载Windows和Linux应用程序发布，该应用程序使用神经网络，特别是生成性对抗网络，从女性图像中脱下衣服。这款应用程序有付费和非付费两种版本，付费版本的价格为50美元。^[12] 6月27日，创建者删除了这款应用程序，并向消费者退款，尽管该应用程序的各种免费和收费副本仍然存在。^[21][22]在GitHub上，这个程序的开放源码版本被删除了，名为“开放深度裸体”。^{[23] [24]}开源版本的优点是可以在更大的裸体图像数据集上进行训练，以提高生成的裸体图像的精度水平。^[25]

深伪儿童性虐材料

深伪技术使儿童性虐待材料(CSAM)的制作比以往任何时候都更快、更安全、更容易。Deepfake可以用来从现有的材料中产生新的CSAM，或者从没有受到性虐待的儿童中创建CSAM。然而，深伪CSAM可能会对儿童产生真实和直接的影响，包括诽谤、打扮、勒索和欺凌。^[26]此外，深伪儿童色情作品给警方带来了更多障碍，使刑事调查和受害者身份识别变得更加困难。 ^{[來源請求]}

伦理辩论

深伪色情软件可能被滥用来制作针对个人的虚假色情内容（例如用于报复），这可以被视为一种骚扰形式。^[21]目前，DeepNude等软件制作的视频还远远不够复杂，无法与法医分析下的真实视频区分开来。^[25]这似乎不可能有说服力，因为这些内容是用人物的“一般图像”创建的(这意味着真人身上的任何瑕疵——模具、疤痕、纹身……都不会被生成)。因此，这被认为永远不足以说服（例如法律领域的）官员，也可能不会对个人现实生活产生任何重大影响。

企业限制措施

2018年1月31日，Gfycat开始从其网站上删除所有深伪（及作品）。^[11][27]

2018年2月，r/Deepfakes因分享非自愿色情内容被Reddit封禁。^[19]其他网站也禁止对非自愿色情内容使用深伪，包括社交媒体平台Twitter和色情网站Pornhub。 ^[13]然而，一些网站并没有禁止深度虚假内容，包括4chan和8chan。^[28]

同样在2018年2月，Pornhub表示将禁止在其网站上发布深度虚假视频，因为这些视频被认为是违反了他们的服务条款的“非双方同意的内容”。^[10]他们之前还向Masable表示，他们将删除标记为深伪的内容。 ^[29]Buzzfeed新闻网站Motherboard的撰稿人报告称，在Pornhub上搜索深度假货仍然会返回多个最近的深度假货视频。^[10]

聊天网站Discord过去曾对深伪采取过行动，^[30]并对深度假货保持了这种普遍态度。 ^[27][31]2018年9月，谷歌将“非自愿合成色情图片”添加到其禁令名单中，允许任何人请求屏蔽描绘他们的假裸体的搜索结果。^[32]

参考

1. Dickson, E. J. . Rolling Stone. 2019-10-07 [2019-11-09]. （原始内容存档于2019-10-30） （美国英语）. 
2. Roettgers, Janko. . Variety. 2018-02-21 [2018-02-28]. （原始内容存档于2019-06-10） （美国英语）. 
3. Goggin, Benjamin. . Business Insider. [2019-11-09]. （原始内容存档于2019-11-08）. 
4. Lee, Dave. . 2018-02-03 [2019-11-09]. （原始内容存档于2019-12-01） （英国英语）. 
5. Cole, Samantha. . Vice. 2018-06-19 [2019-11-09]. （原始内容存档于2019-11-08） （英语）. 
6. (PDF). Deeptrace. 2019-10-01 [2020-07-07]. （原始内容 (PDF)存档于2020-08-09） （美国英语）. 
7. Cole, Samantha. . Vice. 11 December 2017 [19 December 2018]. （原始内容存档于2019-09-07）. 
8. Cole, Samantha. . Vice. 2018-01-24 [2019-12-15]. （原始内容存档于2019-09-07） （英语）. 
9. Cole, Samantha. . Vice. 2019-06-11 [2019-12-15]. （原始内容存档于2019-10-12） （英语）. 
10. Cole, Samantha. . Vice. 2018-02-06 [2019-11-09]. （原始内容存档于2019-11-01） （英语）. 
11. Cole, Samantha. . Vice. 2018-01-31 [2019-11-18]. （原始内容存档于2019-11-01） （英语）. 
12. Cole, Samantha; Maiberg, Emanuel; Koebler, Jason. . Vice. 26 June 2019 [2 July 2019]. （原始内容存档于2019-07-02）. 
13. Cole, Samantha. . Vice. 2018-02-06 [2019-11-08]. （原始内容存档于2019-11-01） （英语）. 
14. Böhm, Markus. . Spiegel Online. 2018-02-07 [2019-11-09]. （原始内容存档于2019-09-23）. 
15. barbara.wimmer. . futurezone.at. 8 February 2018 [2019-11-09]. （原始内容存档于2018-02-08） （德语）. 
16. online, heise. . heise online. [2019-11-09]. （原始内容存档于2019-04-10） （德语）. 
17. . DER STANDARD. [2019-11-09]. （原始内容存档于2019-11-09） （奥地利德语）. 
18. Robertson, Adi. . The Verge. 2018-02-07 [2019-11-09]. （原始内容存档于2019-09-24） （英语）. 
19. Kharpal, Arjun. . CNBC. 2018-02-08 [2018-02-20]. （原始内容存档于2019-04-10）. 
20. . The Washington Post. 2018-12-31 [2019-06-19]. （原始内容存档于2022-05-23）. 
21. . 3 July 2019 [2022-05-22]. （原始内容存档于2021-02-08）. 
22. . 27 June 2019 [2022-05-22]. （原始内容存档于2021-04-06）. 
23. . [2022-05-22]. （原始内容存档于2021-01-26）. 
24. Cox, Joseph. . Vice Media. July 9, 2019 [2022-05-22]. （原始内容存档于2020-09-24）. 
25. . [2022-05-22]. （原始内容存档于2021-03-07）. 
26. Kirchengast, T. Deepfakes and image manipulation: criminalisation and control.. Information & Communications Technology Law. 2020, 29 (3): 308–323. S2CID 221058610. doi:10.1080/13600834.2020.1794615. 
27. Ghoshal, Abhimanyu. . The Next Web. 2018-02-07 [2019-11-09]. （原始内容存档于2019-12-20） （美国英语）. 
28. Hathaway, Jay. . The Daily Dot. 8 February 2018 [22 December 2018]. （原始内容存档于2019-07-06）. 
29. Gilmer, Damon Beres and Marcus. . Mashable. 2 February 2018 [2019-11-09]. （原始内容存档于2019-12-09） （英语）. 
30. Price, Rob. . Business Insider Australia. 2018-01-27 [2019-11-28]. （原始内容存档于2019-12-15） （英语）. 
31. . Engadget. [2019-11-28]. （原始内容存档于2019-12-15） （英语）. 
32. Harrell, Drew. . The Washington Post. [2019-01-01]. （原始内容存档于2019-01-02）.