深偽色情

2017年，互联网上出现了大量深伪色情内容，特别是在Reddit上。[2]第一个吸引眼球的是黛茜·雷德利的深伪色情内容，它曾出现在几篇文章中。 [2]其他著名的深伪色情作品出自不同的名人之手。 [2][3][4][5]荷兰网络安全初创公司Deeptrace于2019年10月发布的一份报告估计，网上所有深伪内容中有96%是色情的。 [6]

2017年12月，萨曼莎·科尔(Samantha Cole)在Vice发表了一篇关于r/深伪的文章，首次引起了主流对在线社区分享深伪的关注。[7] 六周后，科尔在一篇后续文章中写道，人工智能辅助的虚假色情作品大幅增加。[8]自2017年以来，Vice的萨曼莎·科尔发表了一系列文章，报道了围绕深伪色情内容的新闻。 [9][10][11][12][5][13][7][8]

自那以后，多家社交媒体禁止或努力限制深伪色情内容。最值得注意的是，Reddit上的r/Deepfakes subreddit于2018年2月7日被禁止，原因是违反了政策，即“非自愿色情”。[14][15][16][17][18][19] 同月，Twitter的代表表示，他们将暂停涉嫌发布非双方同意的深伪内容的账户。[13]

斯嘉丽·约翰逊经常成为深伪色情的主题，她在2018年12月向华盛顿邮报公开谈论了这个话题。[20]在一份事先准备好的声明中，她表示，尽管存在担忧，但她不会试图移除任何深伪内容，因为她相信它们不会影响她的公众形象，而且各国不同的法律和互联网文化的性质使得任何移除深伪内容的尝试都是失败的。[20]

然而，虽然像她这样的名人受到名气的保护，但她认为，深伪色情对知名度较低的女性构成了严重威胁，她们的声誉可能会因为不由自主地出现在深伪色情或报复性色情作品中而受损。[20]

深伪色情软件可能被滥用来制作针对个人的虚假色情内容（例如用于报复），这可以被视为一种骚扰形式。[21]目前，DeepNude等软件制作的视频还远远不够复杂，无法与法医分析下的真实视频区分开来。[25]这似乎不可能有说服力，因为这些内容是用人物的“一般图像”创建的(这意味着真人身上的任何瑕疵——模具、疤痕、纹身……都不会被生成)。因此，这被认为永远不足以说服（例如法律领域的）官员，也可能不会对个人现实生活产生任何重大影响。

2018年1月31日，Gfycat开始从其网站上删除所有深伪（及作品）。[11][37]

2018年2月，r/Deepfakes因分享非自愿色情内容被Reddit封禁。[19]其他网站也禁止对非自愿色情内容使用深伪，包括社交媒体平台Twitter和色情网站Pornhub。 [13]然而，一些网站并没有禁止深度虚假内容，包括4chan和8chan。[38]

同样在2018年2月，Pornhub表示将禁止在其网站上发布深度虚假视频，因为这些视频被认为是违反了他们的服务条款的“非双方同意的内容”。[10]他们之前还向Masable表示，他们将删除标记为深伪的内容。 [39]Buzzfeed新闻网站Motherboard的撰稿人报告称，在Pornhub上搜索深度假货仍然会返回多个最近的深度假货视频。[10]

聊天网站Discord过去曾对深伪采取过行动，[40]并对深度伪造保持了这种普遍态度。 [37][41]2018年9月，谷歌将“非自愿合成色情图片”添加到其禁令名单中，允许任何人请求屏蔽描绘他们的假裸体的搜索结果。[42]