AI拍摄的真实但虚假的儿童性虐待图像

pauljoy345

一名研究人员声称，用人工智能创建的显示未成年人性活动的虚假图像正在从暗网转移到社交网络。一个悲伤的女孩被怪物包围的插图 使用人工智能生成 CSAM 的情况已经开始被发现，并且还在持续增加。 BUBANGA/GETTY IMAGES 儿童安全专家感到越来越无能为力，无法利用人工智能来防止数千张涉及未成年人的图像据《华盛顿邮报》报道，性活动中的内容很容易被创建，然后在暗网恋童癖论坛上分享。专家指出，这种“令人不安的”现实图像的“爆炸”可能会导致儿童性剥削正常化，吸引更多儿童陷入危险境地，并使安全部队难以找到这些犯罪的真正受害者。人工智能生成的未成年人图像的危险 Ars Technica 本文最初发表在 Ars Technica 上，Ars Technica 是技术新闻、技术政策分析、评论等的可信来源。 Ars 归 WIRED 母公司 Condé Nast 所有。儿童安全非营利组织 Thorn 的数据科学主管丽贝卡·波特诺夫 (Rebecca Portnoff) 告诉《华盛顿邮报》，在儿童性虐待材料中寻找受害者已经成为“大海捞针的问题”。现在，当局的调查将进一步推迟，以确定这些材料是否真实。

用人工智能制作的有害内容还会导致那些曾经被虐待的图像被用来训练人工智能模型生成虚假照片的人再次受害。波特诺夫声称：“儿童图像，包括已知受害者的内容，被重复用于这种非常不正当的目的。”通常，可以使用儿童安全工具来阻止来自已知受害 电报号码数据 者的内容，这些工具可以分析报告的图像并检测它们何时被重新共享，从而防止它们被上传到在线平台。但该技术仅适用于之前报道的图像，不适用于人工智能生成的新图像。当局和儿童安全专家均报告称，这些人工智能图像在暗网恋童癖论坛上很受欢迎，许多互联网用户“错误地”将这些材料视为性虐待内容非法交易的合法替代品。在一个有 3000 名成员的暗网论坛上发布的一项调查中，“大约 80% 的受访者”表示，他们“曾经使用或打算使用人工智能工具来创建儿童性虐待的图像”； ActiveFence 在 5 月份指出了这一点，该公司为在线平台和流媒体网站创建信任和安全系统。尽管一些制作人工智能图像的用户，甚至某些法律分析师认为这些内容并不具有潜在的非法性，因为它不会伤害真正的儿童，但美国司法部官员告诉《华盛顿邮报》，对未成年人进行色情化的人工智能图像仍在继续违反联邦儿童保护法。



然而，据该出版物报道，似乎没有任何先例，因为官员们无法引用之前导致联邦指控的任何案件。随着当局意识到这个日益严重的问题，人们被警告要改变他们在互联网上的行为，以避免成为受害者。本月早些时候，联邦调查局发出警报，“通知社区存在通过操纵描绘受害者的无害照片或视频来合成内容（通常称为‘深度伪造’）的恶意创作者”，其中包括“儿童和成人没有得到他们的同意，他们的照片或视频被更改为露骨内容。”观看次数最多 墨西哥在玛雅火车的路径上发现了近几十年来“最伟大的考古宝藏” 墨西哥在玛雅火车的路径上发现了近几十年来“最伟大的考古宝藏” 作者：安娜·拉各斯 毛臂鱼：一条“有手的鱼”被认为已经灭绝的毛臂鱼：一种被认为已经灭绝的“长手鱼”在塔斯马尼亚重新出现 智能家居的“Matter”标准是什么 智能家居的“Matter”标准是什么 作者：SIMON HILL OpenAI 将最终开设其 GPT Store，个性化聊天机器人商店：这是你需要知道的 OpenAI 最终将开放其 GPT 商店，这是一个个性化聊天机器人商店：这是你需要知道的 BY DIEGO BARBERA FBI 指出这些图像不仅在黑暗中传播网络，但也出现在“社交网络、公共论坛或色情网站”上。