美国联邦调查局(FBI)警告公众,不要使用“深度伪造”(deepfakes)来骚扰或勒索目标,用虚假的色情照片或视频。
该机构在周一的一份声明中表示,技术进步不断提高了人工智能(AI)生成的内容的质量、可定制性和可访问性,受害者报告说,他们的照片或视频被修改成色情内容。
美国联邦调查局表示,恶意行为者通常会从某人的社交媒体账户、互联网和受害者本人中获取内容,以创建明显的、看起来与他们相似的内容。这些内容随后在社交媒体、在线论坛或色情网站上传播。
根据该机构的说法,那些创建内容并以受害者为目标的人通常是为了获得额外的内容、经济利益或骚扰他人的能力。
美国联邦调查局(FBI)表示,截至今年4月,他们发现举报性勒索的受害者数量有所增加。性勒索指的是受害者被迫提供自己的色情照片或视频,并受到公开分享的威胁。犯罪者通常要求支付赎金,以换取不上传照片,或者要求受害者发送自己的真实照片或视频。
该公告称,公众在社交媒体、约会应用或其他在线网站上发布或直接发送信息时应谨慎。
“虽然这些图片和视频在发布或分享时看似无害,但它们可以为恶意行为者提供大量的内容来进行犯罪活动。内容创作技术的进步和网上可访问的个人图像为恶意行为者找到和瞄准受害者提供了新的机会,”联邦调查局表示。“这让她们很容易陷入尴尬、骚扰、勒索、经济损失或长期的再次受害。”
该机构建议公众监控孩子在网上的活动,经常在网上搜索自己的信息,了解什么是公开的,在社交媒体账户上实施隐私设置,并使用复杂的密码和多步骤认证来保护他们的账户。
它说,人们还应该谨慎接受朋友请求,不要向任何不认识的人提供金钱或其他有价值的物品,研究平台的隐私政策,在与“已知行为模式”之外的已知账户互动时要小心,因为他们可能会被黑客入侵。
这一警告发出之际,人工智能专家和行业领袖上周呼吁人们关注人工智能增长的风险,称减轻这些风险应该是“全球优先事项”。