泰勒斯威夫特的深伪色情影片并不新鲜,但这并不意味著我们不需要关注这个问题。
Emma McGowan 2024年1月30日
在泰勒斯威夫特的AI生成色情图片在X平台上爆红之后,我们不禁思考:这对AI的未来意味著什么?
最近,AI生成的泰勒斯威夫特的露骨图片在X前称Twitter上迅速传播,显示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创作的,并引起了广泛关注,突显了AI生成假色情内容的不断增长的挑战。
随著这些图片在平台上的迅速传播,这一事件不仅引发了粉丝和隐私权倡导者的愤怒,也提出了关于AI在媒体创作中的伦理使用的重要问题。
Avast的威胁情报总监Michal Salt在这次及时的讨论中带来了丰富的知识和专业见解。他专注于技术、安全和伦理交集的议题,为AI生成内容的影响提供了精细的视角。
在接下来的部分中,我们将深入探讨他的见解,探讨图像操纵的历史平行、AI能力带来的伦理困境,以及在日益依赖AI的世界中对数字信任和安全的更广泛影响。
假色情内容并不是新问题
Salt将当前AI生成逼真图片的能力与过去使用Photoshop进行的操作进行比较。和Photoshop曾彻底改变图像操纵一样,AI现在使得创建逼真的图片变得更加简单。然而,操纵图片的概念并不是新鲜事物;AI只是这一持续剧情中的最新工具。
“这在某种程度上只是一种不同的照片编辑软件,”他解释道,强调操纵图片的概念已经困扰了我们十多年。现在的主要区别是AI技术所带来的便利性和可及性。这一转变提出了社会如何适应和监管这些新工具的重要问题,这些工具使得创建逼真图片的门槛降低到了前所未有的程度。
AI与露骨内容的伦理困境
其中一个最迫切的担忧是使用AI生成露骨图片的伦理影响,特别是针对特定个体而未经其同意的情况。虽然生成一般的裸体图片可能不会引发太多伦理问题,但真正的问题在于创建可识别的个体的露骨图片的便利性。
“AI生成的色情内容可能本身并没有什么根本上的问题或伦理问题,”Salt说。“但对我来说,伦理问题在于,你可以相对容易地创建一幅带有已知或特定面孔的图片。”
这一能力不仅限于像泰勒斯威夫特这样的名人,在某种程度上,它可能适用于任何人,进一步强调了需要伦理指导和立法的必要性:虽然所谓的“报复色情”或非自愿分享的裸体照片在48个州是违法的,但目前AI生成的深假色情内容仅在10个州被禁止。这一显著的差异凸显了立法需要跟上技术的步伐。
AI公司如何防止生成深假色情内容?
也许因为生成AI的使用相对较新,因此在未经主体同意的情况下创建露骨内容的过程中几乎没有任何防护措施。然而,Salt认为,对AI公司来说,实施这些措施并不会太困难:例如,禁止针对特定人的图片生成或使用客户提交的图片作为素材来源,都能为绝大多数人提供足够的屏障。
npv加速器软件“当然,总会有人能够突破这些限制,迫使模型做出它不应该做的事情,”Salt说。“但在我看来,目前几乎不可能完全避免这个问题you只能让它更难。我认为我想表达的观点是,提供这些服务的公司应该更努力地去避免这类事件。”
同时也存在有人创建自己的色情生成模型,而不设置任何限制的可能性。不过,Salt指出,即便这种情况存在,实际上需要大量技术知识和大量计算能力来达成。
“并不是很多人能够自己创建一个生成裸体图片的AI,”Salt说。“所以,这更像是一种使用Photoshop的情况,使用者需要具备一定程度的技能才能做到。”
Salt将当前的AI发展状况与安全行业的演变进行了对比。他指出,我们正在见证安全行业在AI的背景下“重新开始”。这一对比突显了将AI开发视为一个不断进行的过程的重要性,而识别并修补漏洞是技术成熟的关键。
在X平台上泰勒斯威夫特的AI生成图片提醒我们,负责任地使用AI至关重要。随著AI的不断进步,平衡技术能力与伦理考量及安全措施将成为关键。通过向像Michal Salt这样的专家学习,并反思过去的挑战,我们可以以更有见识和谨慎的方式来应对这一复杂的局面。