泰勒斯威夫特的深伪色情影片并不是新鲜事但这并不意味著我们不需要担心。

Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X平台上大规模传播，我们不禁要问：这对AI的未来意味著什么？

近日，AI生成的著名歌手泰勒斯威夫特的明示图片在X前Twitter上引发广泛关注，突显了AI能力的阴暗面。这些被认为是使用微软设计工具创建的图片，快速在平台上传播，不仅激起了粉丝和隐私倡导者的愤怒，也引发了关于AI在媒体创作中伦理使用的关键问题。

Avast威胁情报主任米哈尔萨拉特Michal Salt在这一关键话题中提供了丰富的专业知识。萨拉特专注于技术、安全性和伦理的交汇处，为AI生成内容的影响提供了深刻的见解。

在接下来的各节中，我们将深入探讨他的见解，回顾影像操控的历史类比，探讨AI能力所带来的伦理困境，以及在这个越来越由AI主导的世界中对数位信任和安全的广泛影响。

假色情图片并不是新问题

萨拉特将当前的AI生成逼真图片的能力与过去使用Photoshop的情况进行了比较。正如Photoshop几年前彻底改变了图片操控，AI如今则大大简化了创建真实图片的过程。然而，操控图片的概念并不新鲜；AI只是一个最新的工具，加入了这场持续的争论。

“在某种程度上，这只是一种不同的图片编辑软体，”他解释道，强调操控图片的问题已经存在了十多年。现在的关键区别在于AI技术所带来的便利性和可及性。这一变化引发了重要的问题：社会应如何适应和规范这些新工具，这些工具使得创建真实图片变得比以往任何时候都容易。

AI与色情内容的伦理困境

最迫切的担忧之一是使用AI生成明示图片的伦理影响，特别是对具体个体的生成，没有其同意的情况下。尽管生成一般的裸体图片可能不会引发太多伦理问题，在可识别人的情况下创建明示图片的便利性却是实际问题所在。

“AI生成的色情内容在本质上可能并不存在什么错误或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于可以相对轻松地生成带有已知或具体面孔的图片。”

这一能力不仅限于泰勒斯威夫特等名人，还可能延伸到任何人，强调了对伦理准则和立法需求的必要性：所谓的“报复色情”或非自愿分享的裸体照片在48个州是非法的，但目前AI生成的深度伪造色情在仅10个州被禁止。这是一个明显的差异，突显了立法需要跟上技术发展的迫切性。

AI公司如何防止生成深度伪造色情？

也许因为生成式AI的接入仍然是一个相对新现象，围绕在没有受害者同意的情况下创建明示内容的防护措施仍然很少。然而，萨拉特认为，AI公司对此进行防范并不会太困难：例如，不允许针对特定人员的图片生成或不使用客户提交的图片作为素材，将对绝大多数人提供充分的屏障。

“当然，有些人会突破这些限制，迫使模型做那些它不应该做的事情，”萨拉特说。“我认为现在几乎不可能完全避免这种情况只能让它变得更难。我想强调的重点是，提供这些服务的公司应该更加努力避免这种情况。”

还有可能有人创建自己的色情生成模型，这些模型没有任何限制。但萨拉特指出，即使这样做是可能的，也需要大量的技术知识和大量的计算能力。

“并不是每个人都能够自己创建生成裸体的AI，”萨拉特说。“所以，这会更像是使用Photoshop，需要具备一定的技能才能做到这点。”

萨拉特将目前的AI发展状况与安全行业的演变进行比较。他观察到，我们看到安全行业正在“以AI重新开始”。这一比较强调了将AI发展视为一个持续过程的重要性，在这一过程中，识别和修补漏洞是技术成熟的关键。

在X平台上流传的泰勒斯威夫特AI生成图片突显了负责任使用AI的重要性。随著AI的持续进展，在技术能力与伦理考量和安全措施之间取得平衡将至关重要。透过向米哈尔萨拉特等专家学习，并反思过去的挑战，我们可以以更具知识性和谨慎的方式驾驭这一复杂的环境。