EmmaMcGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X原Twitter上迅速走红，我们不得不思考：这对未来的AI意味著什么？

最近，AI生成的泰勒斯威夫特的露骨图片在X平台上引发了不安，展现了AI能力的阴暗面。这些图片被认为是使用Microsoft Designer创建的，迅速引起了广泛关注，并突显了AI生成假色情内容日益严重的挑战。

随著这些图片在平台上迅速扩散，此事件不仅引发了粉丝和隐私权倡导者的愤怒，还对AI在媒体创作中的伦理使用提出了重要问题。

Avast威胁情报总监Michal Salt凭借其丰富的知识和专业技术来参与这场及时的讨论。Salt对科技、安全和伦理交叉点的敏锐洞察使其能够对AI生成内容的影响进行深入分析。

在接下来的部分中，我们将探讨他的见解，回顾图片处理的历史类比，AI能带来的伦理困境，以及在我们日益依赖AI的世界中，对数位信任和安全的更大影响。

假色情并不是新问题

Salt把AI生成逼真图片的当前能力与过去使用Photoshop的情况进行了对比。就像Photoshop在几年前彻底改变了图像处理一样，AI也显著简化了逼真图片的创建过程。然而，操纵图片的概念并不新鲜；AI只是这场持续故事中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软体，”他解释说，强调操纵图片的问题已经存在了十多年。现在的关键区别在于AI技术带来的便利性和可获得性。这一变化引发了社会如何适应和监管这些新工具的重要问题，这些工具使得创建逼真图片比以往任何时候都容易。

AI与露骨内容的伦理困境

目前最迫切的问题之一是使用AI生成露骨图片的伦理影响，特别是未经特定个人同意的情况下。虽然生成通用裸照可能不会引起太多伦理问题，但真正的问题在于生成特定可识别人物的露骨图片的便利性。

“AI生成色情内容本身或许没有什么本质上的错误或伦理问题，”Salt说。“但问题是在于你可以相对轻易地生成带有已知或特定人脸的图片。”

这种能力不仅限于泰勒斯威夫特等名人，它还可能涉及到任何人，这强调了制定伦理指导方针和立法的必要性。虽然所谓的“报复色情”或非自愿分享裸体影片在美国48个州是违法的，但AI生成的深伪色情目前在只有10个州被禁止，这一显著差异突显了立法需要跟上科技的必要性。

AI公司如何防止深伪色情的创建？

或许是因为生成式AI的获取还相对较新，针对未经主体同意创建露骨内容的守护措施相对较少。然而，Salt认为，AI公司如果实施这些措施，其实并不会太困难：例如不允许生成特定人物的图片，或禁止使用客户提交的图片作为素材，都能对绝大多数人设置有效的屏障。

“当然，某些人可能能突破这些限制，迫使模型做它不应该做的事情，”Salt说。“在我看来，目前几乎不可能完全避免这种情况你只能让它变得更难。我想要表达的观点是，提供这些服务的公司应该更努力地预防此类事件。”

还有另一种可能性，即某人创建一个没有任何限制的色情生成模型。然而，Salt指出，虽然技术上可行，但这需要 大量 的技术知识和 大量 的计算能力。

“能自己创建生成裸体图片的AI的人并不多，”Salt说。“因此，这更像是在使用Photoshop，你需要具备一定的技术水平才能做到这一点。”

Salt将当前AI发展状态与安全产业的演变进行了对比。他观察到，我们正见证著安全产业“在AI上重启”。这一比较强调了将AI发展视为一个持续过程的重要性，识别和修复漏洞是促进技术成熟的关键。

在X上出现的泰勒斯威夫特的AI生成图片突显了负责任使用AI的重要性。随著AI的持续发展，在技术能力、伦理考量和安全措施之间找到平衡将至关重要。通过向Michal Salt等专家学习并反思过去的挑战，我们可以以更有知识和谨慎的方式驻足于这个复杂的领域。