OpenAI要搞涩涩了？考虑允许用户生成成人内容

在大众还不了解AI到底能干什么的时候，海外网站DeepFake上已经有近4000位名人被AI换脸成色情内容的主角。作为行业的先行者，OpenAI似乎也准备涉足这片”沃土”了。

OpenAI作为ChatGPT和DALL-E图像生成器背后的力量，近期公布了可能将允许开发者和用户在其产品中“负责任地”创建所谓的不安全工作（NSFW）内容，包括色情、极端血腥、诽谤和不请自来的脏话。这一提议不仅挑战了社会伦理界限，更引发了对AI创作自由与责任界限的探讨。

对于生成图片类，OpenAI 发言人格蕾丝·麦奎尔在接受美国知名媒体 NPR 的采访时表示，尽管 OpenAI 考虑允许用户使用人工智能生成色情图片 ，甚至包括未来使用 OpenAI Sora 模型生成色情视频。OpenAI 强调，虽然考虑开放NSFW内容的创作空间，但对于深度造假的严禁态度依旧坚决，并且还需要验证用户年龄确保其在已经成年的情况下才能使用。而这一切，都旨在探索如何在不违反法律和侵犯他人权利的前提下，为人们提供最大程度的创作自由。不过，对于何为“色情内容”，OpenAI承认这需要基于更广范的定义和讨论。

这一提议让人们不禁思考，AI技术的发展是否应该有所界限？在释放创作自由的同时，应如何保障公众利益不受侵害？尤其是在近年来，AI生成的色情内容传播，对社会和个人造成的影响日益严重，英国工党等机构甚至考虑对此实施禁令。

总而言之，OpenAI的最新提议无疑为AI技术的伦理使用提出了新的挑战和讨论空间。如何在科技进步和伦理约束之间找到恰当的平衡点，将是一个需要全社会共同探讨和解答的问题。