OpenAI要搞涩涩了?考虑允许用户生成成人内容

在大众还不了解AI到底能干什么的时候,海外网站DeepFake上已经有近4000位名人被AI换脸成色情内容的主角。作为行业的先行者,OpenAI似乎也准备涉足这片”沃土”了。

OpenAI作为ChatGPT和DALL-E图像生成器背后的力量,近期公布了可能将允许开发者和用户在其产品中“负责任地”创建所谓的不安全工作(NSFW)内容,包括色情、极端血腥、诽谤和不请自来的脏话。这一提议不仅挑战了社会伦理界限,更引发了对AI创作自由与责任界限的探讨。

OpenAI要搞涩涩了?考虑允许用户生成成人内容

对于生成图片类,OpenAI 发言人格蕾丝·麦奎尔在接受美国知名媒体 NPR 的采访时表示,尽管 OpenAI 考虑允许用户使用人工智能生成色情图片 ,甚至包括未来使用 OpenAI Sora 模型生成色情视频。OpenAI 强调,虽然考虑开放NSFW内容的创作空间,但对于深度造假的严禁态度依旧坚决,并且还需要验证用户年龄确保其在已经成年的情况下才能使用。而这一切,都旨在探索如何在不违反法律和侵犯他人权利的前提下,为人们提供最大程度的创作自由。不过,对于何为“色情内容”,OpenAI承认这需要基于更广范的定义和讨论。

这一提议让人们不禁思考,AI技术的发展是否应该有所界限?在释放创作自由的同时,应如何保障公众利益不受侵害?尤其是在近年来,AI生成的色情内容传播,对社会和个人造成的影响日益严重,英国工党等机构甚至考虑对此实施禁令。

总而言之,OpenAI的最新提议无疑为AI技术的伦理使用提出了新的挑战和讨论空间。如何在科技进步和伦理约束之间找到恰当的平衡点,将是一个需要全社会共同探讨和解答的问题。

© 版权声明

相关文章

暂无评论

暂无评论...