OpenAI，作为ChatGPT的开发者，正在探讨是否允许用户利用其技术生成AI色情内容。尽管公司强调将继续禁止深度伪造技术在成人内容上的应用，但此举仍引发了争议，有人担忧这会违背其打造“安全且有益”AI的初衷。
OpenAI还开发了DALL-E图像生成器，并考虑在负责任的前提下开放创建所谓的NSFW内容（即不宜在工作场所观看的内容）。这一提议引发了广泛的讨论，包括关于色情内容、极端暴力、种族歧视等敏感话题的界限和监管。
公司表示，他们希望在适龄的情境下负责任地开放这一功能，并强调将确保用户在不违法或侵犯他人权利的前提下拥有最大的自由度。然而，一些活动人士和专家对此表示担忧，担心这会进一步扩散AI生成的色情内容，尤其是考虑到当前网络上已存在的深度伪造问题。
此外，一些组织和议员也对OpenAI的提议提出了批评，认为他们应该更加关注减少技术造成的伤害，而不是仅仅追求商业利益。他们担心，如果OpenAI允许用户生成色情内容，这将进一步加剧网络上的不良内容问题，并对儿童和其他弱势群体造成潜在伤害。
OpenAI已经设定了一些技术防护措施来阻止此类内容的生成，并在其规定中要求用户遵守适用法律，包括防止剥削或伤害儿童的法律。然而，对于如何确保内容只用于已获同意的合法材料，科技公司面临的挑战仍然很大。
虽然他们试图在负责任的前提下开放创建NSFW内容的功能，但这也需要权衡各种因素，包括技术、法律、道德和社会责任等方面。
