Elon Musk 的人工智能公司 xAI 最近的聊天机器人 Grok-2 所引发了巨大的争议，尤其是其图像生成能力的缺陷。Grok-2 允许用户生成图像，但缺乏有效的内容审查和过滤机制，导致用户能够创造出深度伪造图像，包括对政治人物和公众人物的不当描绘。这种缺乏监管的状况引发了法律和道德上的担忧，许多专家认为 Grok-2 可能是人工智能实施中的一个重大失误。
更多消息：https://heehel.com/category/ai-news
喜好儿网百科全书：
https://heehel.com/document
AIGC幻想视界合集：
https://heehel.com/collection/topic-fantasy-vision
具体来说，Grok-2 用户能够生成包括虚假的性行为、暴力和侵犯版权的图像，如米老鼠吸烟和皮卡丘持枪等，这些行为都可能导致法律责任。同时，与 Grok-2 形成对比的是竞争对手的工具，比如谷歌的 Gemini，由于过度过滤，甚至将历史上的白人形象描绘成有色人种，造成了另一种形式的争议。
专家们指出，Grok-2 在内容审查方面的缺失可能使得这些生成的图像被归类为错误信息、性骚扰或版权侵犯，这将对 xAI 和其平台 X（前称 Twitter）造成巨大的法律风险。为了解决这些问题，专家们建议对 Grok 进行技术调整，并在内容审核和透明度方面进行改进，这将需要技术人员、伦理学家和政策制定者的合作。
另外，专家 JD Harriman 提到 Grok 与 Gemini 在生成有争议图像的方式上有明显差异，前者过滤过少而后者过滤过多。道德监管的实施和执行也被认为是一大挑战，建议采用水印等技术来标识 AI 生成的图像，以便于公众识别和审查。
喜好儿看见，公共 AI 语言模型提供商现在面临以下困境：如果限制过多，会让用户感到无趣；而如果放任不管，则会引发争议和愤怒。大家也在呼吁对 Grok 进行自我审查机制的尽快完善。
