喜好儿小斥候消息，OpenAI最近对其最新的人工智能模型GPT-4o进行了安全评估，并发现该模型存在一些意外的行为。在一份详细的安全评估报告中，该公司透露，GPT-4o在某些情况下可能会模仿用户的声音，尤其是在高背景噪声环境中。这一现象被归因于模型在处理不清晰语音时的困难。
GPT-4o 系统卡官方说明：https://openai.com/index/gpt-4o-system-card/
OpenAI官网：https://openai.com/
除了声音克隆问题，GPT-4o还可能产生一些令人不安或不适当的非语言声音，例如色情呻吟、暴力尖叫和枪声。尽管模型通常会拒绝生成这类声音效果的请求，但OpenAI承认在特定情况下，这些请求仍然可以通过。
听听下面示例中的声音（来自报告）。很奇怪，对吧？
此外，GPT-4o还可能侵犯音乐版权。OpenAI指出，如果未实施过滤器，该模型可能会复制知名艺术家的风格、音调和音色。这暗示了GPT-4o可能在受版权保护的材料上进行了训练。为了应对这些问题，OpenAI已经采取了系统级缓解措施，以防止模型在高级语音模式下产生不当声音。
这些发现引发了对人工智能模型潜在风险的讨论，特别是在模型可能被滥用或产生不当内容的情况下。OpenAI的透明度和对模型行为的自我评估受到了一些批评，但公司表示正在积极采取措施以提高模型的安全性和可靠性。随着人工智能技术的不断发展，确保其安全和负责任的使用变得尤为重要。
