资讯
最近，OpenAI最新揭晓了其ChatGPT语音功能的重大升级，该功能建立在先进的GPT-4o模型基础之上，极大增强了对话互动的流畅度与即时性。尽管此次升级标志着人机交互体验的显著飞跃，OpenAI方面也不无担忧地提示，此种高度拟真的语音交流体验，或致使部分用户在心理上对该功能形成深度依赖。这一技术进展再次引发了关于人工智能伦理及用户心理健康影响的深刻讨论。
根据 OpenAI 的研究，用户在使用语音模式时，有些人甚至会与 ChatGPT 形成情感联系，使用诸如 “这是我们最后一天在一起” 这样的表达。
这些看似无害的表述让 OpenAI 意识到，需要对这种依赖现象进行进一步的研究。他们认为，尽管这种依赖可能对孤独用户有所帮助，但也可能会导致人们减少与真实人类的互动。研究表明，用户与 AI 的长时间互动可能会影响到社交规范，比如在语音交流中，AI 是可以随时打断用户的，这在现实人际交往中却并不常见。
此外，GPT-4o 还具备了记忆用户信息和偏好的功能，这可能会进一步加重用户对它的依赖。OpenAI 表示，他们将继续研究这种情感依赖的可能性，以及这种情感依赖如何在语音模式的深度整合下改变用户行为。
在安全性方面，OpenAI 针对 GPT-4o 进行了详细的评估，虽然模型在网络安全、生物威胁和模型自主性等方面的风险都被评为 “低”，但在说服能力上却达到了 “中等” 风险。OpenAI 通过对该模型进行测试发现，虽然在某些情况下，AI 生成的内容能够稍微超越人类的说服力，但总体来说，它的表现并没有超过人类。
GPT-4o 的语音功能在测试中显示，AI 音频的影响力约为人类音频的78%，而 AI 对话的影响力则为65%。在后续调查中，AI 对话的影响力几乎可以忽略不计，说明 AI 在说服用户方面仍有许多局限性。
文明上网，理性发言，共同做网络文明传播者