旧金山，加利福尼亚——OpenAI公司表示，他们担心其人工智能的逼真语音功能可能会导致人们以人类互动为代价与机器人建立联系。
这家总部位于旧金山的公司援引文献称，与人工智能聊天可能会导致错误的信任，而gpt - 40的高质量语音可能会加剧这种影响。
OpenAI周四在一份关于其chatgpt - 40版本人工智能安全工作的报告中表示:“拟人化涉及将类似人类的行为和特征归因于非人类实体，比如人工智能模型。”
“gpt - 40的音频功能可能会加剧这种风险，因为它有助于与模型进行更类似人类的互动。”
OpenAI表示，它注意到测试者与人工智能说话的方式暗示着共同的纽带，比如大声哀叹这是他们在一起的最后一天。
它说，这些例子看起来是良性的，但必须进行研究，看看它们在更长的时间内会如何演变。
OpenAI推测，与人工智能的社交也可能使用户在与人类的关系方面不那么熟练或倾向。
广告报告称:“与该模型的长期互动可能会影响社会规范。”
“例如，我们的模型是恭敬的，允许用户在任何时候打断并‘拿起麦克风’，这虽然是人工智能的期望，但在人类互动中却是反规范的。”
OpenAI表示，人工智能在交谈时记住细节和处理任务的能力也可能使人们过度依赖这项技术。
人工智能反抄袭检测平台Copyleaks的联合创始人兼首席执行官阿隆·亚明表示:“OpenAI最近对ChatGPT语音模式的潜在依赖表示担忧，这表明许多人已经开始问:是时候停下来考虑这项技术如何影响人类互动和关系了吗?”
广告他说，人工智能永远不应该取代实际的人类互动。
OpenAI表示，将进一步测试其人工智能的语音功能如何引起人们的情感依恋。
测试chatgpt - 40语音功能的团队还能够提示它重复虚假信息并产生阴谋论，这引发了人们对人工智能模型可能被告知这样做的担忧。
今年6月，OpenAI被迫向女演员斯嘉丽·约翰逊道歉，原因是该公司在其最新款聊天机器人中使用了与她的声音非常相似的东西，这让语音克隆技术成为人们关注的焦点。
广告尽管OpenAI否认他们使用的声音是约翰逊的，但首席执行官萨姆·奥特曼在社交媒体上用一个词“她”标记了这款新模型，这并没有帮助他们。
约翰逊在电影《她》中为一个人工智能角色配音，奥特曼之前说过这是他最喜欢的关于人工智能的电影。
这部2013年的电影由杰昆·菲尼克斯(Joaquin Phoenix)主演，他饰演一个男人爱上了一个名叫萨曼莎的人工智能助手。
本文来自作者[犁振宇]投稿，不代表万福山立场，如若转载，请注明出处：https://wap.ahwfs.cn/wiki/202505-715.html
评论列表（4条）
我是万福山的签约作者“犁振宇”！
希望本篇文章《OpenAI忧虑其人工智能语音可能会吸引用户注意》能对你有所帮助！
本站[万福山]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：旧金山，加利福尼亚——OpenAI公司表示，他们担心其人工智能的逼真语音功能可能会导致人们以人类互动为代价与机器人建立联系。...