OpenAI表示擔心用戶對其聊天機器人產(chǎn)生感情
發(fā)布日期：2024-08-12 17:28:41
導讀 最近推出的聊天機器人GPT-4o因其與人類的互動而受到稱贊。然而，這讓OpenAI擔心用戶會與其產(chǎn)生情感聯(lián)系。該公司表示，現(xiàn)在將監(jiān)控和調(diào)整聊天...
最近推出的聊天機器人GPT-4o因其與人類的互動而受到稱贊。然而，這讓OpenAI擔心用戶會與其產(chǎn)生情感聯(lián)系。該公司表示，現(xiàn)在將監(jiān)控和調(diào)整聊天機器人，以防止人們對其產(chǎn)生感情。
GPT-4o是作為ChatGPT的一個大幅改進模型推出的。自首次亮相以來，人們就對ChatGPT-4o的類人交互能力贊不絕口。雖然這聽起來很棒，但OpenAI注意到了一個問題：人們開始將聊天機器人視為人類并建立情感紐帶。
OpenAI觀察到人們使用的語言“可能表明正在建立聯(lián)系”。該公司指出，它發(fā)現(xiàn)人們使用語言表達“共同紐帶”的例子。這被描述為壞消息，主要有兩個原因。
首先，當ChatGPT-4o看起來與人類相似時，用戶可以忽略聊天機器人產(chǎn)生的任何幻覺。具體來說，AI幻覺基本上是模型生成的不正確或誤導性輸出。這可能是由于訓練數(shù)據(jù)有缺陷或不足而發(fā)生的。
其次，與聊天機器人進行類似人類的互動可能會減少用戶之間的真實社交互動。OpenAI表示，聊天機器人互動可能會對“孤獨的人”有益，但也會影響健康的關系。該公司進一步指出，人們甚至可以開始與人類交談，而認為對方是聊天機器人。
這將是糟糕的，因為OpenAI已將GPT-4o設計為當用戶開始說話時停止說話。考慮到所有這些擔憂，該公司表示，現(xiàn)在將監(jiān)控用戶如何與ChatGPT-4o建立情感聯(lián)系。OpenAI還表示，它將在必要時對模型進行調(diào)整。
標簽：
免責聲明：本文由用戶上傳，如有侵權(quán)請聯(lián)系刪除！