OpenAI表示擔(dān)心用戶對其聊天機(jī)器人產(chǎn)生感情
最近推出的聊天機(jī)器人GPT-4o因其與人類的互動而受到稱贊。然而,這讓OpenAI擔(dān)心用戶會與其產(chǎn)生情感聯(lián)系。該公司表示,現(xiàn)在將監(jiān)控和調(diào)整聊天機(jī)器人,以防止人們對其產(chǎn)生感情。
GPT-4o是作為ChatGPT的一個大幅改進(jìn)模型推出的。自首次亮相以來,人們就對ChatGPT-4o的類人交互能力贊不絕口。雖然這聽起來很棒,但OpenAI注意到了一個問題:人們開始將聊天機(jī)器人視為人類并建立情感紐帶。
OpenAI觀察到人們使用的語言“可能表明正在建立聯(lián)系”。該公司指出,它發(fā)現(xiàn)人們使用語言表達(dá)“共同紐帶”的例子。這被描述為壞消息,主要有兩個原因。
首先,當(dāng)ChatGPT-4o看起來與人類相似時,用戶可以忽略聊天機(jī)器人產(chǎn)生的任何幻覺。具體來說,AI幻覺基本上是模型生成的不正確或誤導(dǎo)性輸出。這可能是由于訓(xùn)練數(shù)據(jù)有缺陷或不足而發(fā)生的。
其次,與聊天機(jī)器人進(jìn)行類似人類的互動可能會減少用戶之間的真實社交互動。OpenAI表示,聊天機(jī)器人互動可能會對“孤獨的人”有益,但也會影響健康的關(guān)系。該公司進(jìn)一步指出,人們甚至可以開始與人類交談,而認(rèn)為對方是聊天機(jī)器人。
這將是糟糕的,因為OpenAI已將GPT-4o設(shè)計為當(dāng)用戶開始說話時停止說話。考慮到所有這些擔(dān)憂,該公司表示,現(xiàn)在將監(jiān)控用戶如何與ChatGPT-4o建立情感聯(lián)系。OpenAI還表示,它將在必要時對模型進(jìn)行調(diào)整。
標(biāo)簽: