OpenAI表示擔(dān)心用戶對(duì)其聊天機(jī)器人產(chǎn)生感情
最近推出的聊天機(jī)器人GPT-4o因其與人類的互動(dòng)而受到稱贊。然而，這讓OpenAI擔(dān)心用戶會(huì)與其產(chǎn)生情感聯(lián)系。該公司表示，現(xiàn)在將監(jiān)控和調(diào)整聊天機(jī)器人，以防止人們對(duì)其產(chǎn)生感情。
GPT-4o是作為ChatGPT的一個(gè)大幅改進(jìn)模型推出的。自首次亮相以來(lái)，人們就對(duì)ChatGPT-4o的類人交互能力贊不絕口。雖然這聽(tīng)起來(lái)很棒，但OpenAI注意到了一個(gè)問(wèn)題：人們開(kāi)始將聊天機(jī)器人視為人類并建立情感紐帶。
OpenAI觀察到人們使用的語(yǔ)言“可能表明正在建立聯(lián)系”。該公司指出，它發(fā)現(xiàn)人們使用語(yǔ)言表達(dá)“共同紐帶”的例子。這被描述為壞消息，主要有兩個(gè)原因。
首先，當(dāng)ChatGPT-4o看起來(lái)與人類相似時(shí)，用戶可以忽略聊天機(jī)器人產(chǎn)生的任何幻覺(jué)。具體來(lái)說(shuō)，AI幻覺(jué)基本上是模型生成的不正確或誤導(dǎo)性輸出。這可能是由于訓(xùn)練數(shù)據(jù)有缺陷或不足而發(fā)生的。
其次，與聊天機(jī)器人進(jìn)行類似人類的互動(dòng)可能會(huì)減少用戶之間的真實(shí)社交互動(dòng)。OpenAI表示，聊天機(jī)器人互動(dòng)可能會(huì)對(duì)“孤獨(dú)的人”有益，但也會(huì)影響健康的關(guān)系。該公司進(jìn)一步指出，人們甚至可以開(kāi)始與人類交談，而認(rèn)為對(duì)方是聊天機(jī)器人。
這將是糟糕的，因?yàn)镺penAI已將GPT-4o設(shè)計(jì)為當(dāng)用戶開(kāi)始說(shuō)話時(shí)停止說(shuō)話?？紤]到所有這些擔(dān)憂，該公司表示，現(xiàn)在將監(jiān)控用戶如何與ChatGPT-4o建立情感聯(lián)系。OpenAI還表示，它將在必要時(shí)對(duì)模型進(jìn)行調(diào)整。
標(biāo)簽：