一個跨學(xué)科的研究人員團隊開發(fā)了一個藍(lán)圖，用于創(chuàng)建更有效地將道德準(zhǔn)則納入人工智能(AI)決策程序的算法。該項目專門關(guān)注人類與人工智能程序交互的技術(shù)，例如醫(yī)療保健環(huán)境中使用的虛擬助手或“護理機器人”。

“像護理機器人這樣的技術(shù)應(yīng)該有助于確保醫(yī)院患者、老年人和其他需要健康監(jiān)測或身體幫助的人的安全和舒適，”該論文的通訊作者、科學(xué)副教授VeljkoDubljevi?說,北卡羅來納州立大學(xué)的技術(shù)與社會項目。“實際上，這意味著這些技術(shù)將被置于需要做出道德判斷的情況下。”

“例如，假設(shè)護理機器人處于兩個人需要醫(yī)療救助的環(huán)境中。一名患者失去知覺但需要緊急護理，而第二名患者的需求不那么緊急但要求護理機器人先治療他。護理機器人決定首先幫助哪個患者?護理機器人是否應(yīng)該治療失去知覺并因此無法同意接受治療的患者?

Dubljevi?說：“以前將道德決策納入AI程序的努力范圍有限，并側(cè)重于功利主義推理，而忽略了人類道德決策的復(fù)雜性。”“我們的工作解決了這個問題，雖然我以護理機器人為例，但它適用于廣泛的人機協(xié)作技術(shù)。”

功利主義決策側(cè)重于結(jié)果和后果。但是，當(dāng)人類做出道德判斷時，他們還會考慮另外兩個因素。

第一個因素是給定動作的意圖和執(zhí)行動作的代理的性格。換句話說，誰在執(zhí)行一個給定的動作，他們想要完成什么?是善意的還是惡毒的?第二個因素是行動本身。例如，人們傾向于將某些行為(例如說謊)視為天生不好的行為。

所有這些因素都相互作用。例如，我們可能同意說謊是不好的，但如果護士向提出令人討厭的要求的病人撒謊，以便優(yōu)先治療第二名更急需的病人，大多數(shù)人會認(rèn)為這在道德上是可以接受的。

為了解決道德決策的復(fù)雜性，研究人員開發(fā)了一個數(shù)學(xué)公式和一系列相關(guān)的決策樹，可以整合到人工智能程序中。這些工具利用了稱為代理、行為和后果(ADC)模型的東西，該模型由Dubljevi?及其同事開發(fā)，以反映人們?nèi)绾卧诂F(xiàn)實世界中做出復(fù)雜的道德決策。

Dubljevi?說：“我們的目標(biāo)是將ADC模型轉(zhuǎn)化為一種可以融入AI編程的格式。”“我們不只是說這個倫理框架對人工智能很有效，我們用計算機科學(xué)環(huán)境中可以訪問的語言來展示它。

“隨著人工智能和機器人技術(shù)的興起，社會需要倫理學(xué)家和工程師之間的這種合作努力。我們的未來取決于它。”

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！