培養(yǎng)自主機(jī)器道德行為的基于原則的范例
來自哈特福德大學(xué)、康涅狄格大學(xué)和馬克斯普朗克智能系統(tǒng)研究所的一個研究小組最近提出了一個基于案例和基于原則的行為范式，以確保自主機(jī)器的道德行為。他們的論文發(fā)表在IEEE論文中，他們認(rèn)為自治系統(tǒng)的倫理意義行為應(yīng)該以明確的倫理原則為指導(dǎo)，由倫理學(xué)家的共識來決定。
“今年是電影《2001：太空漫游》的50周年紀(jì)念日，”進(jìn)行這項(xiàng)研究的研究人員之一邁克爾安德森告訴TechXplore。讀《2001年的制作：世紀(jì)之交的太空漫游》的時候，感覺HAL的大部分能力已經(jīng)失去了科幻的光環(huán)，瀕臨實(shí)現(xiàn)。讓我震驚的是，他們的道德觀是如此錯誤：如果HAL就在眼前，是時候糾正了。"
安德森和他的同事們一直在試圖發(fā)現(xiàn)倫理原則，作為“機(jī)器倫理”項(xiàng)目的一部分，這些原則可以體現(xiàn)在自動機(jī)器中。他們認(rèn)為人工智能的行為應(yīng)該以倫理原則為指導(dǎo)。這些原則是由倫理學(xué)家的共識決定的，既要有助于保證復(fù)雜動態(tài)系統(tǒng)的倫理行為，又要作為證明這種行為的基礎(chǔ)。
研究人員已經(jīng)開發(fā)了一種可擴(kuò)展的、一般案例支持的、基于原則的行為范式，稱為CPB。在這個范例中，一個自治系統(tǒng)使用一個從倫理學(xué)家同意采取正確行動來決定其下一步行動的案例中抽象出來的原則。
安德森解釋說：“CPB利用機(jī)器學(xué)習(xí)從倫理困境中的具體案例的倫理特征中抽象出倫理偏好原則。在這種情況下，更好的道德選擇是顯而易見的?！薄耙粋€系統(tǒng)可以利用這個原則來決定在任何特定時刻道德上什么是可取的。
鄭重聲明：本文版權(quán)歸原作者所有。轉(zhuǎn)載文章只是為了傳播更多的信息。如果作者信息標(biāo)注有誤，請第一時間聯(lián)系我們修改或刪除。謝謝你。
標(biāo)簽：