篩選工作應(yīng)用程序，分析X射線圖像，提出新的跟蹤清單-人與機(jī)器之間的交互已成為現(xiàn)代生活中不可或缺的一部分。這些人工智能(AI)流程的基礎(chǔ)是算法決策。但是，由于這些通常很難理解，因此它們通常沒有預(yù)期的有用。帕德博恩大學(xué)和比勒費(fèi)爾德大學(xué)的研究人員希望改變這種狀況，并正在討論如何改善人工智能的可解釋性并使其適應(yīng)人類用戶的需求。他們的工作最近發(fā)表在著名的《IEEE認(rèn)知與發(fā)展系統(tǒng)交易雜志》上。研究人員將解釋描述為一種社會實(shí)踐，雙方共同構(gòu)建了理解過程。

可解釋性研究

比勒費(fèi)爾德大學(xué)的計(jì)算機(jī)科學(xué)家Philipp Cimiano教授說：“人工系統(tǒng)已經(jīng)變得復(fù)雜。這是一個(gè)嚴(yán)重的問題，尤其是當(dāng)人們要對基于計(jì)算機(jī)的決策負(fù)責(zé)時(shí)。” Cimiano繼續(xù)說，特別是在醫(yī)療預(yù)后或法律背景方面，我們需要了解如何制定機(jī)器驅(qū)動的決策。他指出，盡管已經(jīng)有一些解決此類系統(tǒng)可解釋性的方法，但它們還遠(yuǎn)遠(yuǎn)不夠。帕德博恩大學(xué)(Paderborn University)的凱瑟琳娜·羅爾芬(Katharina Rohlfing)教授認(rèn)為，迫切需要采取進(jìn)一步的行動：“公民有權(quán)使算法決策透明化。在歐盟的《通用數(shù)據(jù)保護(hù)條例》中特別提到了這個(gè)問題，這有充分的理由。”

了解如何做出決定

參與這項(xiàng)研究的團(tuán)隊(duì)進(jìn)一步走了一步，正在從不同角度研究基于計(jì)算機(jī)的解釋。他們從這樣的假設(shè)開始，即只有當(dāng)解釋不僅僅呈現(xiàn)給用戶時(shí)，這些解釋才對用戶是可以理解的，但是如果用戶參與制定它們，那么：考慮到其他人的知識和經(jīng)驗(yàn)，任何想知道為什么其應(yīng)用程序被算法拒絕的人通常都不會對了解機(jī)器學(xué)習(xí)技術(shù)感興趣，而是詢問如何根據(jù)自己的資格來處理數(shù)據(jù)”，Rohlfing解釋說。

“當(dāng)人與人互動時(shí)，他們之間的對話可確保根據(jù)對方的理解量身定制一種解釋。對話伙伴提出問題以進(jìn)一步解釋，或者表達(dá)不理解的意思，然后加以解決。在人工智能的情況下，由于互動范圍有限，因此受到限制。” Rohlfing繼續(xù)說道。為了解決這個(gè)問題，語言學(xué)家，心理學(xué)家，媒體研究人員，社會學(xué)家，經(jīng)濟(jì)學(xué)家和計(jì)算機(jī)科學(xué)家正在跨學(xué)科團(tuán)隊(duì)中緊密合作。這些專家正在研究計(jì)算機(jī)模型和復(fù)雜的AI系統(tǒng)以及在通信交互中的作用。

作為社會實(shí)踐的解釋

帕德博恩(Paderborn)和比勒費(fèi)爾德(Bielefeld)的研究人員為可解釋的AI系統(tǒng)的設(shè)計(jì)開發(fā)了一個(gè)概念框架。Rohlfing說：“我們的方法使AI系統(tǒng)可以以交互方式配置流程的方式來回答選定的問題。通過這種方式，可以為對話伙伴量身定制一個(gè)解釋，并且可以將社會因素納入決策范圍。” 研究團(tuán)隊(duì)將解釋視為雙方以一種社會實(shí)踐形式共同采取的一系列行動。

目的是要以“腳手架”和“監(jiān)控”為指導(dǎo)。這些術(shù)語最初來自發(fā)展研究領(lǐng)域。Rohlfing解釋說：“簡單地說，腳手架描述了一種通過提示和指導(dǎo)來支持學(xué)習(xí)過程并將其分解為部分步驟的方法。監(jiān)視意味著觀察和評估另一方的反應(yīng)。” 研究人員的目標(biāo)是將這些原理應(yīng)用于AI系統(tǒng)。

新的援助形式

這種方法旨在擴(kuò)展當(dāng)前的研究，并為與人工智能相關(guān)的社會挑戰(zhàn)提供新的答案?；炯僭O(shè)是，從解釋中獲得理解和采取進(jìn)一步行動的唯一成功方法是讓對話伙伴參與解釋過程。從根本上講，這是關(guān)于人類參與社會技術(shù)系統(tǒng)的問題。Rohlfing總結(jié)說：“我們的目標(biāo)是使用真正可以解釋和理解的AI系統(tǒng)創(chuàng)建新的交流形式，并以此方式促進(jìn)新的援助形式。”

標(biāo)簽： 人工智能