自學(xué)習(xí)計(jì)算機(jī)模型對(duì)于語(yǔ)音識(shí)別、欺詐檢測(cè)和評(píng)估醫(yī)療風(fēng)險(xiǎn)具有價(jià)值。然而，例如福利丑聞表明，必須極其謹(jǐn)慎：這就是為什么法律規(guī)定必須始終解釋模型如何得出特定結(jié)論的原因。為了幫助數(shù)據(jù)專(zhuān)家解決這個(gè)問(wèn)題，Ph.D.研究員DennisCollaris開(kāi)發(fā)了交互式可視化工具，可以深入了解人工智能模型的“思維過(guò)程”。

“這有點(diǎn)接管世界，”丹尼斯·科拉里斯談到人工智能(AI)時(shí)說(shuō)。而他對(duì)此非常認(rèn)真。“人工智能幾乎被用于你能想到的所有事情，尤其是用于預(yù)測(cè)。”

這些應(yīng)用程序通常是相對(duì)無(wú)辜的;想想語(yǔ)音識(shí)別或機(jī)器翻譯。“如果那里有一個(gè)小錯(cuò)誤，那并不是世界末日。但當(dāng)然，也有一些應(yīng)用，比如欺詐檢測(cè)，人工智能系統(tǒng)的預(yù)測(cè)可能會(huì)對(duì)人們產(chǎn)生巨大的影響。福利丑聞表明如果你被錯(cuò)誤地貼上欺詐者的標(biāo)簽，這些后果會(huì)有多嚴(yán)重。”

因此，歐洲隱私立法GDPR規(guī)定，必須始終解釋計(jì)算機(jī)模型如何得出某個(gè)建議。然而，對(duì)于自學(xué)AI系統(tǒng)來(lái)說(shuō)，這是非常困難的：它是一個(gè)眾所周知的“黑匣子”，它根據(jù)大量數(shù)據(jù)吐出答案，并且無(wú)法簡(jiǎn)單地追蹤它得出答案的方式。

問(wèn)題的癥結(jié)在于，計(jì)算機(jī)模型并沒(méi)有遵循明確的分步計(jì)劃，而是逐漸自己弄清楚——例如——潛在的保險(xiǎn)客戶的哪些特征表明他們打算進(jìn)行欺詐的可能性.

動(dòng)機(jī)

最重要的是，這些自學(xué)習(xí)模型提出了明顯有用的建議，但它們不提供任何動(dòng)機(jī)，而動(dòng)機(jī)是拒絕某人投?；蜷_(kāi)始欺詐調(diào)查所必需的。

而“計(jì)算機(jī)說(shuō)不”不能被視為正當(dāng)理由。“在我與Achmea這樣的保險(xiǎn)公司合作進(jìn)行研究時(shí)，數(shù)據(jù)專(zhuān)家需要做大量的工作來(lái)解釋他們的預(yù)測(cè)模型，”Collaris指出。埃因霍溫大學(xué)的畢業(yè)生在TU/e的數(shù)學(xué)和計(jì)算機(jī)科學(xué)系學(xué)習(xí)了網(wǎng)絡(luò)科學(xué)，并作為JackvanWijk教授領(lǐng)導(dǎo)的可視化小組的一員畢業(yè)，后者隨后要求他留下來(lái)攻讀博士學(xué)位。

要了解計(jì)算機(jī)模型采用了什么策略，必須清楚地了解使用和處理的數(shù)據(jù)。為此，Collaris開(kāi)發(fā)了兩個(gè)交互式軟件工具，“ExplainExplore”和“StrategyAtlas”，讓用戶洞察自學(xué)模型的靈魂。

StrategyAtlas展示了自學(xué)計(jì)算機(jī)模型用于將個(gè)人分組在一起的特征。學(xué)分：丹尼斯·科拉里斯

團(tuán)體

除其他外，StrategyAtlas在數(shù)據(jù)中尋找模式，特別是顯示模型如何將個(gè)人分成不同的組(見(jiàn)上圖)。

在圖2A中，每個(gè)點(diǎn)代表一個(gè)個(gè)體，具有相似特征的個(gè)體被緊密地分組在一起。圖2B顯示了這些相同的個(gè)體，但根據(jù)模型分配給這些特征的權(quán)重進(jìn)行分類(lèi)。此可視化中的每個(gè)點(diǎn)簇都對(duì)應(yīng)于模型用來(lái)進(jìn)行預(yù)測(cè)的“模型策略”：模型對(duì)該簇中的所有個(gè)體使用大致相同的特征。權(quán)重取決于模型的目標(biāo)(例如，估計(jì)客戶是欺詐者還是潛在違約者)。

自學(xué)模型的世界觀通常與您的預(yù)期截然不同，博士。研究員強(qiáng)調(diào)。從“StrategyAtlas”中的可視化可以明顯看出這一點(diǎn)。“您可以看到，模型認(rèn)為非常不同的紅色和藍(lán)色組，根據(jù)輸入數(shù)據(jù)似乎并不如此。因?yàn)樵?A中，藍(lán)色和紅色都混合在一起，”Collaris指出。

Collaris的其他軟件工具ExplainExplore非常清楚地表明了模型計(jì)算中特定特征的權(quán)重，以確定預(yù)測(cè)。“我們稱(chēng)之為‘特征貢獻(xiàn)’，”Collaris說(shuō)。例如，他提到預(yù)測(cè)糖尿病的風(fēng)險(xiǎn)(見(jiàn)下圖)。

對(duì)于每個(gè)人，軟件會(huì)在其預(yù)測(cè)中顯示每個(gè)特征的權(quán)重(左，在本例中：患糖尿病的幾率為28%)。皮膚厚度(“皮膚”)、血糖水平(“glu”)和BMI是最重要的因素。“如果從該分析中出現(xiàn)意外的特征貢獻(xiàn)，這可能是對(duì)模型進(jìn)行另一次批判性研究的理由，但從理論上講，意外的結(jié)果當(dāng)然也可能帶來(lái)有趣的醫(yī)學(xué)見(jiàn)解。”

右側(cè)是數(shù)據(jù)集中其他人的特征貢獻(xiàn)。例如，這表明該模型通常不太重視個(gè)人經(jīng)歷的懷孕次數(shù)，但“家譜”的權(quán)重(衡量懷孕頻率該疾病發(fā)生在家庭中)。最后，中間部分說(shuō)明了模型對(duì)值的小幅調(diào)整的彈性。“如果皮膚厚度如此重要，那么如果皮膚只是稍微厚一點(diǎn)或薄一點(diǎn)，你就不會(huì)期望皮膚厚度突然變得幾乎與預(yù)測(cè)無(wú)關(guān)。”中間的圖提供了相關(guān)信息，從而說(shuō)明了模型的可靠性。

論文封面

他的論文封面還展示了一個(gè)包含三個(gè)條形的圖表，這是Collaris使用ExplainExplore創(chuàng)建的。只是為了好玩，他教了一個(gè)計(jì)算機(jī)模型來(lái)預(yù)測(cè)技術(shù)文檔屬于哪個(gè)類(lèi)別，基于17個(gè)特征。然后他輸入了他自己論文的pdf。果然：結(jié)果是：博士。論文。他當(dāng)然知道這一點(diǎn)，但現(xiàn)在他知道為什么了。“最重要的‘特征貢獻(xiàn)’原來(lái)是頁(yè)數(shù)以及圖像的最大高度和寬度。顯然，這就是使我的博士論文成為博士論文的原因。”

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場(chǎng)無(wú)關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！