隨著人工智能(AI)越來越多地用于諸如診斷和治療疾病等關鍵應用中，從業(yè)人員和患者可以信賴的醫(yī)療保健預測和結(jié)果將需要更可靠的深度學習模型。在最近的 預印本中 (可通過康奈爾大學的開放獲取網(wǎng)站arXiv獲得)，由勞倫斯·利弗莫爾國家實驗室 (LLNL)的計算機科學家領導的團隊 提出了一種新穎的深度學習方法，旨在提高分類器模型的可靠性，該模型旨在從診斷中預測疾病類型圖像，其附加目標是在不犧牲準確性的前提下使醫(yī)學專家能夠解釋。該方法使用一種稱為置信度校準的概念，該概念可以系統(tǒng)地調(diào)整模型的預測，以符合人類專家在現(xiàn)實世界中的期望。

主要作者和LLNL計算科學家Jay Thiagarajan解釋說：“可靠性是重要的準繩，因為AI在高風險應用中變得越來越普遍，當出現(xiàn)問題時會產(chǎn)生真正的不良后果。” “您需要系統(tǒng)地說明該模型在實際環(huán)境中的可靠性，然后將其應用到其中。如果像改變總體多樣性這樣簡單的事情會破壞您的系統(tǒng)，則需要知道這一點，而不是部署它，并且然后找出來。”

在實踐中，量化機器學習模型的可靠性具有挑戰(zhàn)性，因此研究人員引入了“可靠性圖”，其中包括推理循環(huán)中的專家以揭示模型自治性與準確性之間的權衡。Thiagarajan解釋說，通過允許模型在置信度較低時推遲進行預測，可以對模型的可靠性進行整體評估。

在論文中，研究人員考慮了用于皮膚癌篩查的病變的皮膚鏡檢查圖像-每個圖像均與特定的疾病狀態(tài)相關：黑色素瘤，黑素細胞痣，基底細胞癌，光化性角化病，良性角化病，皮膚纖維瘤和血管病變。使用常規(guī)指標和可靠性圖，研究人員表明，與現(xiàn)有的深度學習解決方案相比，校準驅(qū)動的學習產(chǎn)生了更加準確和可靠的檢測器。在這個具有挑戰(zhàn)性的基準測試中，他們的準確率達到了80%，而標準神經(jīng)網(wǎng)絡的準確率則為74%。

然而，比提高準確性更重要的是，預測校準為在科學問題中構(gòu)建可解釋性工具提供了一種全新的方式，Thiagarajan說。該團隊開發(fā)了一種自省方法，其中用戶輸入有關患者的假設(例如某種疾病的發(fā)作)，并且模型返回與該假設最大程度吻合的反事實證據(jù)。使用這種“假設分析”，他們能夠識別不同類別的數(shù)據(jù)之間的復雜關系，并闡明了該模型的優(yōu)缺點。

蒂亞加拉詹說：“我們正在探索如何制作一種可能支持更復雜的推理或推理的工具。” 這些AI模型通過將您的假設置于預測空間中，系統(tǒng)地提供了獲得新見解的方法。問題是，“如果已被診斷出患有疾病A和疾病B，圖像應如何顯示?” 我們的方法可以為該假設提供最合理或最有意義的證據(jù)。我們甚至可以獲得患者從狀態(tài)A到狀態(tài)B的連續(xù)轉(zhuǎn)換，由專家或醫(yī)生定義這些狀態(tài)是什么。”

最近，Thiagarajan將這些方法用于研究診斷為的患者的胸部X射線圖像，這些患者是由新型SARS-CoV-2引起的。為了了解人口統(tǒng)計學，吸煙習慣和醫(yī)療干預等因素對健康的影響，Thiagarajan解釋說，AI模型必須分析的數(shù)據(jù)量遠遠超過人類可以處理的數(shù)據(jù)，并且醫(yī)學專業(yè)人員必須對結(jié)果進行解釋才能有用。他說，可解釋性和自省技術不僅將使模型更強大，而且還可以提供一種全新的方式來創(chuàng)建用于醫(yī)療保健應用的模型，從而使醫(yī)生能夠形成有關疾病的新假設，并幫助決策者制定影響公共衛(wèi)生的決策。 ，例如持續(xù)中的大流行。

“人們希望將這些AI模型整合到科學發(fā)現(xiàn)中，” Thiagarajan說。“當出現(xiàn)像COVID這樣的新感染時，醫(yī)生正在尋找證據(jù)以更多地了解這種新型病毒。系統(tǒng)的科學研究總是有用的，但是我們產(chǎn)生的這些數(shù)據(jù)驅(qū)動的方法可以極大地補充專家們可以用來了解這些疾病的分析。機器學習不僅可以進行預測，還可以應用，并且該工具以非常聰明的方式實現(xiàn)了這一目標。”

賈加拉讓開始的這項工作部分是為了尋找不確定性量化(UQ)的新技術，這項工作是由 能源部的高級科學計算研究 計劃資助的。他與LLNL的團隊成員一起，已開始在許多科學應用中利用UQ集成的AI模型，并最近與加利福尼亞大學舊金山醫(yī)學院就臨床問題中的下一代AI展開了合作。

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權請聯(lián)系刪除！