隨著人工智能繼續(xù)緩慢滲透到世界各地的醫(yī)療實踐中，我們?nèi)绾螐浐涎芯亢凸I(yè)開發(fā)的系統(tǒng)與尚未普及的診所之間的差距?阿姆斯特丹大學(xué)研究人員團隊正在研究人工智能在眼科中的應(yīng)用，他們認為關(guān)鍵在于人工智能的可信賴性，以及讓所有相關(guān)利益相關(guān)者參與生產(chǎn)過程的每個階段。他們的研究已經(jīng)以開放獲取版本提供，很快將出現(xiàn)在著名的《視網(wǎng)膜和眼科研究進展》雜志上。

在眼科中，目前只有少數(shù)系統(tǒng)受到監(jiān)管，即使是那些也很少使用。盡管實現(xiàn)了接近甚至優(yōu)于專家的性能，但在眼科實踐中人工智能系統(tǒng)的開發(fā)和集成之間仍存在重大差距。

研究小組研究了阻礙使用的障礙以及如何降低它們。他們得出的結(jié)論是，如果這些系統(tǒng)最終要在實際醫(yī)療實踐中得到廣泛應(yīng)用，主要挑戰(zhàn)是確保可信賴性。為了變得值得信賴，它們需要滿足某些關(guān)鍵方面：它們需要隨著時間的推移變得可靠、穩(wěn)健和可持續(xù)。

研究作者 Cristina González Gonzalo：“在每個階段將每個相關(guān)的利益相關(guān)者群體聚集在一起仍然是關(guān)鍵。如果每個小組繼續(xù)各自為政，我們將繼續(xù)得到僅在其工作的一個方面非常擅長的系統(tǒng)，然后它們將被擱置，沒有人會使用它們。

眼科 AI 的利益相關(guān)者包括 AI 開發(fā)人員、閱讀中心、醫(yī)療保健提供者、醫(yī)療保健機構(gòu)、眼科學(xué)會和工作組或委員會、患者、監(jiān)管機構(gòu)和付款人。考慮到這么多團隊的利益，該團隊創(chuàng)建了一個“AI 設(shè)計管道”(見圖)，以便更好地了解每個團隊在流程中的參與情況。該管道確定了 AI 生產(chǎn)各個階段可能存在的障礙，并展示了解決這些障礙的必要機制，允許進行風(fēng)險預(yù)測并避免集成或部署期間的負面后果。

在所涉及的各種挑戰(zhàn)中，團隊意識到“可解釋性”將是實現(xiàn)可信度的最重要因素之一。圍繞人工智能的所謂“黑匣子”需要打開。“黑匣子”是用來描述許多人工智能的不可穿透性的術(shù)語。系統(tǒng)在一端獲得數(shù)據(jù)，從另一端獲取輸出，但兩者之間發(fā)生的情況尚不清楚。

González Gonzalo：“例如，一個給出二元答案的系統(tǒng)——‘是的，它是一個囊腫’或‘不，它不是一個囊腫’——不會輕易被臨床醫(yī)生信任，因為這不是他們的訓(xùn)練方式和而不是他們在日常實踐中的工作方式。所以我們需要打開它。如果我們?yōu)榕R床醫(yī)生提供有關(guān)如何做出決定的有意義的見解，他們可以與 AI 協(xié)同工作，并將其發(fā)現(xiàn)納入他們的診斷中。

González Gonzalo：“這些系統(tǒng)運行所需的技術(shù)已經(jīng)與我們同在。我們只需要弄清楚如何使它最適合那些將使用它的人。我們的研究是朝著這個方向邁出的又一步，我相信我們很快就會開始看到結(jié)果在臨床環(huán)境中的應(yīng)用。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。 如有侵權(quán)請聯(lián)系刪除！