隨著人工智能繼續(xù)緩慢滲透到世界各地的醫(yī)療實(shí)踐中，我們?nèi)绾螐浐涎芯亢凸I(yè)開(kāi)發(fā)的系統(tǒng)與尚未普及的診所之間的差距?阿姆斯特丹大學(xué)研究人員團(tuán)隊(duì)正在研究人工智能在眼科中的應(yīng)用，他們認(rèn)為關(guān)鍵在于人工智能的可信賴性，以及讓所有相關(guān)利益相關(guān)者參與生產(chǎn)過(guò)程的每個(gè)階段。他們的研究已經(jīng)以開(kāi)放獲取版本提供，很快將出現(xiàn)在著名的《視網(wǎng)膜和眼科研究進(jìn)展》雜志上。

在眼科中，目前只有少數(shù)系統(tǒng)受到監(jiān)管，即使是那些也很少使用。盡管實(shí)現(xiàn)了接近甚至優(yōu)于專(zhuān)家的性能，但在眼科實(shí)踐中人工智能系統(tǒng)的開(kāi)發(fā)和集成之間仍存在重大差距。

研究小組研究了阻礙使用的障礙以及如何降低它們。他們得出的結(jié)論是，如果這些系統(tǒng)最終要在實(shí)際醫(yī)療實(shí)踐中得到廣泛應(yīng)用，主要挑戰(zhàn)是確?？尚刨囆浴榱俗兊弥档眯刨?，它們需要滿足某些關(guān)鍵方面：它們需要隨著時(shí)間的推移變得可靠、穩(wěn)健和可持續(xù)。

研究作者 Cristina González Gonzalo：“在每個(gè)階段將每個(gè)相關(guān)的利益相關(guān)者群體聚集在一起仍然是關(guān)鍵。如果每個(gè)小組繼續(xù)各自為政，我們將繼續(xù)得到僅在其工作的一個(gè)方面非常擅長(zhǎng)的系統(tǒng)，然后它們將被擱置，沒(méi)有人會(huì)使用它們。

眼科 AI 的利益相關(guān)者包括 AI 開(kāi)發(fā)人員、閱讀中心、醫(yī)療保健提供者、醫(yī)療保健機(jī)構(gòu)、眼科學(xué)會(huì)和工作組或委員會(huì)、患者、監(jiān)管機(jī)構(gòu)和付款人?？紤]到這么多團(tuán)隊(duì)的利益，該團(tuán)隊(duì)創(chuàng)建了一個(gè)“AI 設(shè)計(jì)管道”(見(jiàn)圖)，以便更好地了解每個(gè)團(tuán)隊(duì)在流程中的參與情況。該管道確定了 AI 生產(chǎn)各個(gè)階段可能存在的障礙，并展示了解決這些障礙的必要機(jī)制，允許進(jìn)行風(fēng)險(xiǎn)預(yù)測(cè)并避免集成或部署期間的負(fù)面后果。

在所涉及的各種挑戰(zhàn)中，團(tuán)隊(duì)意識(shí)到“可解釋性”將是實(shí)現(xiàn)可信度的最重要因素之一。圍繞人工智能的所謂“黑匣子”需要打開(kāi)。“黑匣子”是用來(lái)描述許多人工智能的不可穿透性的術(shù)語(yǔ)。系統(tǒng)在一端獲得數(shù)據(jù)，從另一端獲取輸出，但兩者之間發(fā)生的情況尚不清楚。

González Gonzalo：“例如，一個(gè)給出二元答案的系統(tǒng)——‘是的，它是一個(gè)囊腫’或‘不，它不是一個(gè)囊腫’——不會(huì)輕易被臨床醫(yī)生信任，因?yàn)檫@不是他們的訓(xùn)練方式和而不是他們?cè)谌粘?shí)踐中的工作方式。所以我們需要打開(kāi)它。如果我們?yōu)榕R床醫(yī)生提供有關(guān)如何做出決定的有意義的見(jiàn)解，他們可以與 AI 協(xié)同工作，并將其發(fā)現(xiàn)納入他們的診斷中。

González Gonzalo：“這些系統(tǒng)運(yùn)行所需的技術(shù)已經(jīng)與我們同在。我們只需要弄清楚如何使它最適合那些將使用它的人。我們的研究是朝著這個(gè)方向邁出的又一步，我相信我們很快就會(huì)開(kāi)始看到結(jié)果在臨床環(huán)境中的應(yīng)用。

　　免責(zé)聲明：本文由用戶上傳，與本網(wǎng)站立場(chǎng)無(wú)關(guān)。財(cái)經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險(xiǎn)自擔(dān)。 如有侵權(quán)請(qǐng)聯(lián)系刪除！