由多倫多大學(xué)研究員 Parham Aarabi 領(lǐng)導(dǎo)的一項新計劃旨在衡量人工智能系統(tǒng)中存在的偏見，作為解決這些偏見的第一步。AI 系統(tǒng)通常會反映數(shù)據(jù)集中存在的偏差——或者，有時，AI 的建模會引入新的偏差。

“每個人工智能系統(tǒng)都有某種偏見，”應(yīng)用科學(xué)與工程學(xué)院電氣和計算機工程系 Edward S. Rogers Sr. 通信/計算機工程副教授 Aarabi 說。“作為一個在 AI 系統(tǒng)和算法領(lǐng)域工作了 20 多年的人，我這么說。”

Aarabi 是多倫多大學(xué)HALT AI 小組的學(xué)術(shù)和行業(yè)專家之一 ，該小組使用不同的輸入集測試其他組織的 AI 系統(tǒng)。HALT AI 創(chuàng)建一個多樣性報告——包括關(guān)鍵指標的多樣性圖表——顯示弱點并提出改進建議。

“我們發(fā)現(xiàn)大多數(shù) AI 團隊不會對其系統(tǒng)進行實際的定量驗證，”Aarabi 說。“例如，我們可以說，'看，你的應(yīng)用程序在以英語為母語的人身上成功率為 80%，但對于母語不是英語的人來說只有 40%。'”

HALT 于 5 月作為一項免費服務(wù)推出。該小組對許多流行的人工智能系統(tǒng)進行了研究，其中包括蘋果、谷歌和微軟的一些系統(tǒng)。HALT 的統(tǒng)計報告提供了各種不同維度的反饋，例如性別、年齡和種族。

“在我們自己的測試中，我們發(fā)現(xiàn)微軟的年齡估計 AI 在某些年齡段表現(xiàn)不佳，”Aarabi 說。“Apple 和 Google 的語音轉(zhuǎn)文本系統(tǒng)也是如此：如果你有某種方言、一種口音，它們的效果可能會很差。但是直到您測試時，您才知道哪種方言。類似的應(yīng)用程序以不同的方式失敗——這很有趣，并且可能表明用于每個應(yīng)用程序的訓(xùn)練數(shù)據(jù)的類型和局限性。”

HALT 在今年年初開始，當時電氣和計算機工程部門內(nèi)外的人工智能研究人員開始分享他們對人工智能系統(tǒng)偏見的擔憂。到 5 月，該小組從私營和學(xué)術(shù)部門引進了多元化的外部專家。

“要真正理解和衡量偏見，不能只是來自多倫多大學(xué)的幾個人，”Aarabi 說。“HALT 是一個廣泛的個人群體，包括財富 500 強公司的多元化負責人以及倫敦大學(xué)學(xué)院和斯坦福大學(xué)等其他學(xué)術(shù)機構(gòu)的人工智能多元化專家。”

隨著人工智能系統(tǒng)部署在不斷擴大的應(yīng)用范圍內(nèi)，人工智能中的偏見成為一個更加關(guān)鍵的問題。雖然人工智能系統(tǒng)性能仍然是一個優(yōu)先事項，但越來越多的開發(fā)人員也在檢查他們的工作是否存在固有偏見。

“大多數(shù)情況下，都存在訓(xùn)練集問題，”Aarabi 說。“開發(fā)人員根本沒有足夠的所有代表性人口群體的訓(xùn)練數(shù)據(jù)。”

如果多樣化的訓(xùn)練數(shù)據(jù)不能提高 AI 的性能，那么模型本身可能存在缺陷，需要重新編程。

電氣和計算機工程系教授兼系主任迪帕·昆杜爾 (Deepa Kundur) 表示，HALT AI 正在幫助創(chuàng)建更公平的 AI 系統(tǒng)。

“我們對多樣性的推動始于我們所在部門的內(nèi)部，但也擴展到整個電氣和計算機工程社區(qū)——包括研究人員為社會創(chuàng)新的工具，”她說。“HALT AI 正在幫助確保公平和公平的 AI 向前發(fā)展。”

“現(xiàn)在是研究人員和從業(yè)人員考慮這個問題的合適時機，”Aarabi 補充道。“他們需要擺脫高層次的抽象，并明確偏見是如何表現(xiàn)出來的。我認為我們可以對此有所了解。”

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關(guān)。財經(jīng)信息僅供讀者參考，并不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔。 如有侵權(quán)請聯(lián)系刪除！