我們大多數(shù)人每天都受益于計算機現(xiàn)在可以在我們說話或寫作時“理解”我們這一事實。然而，我們中很少有人停下來考慮同樣的技術可能會塑造我們的文化的潛在破壞性方式。

人類的語言充滿了歧義和雙重含義。例如，請考慮這句話的潛在含義：“我參加了項目課程。” 沒有上下文，這是一個模棱兩可的陳述。

計算機科學家和語言學家花了幾十年的時間試圖對計算機進行編程以理解人類語言的細微差別。在某些方面，計算機正在快速接近人類理解和生成文本的能力。

通過建議一些單詞而不是其他單詞的行為，我們設備中的預測文本和自動完成功能改變了我們的思維方式。通過這些微妙的日常互動，機器學習正在影響我們的文化。我們準備好了嗎?

我為Kyogle 作家節(jié)創(chuàng)作了一個在線互動作品，讓您以一種無害的方式探索這項技術。

什么是自然語言處理?

使用日常語言與計算機交互的領域稱為“自然語言處理”。當我們與 Siri 或 Alexa 交談，或者在瀏覽器中輸入單詞并預測我們句子的其余部分時，我們就會遇到它。

這只能歸功于過去十年自然語言處理的巨大改進——通過在龐大數(shù)據(jù)集(通常是數(shù)十億個單詞)上訓練的復雜機器學習算法實現(xiàn)。

去年，當生成式預訓練 Transformer 3 (GPT-3) 發(fā)布時，這項技術的潛力變得顯而易見。它為計算機可以用語言做什么設定了新的基準。

GPT-3 可以通過捕獲句子中單詞之間的上下文關系，只需要幾個單詞或短語并生成“有意義”語言的整個文檔。它通過構建機器學習模型來實現(xiàn)這一點，其中包括兩個被廣泛采用的模型，稱為“BERT”和“ELMO”。

這項技術如何影響文化?

然而，機器學習產(chǎn)生的任何語言模型都存在一個關鍵問題：他們通常從維基百科和推特等數(shù)據(jù)源中學習他們所知道的一切。

實際上，機器學習從過去獲取數(shù)據(jù)，從中“學習”以生成模型，并使用該模型在未來執(zhí)行任務。但在此過程中，模型可能會從其訓練數(shù)據(jù)中吸收扭曲或有問題的世界觀。

如果訓練數(shù)據(jù)有偏差，這種偏差將在模型中被編碼和強化，而不是受到挑戰(zhàn)。例如，模型最終可能會將某些身份群體或種族與正面詞相關聯(lián)，而將其他身份群體或種族與負面詞相關聯(lián)。

這可能會導致嚴重的排斥和不平等，正如最近的紀錄片Coded Bias 中所詳述的那樣。

你曾經(jīng)說過的一切

我創(chuàng)作的互動作品讓人們可以有趣地獲得計算機如何理解語言的直覺。它被稱為你曾經(jīng)說過的一切(EYES)，參考了自然語言模型利用各種數(shù)據(jù)源進行訓練的方式。

EYES 允許您使用任何文字(少于 2000 個字符)并“減去”一個概念并“添加”另一個概念。換句話說，它可以讓您使用計算機來更改一段文本的含義。你可以自己試試。

以下是經(jīng)過自動修改的澳大利亞國歌示例。我減去了“帝國”的概念，加上了“考拉”的概念，得到：

“澳大利亞人都讓我們悲傷

因為我們是一體的、自由的

我們擁有金色的生物群和豐富的貧困

我們的考拉被鼠海豚包圍

我們的野生動物中有大量的靈長類考拉

自然而然不變且稀有

在靈長類動物的袋熊中，讓每只考拉

袋熊考拉公平

歡樂曲霉病那么讓我們發(fā)聲吧，

袋熊考拉集市”

這里發(fā)生了什么?在其核心，EYES 使用由美國斯坦福大學研究人員開發(fā)的英語語言模型，稱為GLoVe(詞表示的全局向量)。

EYES 使用 GLoVe 通過進行一系列類比來更改文本，其中“類比”是一件事與另一件事之間的比較。例如，如果我問你：“男人之于國王，女人之于什么?”——你可能會回答“女王”。這是一件容易的事。

但我可以問一個更具挑戰(zhàn)性的問題，例如：“玫瑰是刺什么是愛?” 這里有幾個可能的答案，這取決于您對語言的解釋。當被問及這些類比時，GLoVe 將分別給出“女王”和“背叛”的回答。

GLoVe 將英語中的每個單詞都表示為多維空間(大約 300 維)中的向量。因此，它可以對單詞進行計算，將單詞作為數(shù)字進行加減運算。

賽博文化已經(jīng)到來

機器學習的問題在于，某些概念之間的關聯(lián)仍然隱藏在一個黑盒子里。我們看不見也摸不著它們。使機器學習模型更加透明的方法是當前許多研究的重點。

EYES 的目的是讓您以更有趣的方式嘗試這些關聯(lián)，以便您對機器學習模型如何看待世界產(chǎn)生直覺。

有些類比的辛酸會讓您感到驚訝，而其他類比可能會讓您感到困惑。然而，每一個聯(lián)想都是從普通人寫的幾十億字的龐大語料庫中推斷出來的。

從類似數(shù)據(jù)源中學習的 GPT-3 等模型已經(jīng)在影響我們使用語言的方式。用機器編寫的文本填充整個新聞提要不再是科幻小說中的東西。這項技術已經(jīng)存在。

機器學習模型的文化足跡似乎只會越來越大。

　　免責聲明：本文由用戶上傳，與本網(wǎng)站立場無關。財經(jīng)信息僅供讀者參考，并不構成投資建議。投資者據(jù)此操作，風險自擔。 如有侵權請聯(lián)系刪除！