開(kāi)發(fā)人員現(xiàn)在可以在Pixel9設(shè)備上測(cè)試Google的GeminiNanoAI模型
GeminiNano現(xiàn)已在Pixel9設(shè)備上進(jìn)行實(shí)驗(yàn)，它將允許開(kāi)發(fā)人員使用AIEdgeSDK控制關(guān)鍵參數(shù)。GeminiNano聲稱(chēng)可以提高性能，同時(shí)減少對(duì)云服務(wù)器的依賴(lài)。
GeminiNano是Gemini系列AI模型中更專(zhuān)業(yè)、更輕量級(jí)的版本。雖然兩者都屬于同一個(gè)Gemini系列，但Nano版本專(zhuān)為設(shè)備上的AI任務(wù)而設(shè)計(jì)，據(jù)稱(chēng)只需在用戶(hù)設(shè)備上本地處理數(shù)據(jù)，即可使對(duì)話更高效、更私密。
谷歌現(xiàn)已通過(guò)AIcore使用其AIEdgeSDK在Android設(shè)備上開(kāi)放GeminiNano供實(shí)驗(yàn)。據(jù)稱(chēng)，該設(shè)備上的AI模型針對(duì)文本生成和改寫(xiě)等任務(wù)進(jìn)行了優(yōu)化。在此公告之后，開(kāi)發(fā)人員將有機(jī)會(huì)測(cè)試AI功能，而無(wú)需過(guò)度依賴(lài)云資源。但是，有一個(gè)問(wèn)題——它最初僅適用于Pixel9系列設(shè)備。
GeminiNano在基于文本的AI用例(如摘要、校對(duì)和智能回復(fù)生成)中表現(xiàn)尤為出色。AIEdgeSDK將允許開(kāi)發(fā)人員控制特定參數(shù)(如溫度、top-K采樣和輸出長(zhǎng)度)，以微調(diào)模型的響應(yīng)。作為參考，top-K采樣是AI模型中的一種方法，它將潛在的下一個(gè)單詞的數(shù)量限制為K個(gè)最可能的單詞，試圖在連貫性和隨機(jī)性之間取得平衡。這種方法有助于生成更相關(guān)、重復(fù)性更低的文本，同時(shí)仍允許響應(yīng)的變化——同時(shí)最大限度地減少對(duì)高性能服務(wù)器的需求。
在性能方面，GeminiNano聲稱(chēng)比其前代產(chǎn)品有了顯著的改進(jìn)。該公司表示，該模型在釋義和數(shù)學(xué)問(wèn)題等任務(wù)中的準(zhǔn)確率分別躍升至90%和23%。谷歌目前正在向開(kāi)發(fā)人員提供實(shí)驗(yàn)性訪問(wèn)權(quán)限，讓他們將上述所有功能集成到他們的應(yīng)用中。
首先，開(kāi)發(fā)人員可以參考SDK的文檔，其中提供了在移動(dòng)應(yīng)用程序中使用GeminiNano的分步指南。
標(biāo)簽：