開發(fā)人員現(xiàn)在可以在Pixel9設(shè)備上測試Google的GeminiNanoAI模型
GeminiNano現(xiàn)已在Pixel9設(shè)備上進行實驗，它將允許開發(fā)人員使用AIEdgeSDK控制關(guān)鍵參數(shù)。GeminiNano聲稱可以提高性能，同時減少對云服務(wù)器的依賴。
GeminiNano是Gemini系列AI模型中更專業(yè)、更輕量級的版本。雖然兩者都屬于同一個Gemini系列，但Nano版本專為設(shè)備上的AI任務(wù)而設(shè)計，據(jù)稱只需在用戶設(shè)備上本地處理數(shù)據(jù)，即可使對話更高效、更私密。
谷歌現(xiàn)已通過AIcore使用其AIEdgeSDK在Android設(shè)備上開放GeminiNano供實驗。據(jù)稱，該設(shè)備上的AI模型針對文本生成和改寫等任務(wù)進行了優(yōu)化。在此公告之后，開發(fā)人員將有機會測試AI功能，而無需過度依賴云資源。但是，有一個問題——它最初僅適用于Pixel9系列設(shè)備。
GeminiNano在基于文本的AI用例(如摘要、校對和智能回復(fù)生成)中表現(xiàn)尤為出色。AIEdgeSDK將允許開發(fā)人員控制特定參數(shù)(如溫度、top-K采樣和輸出長度)，以微調(diào)模型的響應(yīng)。作為參考，top-K采樣是AI模型中的一種方法，它將潛在的下一個單詞的數(shù)量限制為K個最可能的單詞，試圖在連貫性和隨機性之間取得平衡。這種方法有助于生成更相關(guān)、重復(fù)性更低的文本，同時仍允許響應(yīng)的變化——同時最大限度地減少對高性能服務(wù)器的需求。
在性能方面，GeminiNano聲稱比其前代產(chǎn)品有了顯著的改進。該公司表示，該模型在釋義和數(shù)學(xué)問題等任務(wù)中的準確率分別躍升至90%和23%。谷歌目前正在向開發(fā)人員提供實驗性訪問權(quán)限，讓他們將上述所有功能集成到他們的應(yīng)用中。
首先，開發(fā)人員可以參考SDK的文檔，其中提供了在移動應(yīng)用程序中使用GeminiNano的分步指南。
標簽：