AI話題一直不斷在推陳出新,今天剛好看到一篇可以離線使用的AI工具,趕緊先來跟大家分享一下!
原文如下:
Google 日前低調推出一款實驗性應用程式，將生成式 AI 的強大功能直接交到人們手中。
這是不用再透過網路生成的AI喔!!
名為「Google AI Edge Gallery」的 Google 應用程式可在手機上執行開源機器學習社群平台 Hugging Face 公開提供使用的各種模型，目前已支援 Android 平台，接下來還會登陸 iOS 平台。它允許使用者尋找、下載並執行適用於影像生成、回答問題、編輯程式碼等不同任務的模型。這些模型可在離線狀態下執行，無需網路連線，直接利用它支援的手機處理器進行運算。
IOS看來還要等一下~
雲端運行的模型通常比地端模型更強大，相對也存在一些缺點，有些使用者並不願意將個人資料或敏感資訊上傳雲端，或希望在無法連接行動網路或 Wi-Fi 也能使用模型，這時能夠離線使用的模型就能發揮功用。
果然會推出離線版一定都有一些故事背景!
Google AI Edge Gallery 被稱做「實驗性 Alpha 發行版」，依照 GitHub 上的安裝說明可以完成下載安裝，畫面顯示導向 AI 任務和功能的捷徑，例如「Ask Image」、「AI Chat」。點選某項功能就會列出適用於特定任務的模型清單，例如 Google 最新的 Gemma 3n，它是一款可在手機、平板及筆電流暢運作的模型。
有興趣可以去申請下載看看!
Google AI Edge Gallery 還提供「Prompt Lab」，使用者可啟動由模型驅動的單輪對話任務，例如摘要和重寫文字內容，Prompt Lab 內建多個任務範本以及可微調模型行為的設定選項。
好像有點複雜!不過AI功能要符合使用者要求的話,確實也只能透過清楚的設定才能真正滿足使用者!
▲ Ask Image。
▲ AI Chat。
Google 提醒，Google AI Edge Gallery 帶來實際效能可能因裝置而異，配備強大硬體規格的裝置能夠更快地執行模型，而模型規模大小也影響執行時間，較大的模型完成任務所需的時間會比較小的模型更長。
有沒有可能原本線上AI跑十分鐘,但受限於硬體裝置而跑一小時都跑不完?
Google 正邀請開發者社群對 Google AI Edge Gallery 的使用體驗提供意見回饋，這款應用程式採用 Apache 2.0 授權，意味著可在許多商業或非商業的情境無限制地使用。
目前尚未開放給一般消費者使用!但若是操作上真的很流暢,相信很快大家就可以下載來玩玩~
使用過AI工具的人應該都知道,現有的AI軟體的應用,都是先將資料上傳回去Server,經過Server重整解析後再傳回給使用者!由於當下若有很多人同時上線,必定會造成Server不管是網路流量或是效能處理變慢!因此常會遇到限制的情況出現!例如限制每個人一天只能上傳一次之類的,即使付費使用也會加減限制!而今天原文提到的離線AI是否能夠取代目前的AI模式?我覺得還不一定!光是針對硬體的設備,我相信若沒有達到某一等級的話,執行起來絕對不會順暢!因為是離線,所以程式本身的容量應該也不會太小!當然視您要AI做到甚麼程度的生成!
我突然想到很久以前,我曾經玩過一款離線式的電腦聊天!好像只有英文版!對方(電腦)會根據您的對話與您互動!但若是問到電腦不明白的事,也只會回您I don’t understand或者 I don’t Know等簡單的回應!不過在當時(20年前)已經很稀奇了!最後,希望這款離線AI能夠符合大家的期望~謝謝~
參考資料來源:
Leave a Reply