自帶 25 億用戶大平台,對 Google 來說妥妥的
據《 Wired 》報導,Google 最新亮相的生成式 AI 桌布功能,不僅能像一般生成式圖像,使用者可藉由下達指令、選擇內容標籤,生成相關圖片。另外使用者也能從相簿挑選照片,進行合成。不用再將素材上傳到外部生成式 AI 網站、軟體,一切在 Android 手機上就能完成。
這可能只是 Google 的暖身操而已。ChatGPT 確實在短時間內擄獲全球破億使用者青睞,但 Android 至今仍是全球超過 7 成市占的手機系統,是 25 億用戶每天頻繁使用的平台。Android 工程部副總裁 Dave Burke 對《 Wired 》表示 :「我們現在的角色就像 Google 的先鋒研發部隊。」
有了 Android 生態系龐大的使用者基數。調研機構 Gartner 副總裁暨資深分析師 Chirag Dekate 表示:「對 Google 而言,這是最適合拿來加速訓練新 AI 產品、測試不同產品組合體驗的平台。其他雲服務對手很難拿出這樣的平台資源與之競爭。」
顧問公司 Creative Strategies 執行長 Ben Bajarin 肯定 Google 將生成式 AI 戰局移轉到行動裝置上。認為:在 Android 上競爭生成式 AI 新品是明智的做法。但他同時也指出背後的技術限制。
生成式 AI 導入裝置的最大限制:算力不足
Ben Bajarin 指出,AI 需要強大算力支撐,若捨雲端不用,本地裝置設備需有足夠技術條件,才能克服算力不足的問題。
這也是 Google 下這步棋最耐人尋味的地方。原先生成式 AI 市場的爆發,被外界認為有望振興成長疲軟的雲端產業。最近因生產 AI 所需的 GPU 繪圖晶片、股價一飛沖天的 Nvidia,如今有望成為首間市值突破一兆美元的晶片大廠。
將生成式 AI 帶回行動裝置場域運行,豈不是捨本逐末?另一晶片大廠高通 CEO Cristiano Amon 可能持不同意見。
生成式 AI 未來大勢:雲端、裝置 2 者混合運行能大降成本
許多公司已在雲端上花費鉅額,未來若要支援更多客戶使用自家產品中的生成式 AI 服務,雲端支出有增無減的狀況下,恐擠壓公司利潤、影響獲利體質。以 Google 為例,每條透過生成式 AI 的搜尋成本是傳統搜尋的 10 倍。以每天全球超過 100 億次搜尋的需求來算,每年增加成本恐超過數十億美元。
背後方法是高通研究團隊透過一套稱為 AI Model Efficiency ToolKit 的 AI 模型工具,將複雜、大型的機器學習模型去蕪存菁,留下關鍵的運算節點,節省模型所需的功率、儲存空間,降低裝置對運作機器學習的計算資源需求。
分析師 Ben Bajarin 預估,未來能用來編輯照片、影音,以及生成簡單對話的生成式 AI 軟體,其在行動裝置上執行的版本,參數( parameters )大概不會超過 100 億。例如高通測試的 Stable Diffusion,其版本僅約 10 億參數,這個尺寸比 ChatGPT 較舊的版本 GPT-3 還小了 175 倍。
生成式 AI 模型越來越小,將激發更多創新應用
隨著縮小 AI 模型的技術越趨成熟,意味著更多開發者,能以更低的技術門檻滿足生成式 AI 能達成的用途,長期可能影響 AI 趨勢走向。《金融時報》就指出,儘管 ChatGPT 抓住所有人的眼球,但檯面下更多小型生成式 AI 工具,早已如雨後春筍般冒出,例如由 Meta 發表的基礎大型語言模型 LLaMa,其小型版本近期成功在 Google 的手機 Pixel 6 上運行。
針對這波 AI 運算移轉到行動裝置的浪潮,外界目前關注 Apple 將會如何反應。Ben Bajarin 認為,作風相對保守、追求穩定的 Apple 勢必會花更多時間將生成式 AI 導入 IOS 生態系中。「但最終雙方應都會提供更多開發工具與資源,讓其生態系能搶先納入優秀的生成式 AI 軟體。」