PrismML將一個270億參數的AI模型從54 GB壓縮至4 GB以下,使其可完全在iPhone 17 Pro上運行。
PrismML將一個270億參數的AI模型從54 GB壓縮至4 GB以下,使其可完全在iPhone 17 Pro上運行。

蘋果正與加州理工學院衍生公司PrismML洽談,計劃將一個270億參數的AI模型直接部署於iPhone上,這項突破可能消除先進AI任務中對雲端處理的需求。
該新創公司成功將阿里巴巴開源的Qwen 3.6模型——原本需要54 GB記憶體——壓縮至不到4 GB,同時保持全部270億個參數同步運作。目前大多數運行於智慧型手機上的AI模型,一次僅能啟用數十億個參數,以因應功耗與散熱限制。
據PrismML表示,該公司透過超密集1位元與三元權重架構實現了這項壓縮技術,將記憶體佔用減少高達14倍,同時運行速度比傳統壓縮模型快上8倍。該新創計劃於7月14日發布其開源模型。
這項技術可能重塑蘋果的AI戰略。在WWDC上,蘋果推出了經過改造的Siri架構,但在處理複雜任務時仍需將數據發送至雲端的Google Gemini模型。裝置端AI則能提供完全的用戶隱私、更快的回應速度,且完全不依賴蜂窩網路——同時還能為蘋果節省雲端伺服器基礎設施的成本,而Meta、微軟及亞馬遜等競爭對手正投入數千億美元建設這類設施。
裝置端AI對投資者的重要性
據知情人士透露,蘋果已與PrismML就潛在應用進行了會談。蘋果最大的一次秘密AI收購是據傳以20億美元收購的新創公司Q.ai。若能將PrismML的技術納入麾下,蘋果將獲得目前所有主要智慧型手機競爭對手都未擁有的差異化能力。
技術瓶頸一直以來都在於記憶體頻寬。一個270億參數、16位元精度的模型需要約54 GB的記憶體——遠超過任何智慧型手機的承載能力。PrismML的方法採用1位元與三元權重,將每個參數縮減至1或2個位元(而非16位元),在保持基準測試表現的同時大幅削減記憶體需求。
作為對比,iPhone 17 Pro搭載的A18 Pro晶片採用CPU與GPU共享的統一記憶體架構,根據配置不同,系統總記憶體為8至12 GB。若無PrismML開發的壓縮技術,要本地運行一個完整的270億參數模型原本是不可能的。
競爭格局的影響
此舉將迫使三星與谷歌加速自身的裝置端AI部署。三星一直在開發其Gauss模型,而谷歌的Pixel系列則搭載為其Gemini Nano優化的Tensor晶片。目前兩者均未展現出能在裝置端完整運行此等規模模型、且所有參數同時啟用的能力。
蘋果股價週三上漲0.88%,收於313.39美元。該公司目前交易價格約為預期盈餘的30倍。若PrismML的技術能兌現其宣稱的表現,由此引發的iPhone換機潮可能相當可觀——此等規模的裝置端AI能力普遍被視為智慧型手機換機需求的下一波催化劑。
本文僅供參考,不構成投資建議。