AI

蘋果開放裝置端LLM:Foundation Models框架

2025年6月9日蘋果在WWDC發表Foundation Models框架,第三方App可直接呼叫Apple Intelligence的裝置端語言模型,支援guided generation、工具呼叫與離線推論,且推論免API費用;Live Translation與Shortcuts智慧動作同步登場。

蘋果開放裝置端LLM:Foundation Models框架 — 文章封面

同一場WWDC 2025演講裡,對AI開發者影響最深遠的消息不是某個單一新功能,而是一扇打開的門:蘋果宣布第三方App可以直接存取Apple Intelligence核心的裝置端大型語言模型。負責的框架名為Foundation Models,推論免費、可離線運作,資料不出裝置。

軟體工程資深副總裁Craig Federighi稱這是「讓開發者直接使用裝置端基礎模型的巨大一步」,並預期它會「在用戶每天使用的App裡,激發全新一波智慧型體驗」。他也補上了前提:驅動Apple Intelligence的模型正變得更強、更有效率,並被整合進更多系統角落。相關功能自發表當天起提供測試,今年秋天推送到支援裝置的使用者手上。

Foundation Models框架的關鍵能力

框架原生支援Swift,官方宣稱最少三行程式碼就能呼叫模型。WWDC場次「Meet the Foundation Models framework」把核心能力講得很具體:guided generation讓模型輸出直接生成Swift資料結構,省去解析與驗證的麻煩;snapshot streaming讓長輸出可以邊生成邊呈現;tool calling負責接上外部資料來源;stateful session則管理多輪互動的上下文。整場session不要求任何先修知識,還配有一場code-along與一場深度解析場次。

換句話說,蘋果把結構化輸出、函式呼叫這些開發者在雲端API上已經熟悉的模式,原封不動搬進了裝置端,並用Swift型別系統把它們綁在一起。遷移成本主要不在介面,而在對模型能力的重新定位。官方的目標很明確:讓摘要、抽取、建議這類輕量推理變成每個App的標配,而不是少數App的賣點。

免費、離線、不吃雲端預算

蘋果在新聞稿中反覆使用同一組形容詞:這個模型「強大、快速、以隱私為本、離線可用」,而且推論「免費」——不需要為每次呼叫支付雲端API費用。官方給的兩個例子:教育App用裝置端模型從用戶筆記生成個人化測驗,完全沒有雲端API成本;戶外App在沒有網路的環境下照樣提供自然語言搜尋。

對產品團隊來說,這改變了在App裡內建AI功能的成本結構。過去只有兩條路:接雲端API,或自己壓縮、部署並維護一個本機模型;現在多了一個由作業系統託管、隨系統更新的選項。代價是能力上限明顯低於雲端旗艦模型,適合的是高頻、輕量、明確定義的任務,而不是開放式的長推理。換句話說,使用量成長不再直接等於帳單成長,這對剛起步、還在驗證需求的產品尤其重要。

Apple Intelligence功能同步更新

面向用戶的功能也一起發表。Live Translation進駐Messages、FaceTime與電話:訊息在輸入時即自動翻譯,並以對方偏好的語言送達,回訊也會即時翻譯;FaceTime通話顯示即時翻譯字幕,同時仍聽得到對方原聲;一般電話則把翻譯直接唸出來。整套體驗由蘋果自建的模型在裝置端運作,官方強調個人對話不會離開裝置。

其他更新包括:visual intelligence擴充對螢幕內容的理解範圍;Image Playground與Genmoji獲得表達能力的強化;Shortcuts新增智慧動作——用戶可以直接呼叫裝置端模型或Private Cloud Compute來生成回應,結果還能接回捷徑的後續步驟,官方也提供用Writing Tools摘要文字、用Image Playground生成圖片等現成動作。蘋果同時宣布Apple Intelligence年底前新增八種語言:丹麥文、荷蘭文、挪威文、葡式葡萄牙文、瑞典文、土耳其文、繁體中文與越南文。繁體中文名列其中,對台灣市場的產品團隊是直接利好;而智慧動作的隱私主張也與裝置端推理一致——用於捷徑的資訊保持私密。

限制與背景:Siri的缺席

必須誠實面對的脈絡是:更個人化的Siri在這場發表會仍然缺席,TechCrunch當天的報導標題就直接寫著「Still no AI-powered, more personalized Siri from Apple at WWDC 25」。蘋果把話題重心移向了開發者能立即使用的東西。對等了一整年Siri升級的用戶而言,這是一次明確的期待管理;對開發者而言,能動手的東西終於先到了。

蘋果這次的策略是先交出一個約束明確、能力有限的裝置端模型,搭配guided generation與工具呼叫,覆蓋摘要、分類、資料萃取這類高頻任務;需要更強能力的場景,則留給Private Cloud Compute或第三方雲端API。以2026年的後見之明來看,這個框架確實成為iOS App內建AI功能的標準做法之一,而離線與隱私兩個賣點,也讓它在需要資料不出場的場景裡站得很穩。

參考來源

本文由 AI 協助自上述來源整理,經人工審核後發布。

分享X電郵