蘋果在WWDC公布全平台AI計畫Apple Intelligence,不過屆時能享受Apple Intelligence的晶片幾乎都是比較新世代的,尤其在手機上僅有目前用於iPhone 15 Pro的A17 Pro才能執行,但例如三星的Galaxy AI卻在舊裝置開放一定的功能,不禁令外界質疑這是不是蘋果迫使消費者為了體驗Apple Intelligence而換機的手段;不過蘋果機器學習與AI主管John Giannandrea、行銷主管Greg Joswiak與軟體主管Craig Federighi在接受Daring Fireball採訪時強調不是不開放給舊晶片使用,而是能執行不代表能順暢使用,並非故意讓有意體驗Apple Intelligence的消費者不得不升級。
機器學習與AI主管John Giannandrea表示,執行大型語言模型推論需要相當的算力,雖然以蘋果的模型規模(據稱只有3B參數)也能在舊裝置執行,但將會慢到幾乎沒用;若從蘋果提供的數據,A17 Pro的AI性能相較A16 Bionic提高兩倍,然而A17 Pro的AI性能仍不及當前如高通Snapdragon、聯發科天璣或Google Tensor等Android手機的晶片,以此類推也不難想像為何蘋果寧可捨棄在舊裝置執行Apple Intelligence的能力。
▲A17 Pro相較A16 Bionic的AI性能提高2倍,在執行AI推論的體驗自然會有明顯差異
當然這也是蘋果原本相對生成式AI更著重機器學習應用的策略使然,畢竟在裝置上的機器學習需要的算力相對不高,也導致蘋果在A18 Pro以前的NPU相對效能提升更重視能耗效率,同時AI架構也會與晶片其它架構爭取可用空間,一味提升AI架構規模則會擠壓到其它架構配置;然而隨著AI型態的轉變,蘋果也不得不跟進市場變化,但也使得A17 Pro成為與舊世代晶片在NPU性能有顯著落差的一代。