[蘋果的新手機發表了 人工智慧邊緣運算能力令人驚艷]
蘋果的新手機上週發表了,新版的iPhone XS、XS max以及XR三種,而其中都附有A12 Bionic晶片,其中有6核心CPU、4核心GPU ,以及8核心運用於人工智慧邊緣運算的Neural Engine,相較於iPhone X的A11 Bionic的雙核心Neural Engine,人工智慧推論運算能力強大很多。
圖:取自Youtube
iPhone X應用A11 Bionic成了最先上市的應用人工智慧邊緣運算的智慧型手機,它的使用人工智慧的影像辨識的解鎖手機螢幕的功能,開啟人工智慧邊緣運算的風潮,今年的新手機更是強化了這個能力,達到了兩個功能:1. 在手機端處理更多的深度學習的神經網路任務運算。2.在CPU與GPU之間做更好的工作分配。
[結合Core ML 2的能力 新手機上的應用人工智慧APP能力強化]
Apple為了強化手機上的軟體,提出了Core ML的人工智慧邊緣運算架構,而這樣的架構在今年6月4日提出了Core ML第二代,在同樣運算能力下,Core ML 第二代速度比第一代快了30%,而且可以跟Facebook Caffe和Caffe2、Keras、scikit-learn、XGBoost、LibSVM,以及Google的TensorFlow Lite框架配合使用;同時另外提出了支持GPU的加速工具Create ML,用在Mac電腦上進行人工智慧模型的訓練,這樣可以讓iPhone手機上的應用人工智慧APP能力強化。
結合以上A12 Bionic跟Core ML的資訊,可以得知今天蘋果想要在終端強化人工智慧運算能力的意圖,而透過Create ML在Mac環境下,就可以創造和訓練自定義機器學習模型,而算出的模型的推論引擎,會在A12 Bionic上用硬體及Core ML 第二代軟體加速,以在iPhone X S系列與iPhone X R 手機上有更好的表現,也為了達到這個目的,同時晶片體積能夠很小,這次的A12 Bionic晶片才破天荒地使用了最先進的台積電的7奈米製程。而這也展示了蘋果在邊緣人工智慧運算的進度領先各大公司,而在這些新手機上應用人工智慧的APP,相信將有很不錯的表現。
[各大廠商競相推出Edge端與雲端人工智慧加速晶片 整合後效率強化可期]
之前Google宣告了Edge TPU ASIC晶片,將結合雲端的TPU針對TensorFlow的超快速運算;而Google 雲端的對手AWS跟Microsoft都決定要製作自己系統的雲端人工智慧加速晶片;另外中國大陸華為結合寒武紀的邊緣人工智慧晶片麒麟 970的榮耀系列手機;台灣的聯發科旗下的人工智慧平台 NeuroPilot 已經支援 Google 的 Android 人工神經網路技術(Android Neural Network,ANN),更加入了由亞馬遜、微軟及臉書的ONNX聯盟,準備針對這個框架做對應加速晶片;連nVIDIA都跟艾睿電子合作,共同推出針對人工智慧與機器人,以及邊緣運算所量身設計的 NVIDIA Jetson Xavier 電腦;加上之前提到的蘋果最新手機的A12 Bionic的邊緣運算實力,從這些資訊中,可以看出接下來各大廠商會在邊緣運算上不斷強化,更甚者會結合雲端運算透過FPGA或ASIC加速對應框架(如TensorFlow及ONNX)加速運算效率,讓人工智慧深度學習的運算速度與邊緣運算應用不斷強化。
在這個趨勢之下,台灣的半導體設計廠商,除了聯發科有較大動作之外,其餘的廠商需要找出自己的利基,設計出好的人工智慧邊緣運算晶片,而加入ONNX聯盟或跟nVIDIA合作,是不錯的選擇。