2018年，AI將成為各大手機公司的標配需求，手機端龐大的一手數(shù)據(jù)將會利用起來，而只有終端AI硬件能力普及后，AI應用才有可能百花齊放，AI生態(tài)才有可能真正成熟。周晨表示，海思的定位就是平臺算力的提供者，同時會提供SDK讓開發(fā)者來運行自己的應用和算法。
從算法到算力，資本圈熱點轉(zhuǎn)移
2017年，在資本圈和媒體大V們討論得熱火朝天，在各個AI技術論壇頻頻召開的時候，消費者一頭霧水。
筆者百度了一下“AI”，發(fā)現(xiàn)了一部大導演斯皮爾伯格拍的電影，電影里的AI就是一個除了內(nèi)部構造，跟人沒有任何區(qū)別的小男孩。
于是老百姓們恍然大悟，哦！原來AI就是機器人兒??？
還有一部電影就是《黑客帝國》中的母體Matrix。這部電影里的AI是一個巨大的虛擬世界的大腦，整個物理世界都變成了數(shù)據(jù)，人類自己也變成了一串串代碼。
這兩部電影其實揭示了AI的兩個表現(xiàn)形態(tài)：云端和終端AI。
2016年，資本圈關注的大多還是專注于云端算法的公司，比如商湯、曠視、云從、依圖四家算法公司，李開復稱他們?yōu)槿四樧R別的“四個獨角獸”。
2016年，Intel收購了Nervana、Altea，谷歌在I/O大會發(fā)布了“TPU”，高通開始研發(fā)神經(jīng)網(wǎng)絡芯片，而Nvidia股價因為AI概念而飆升。
2017年，資本圈開始關注地平線、深鑒科技、寒武紀、云天勵飛四家AI芯片公司。
資本的嗅覺是很靈敏的，AI作為一種技術其實已經(jīng)有了幾十年的歷史。組成AI的三大要素包括算法、算力、數(shù)據(jù)。算法和數(shù)據(jù)的積累和演進已經(jīng)持續(xù)了很多年，而終端算力的普及則剛剛開始。從運算發(fā)展的路徑來看，一開始都是靠算法解決問題，因為那時候計算力有限。所以資本重點關注算法公司。現(xiàn)在計算力上升，算法的差異被彌補掉了，于是資本開始關注提供算力的公司。
雖然AlphaGo算力驚人，但這是在使用了上千個CPU和數(shù)百個GPU的基礎下實現(xiàn)的，下一盤棋的電費就高達3000美元，相當耗能。
手機是目前最普及的個人移動終端，如何讓低功耗的智能手機能夠和AlphaGo一樣“聰明”？
為何華為海思能率先推出手機AI芯片？
手機行業(yè)最先行動的是兩個公司——蘋果和華為。iPhone X的A11中打在了神經(jīng)網(wǎng)絡模塊神經(jīng)引擎（Neural Engine），而海思的麒麟970則與寒武紀合作搭載了NPU（Neural-network Processing Unit）。憑借海思的訂單，寒武紀在2016年就已經(jīng)實現(xiàn)盈利。
“我們有幸走到了這件事（AI）的前面，我們的麒麟970跟iPhone X的A11是真正在終端側(cè)‘唯二’的推出產(chǎn)品的公司。”華為海思麒麟芯片市場總監(jiān)周晨對《電子工程專輯》記者表示。相比蘋果和三星的AI芯片，華為海思是用硬件的方式來加速，“我們對于開放的事情還是有差異的，蘋果把這個能力主要用在FaceID，我們是通過HiAI全面開放給開發(fā)者，開發(fā)者可以用到手機業(yè)界最強的AI推理能力。”周晨說。
作為手機行業(yè)的標桿，這兩家公司之所以能夠率先推出AI手機芯片，首先當然是因為各自掌握著芯片設計能力。其次是因為他們的芯片部門或公司只需要服務于一家客戶。
“實際上AI的項目我們2年前就啟動了。因為我們是in house的芯片公司，只需要服務于華為這個品牌。我們可以很清楚的知道終端的需求是什么，從而針對性的做出產(chǎn)品和規(guī)劃設計。”周晨認為，對于公開市場的芯片公司，考慮的邏輯是不一樣的。因為芯片里面加任何功能都是成本，所以純芯片公司要考慮到自己的客戶對AI的需求會是怎樣，因此會偏保守。未來在新技術的采用上，類似于蘋果、海思這樣的in house會更加激進，這可能是海思能夠在業(yè)界率先推出AI手機芯片的重要原因。
此外與寒武紀的合作也是海思能夠迅速推出AI芯片的原因。“在這個時間點上，和寒武紀的合作是最好選擇。我們要確保我們選擇最好的方式，未來有的IP我們會自己做，有的可能尋找更好的合作伙伴，這個都是動態(tài)變化中。”
從云到端，AI芯片迭代如何滿足算法變化？
當然，如果你認為蘋果和華為在手機芯片中搭載“AI”單元模塊僅僅是為了尋找新的賣點，作為營銷噱頭多賣手機，那你就圖樣了。從云端到終端確實能帶來真正的好處，比如功耗和成本的降低，效率的提升等。
2018年的CES展印證了AI向終端轉(zhuǎn)移的趨勢，以前很多基于概念的應用開始真正以產(chǎn)品和服務的形式落地了。從CES展出的各種AI產(chǎn)品來看，大致分為三種：第一類是應用在汽車上的自動駕駛方案，目前主要是Nvidia在該領域布局。第二類是圍繞語音類的助手服務，包括智能音箱等。第三類則是圖像識別類的產(chǎn)品，有大量的初創(chuàng)公司都在進入，開發(fā)類似于安防監(jiān)控、直播、視頻特效等新的應用。
周晨認為在云端進行AI運算的方式，如增加模型的大小和層數(shù)并不是真正的方向。AI開始從云端往終端遷移會把運算量和網(wǎng)絡大小減少100倍，也會減少對網(wǎng)絡帶寬的需求。“隨著算力的提升和算法的優(yōu)化，最后會形成一個很好的甜蜜點。”周晨表示，在今年CES期后他去硅谷開會，發(fā)現(xiàn)業(yè)內(nèi)都在討論On device。開始做AI的公司多如牛毛，光是芯片公司都很多。
“終端的性能現(xiàn)在是瓶頸，大批公司雖然水平參差不齊，但是都在往芯片端走，如何解決兼容性問題，如何讓算法更流暢，成為大家關注的焦點。”周晨表示，從2017年的數(shù)據(jù)來看，AI的算力云端占了95%，終端只占5%，這兩點的巨大差距會帶來很大的成長空間。
當然，由于目前的AI算法更新升級速度很快，如何滿足一定的變化性呢？ 周晨認為，未來比較合適的架構應該是CPU+硬件加速器的做法。對于海思來說，因為是一家硬件平臺公司，自然更偏向用硬件的方式來做，提供通用性的加速器，從而滿足大部分的算法需求。目前跑算法大概有兩種方式：一種是用CPU跑純軟件，另一種是通過硬件加速器來固定算法。此外，從AI運算的需求本身來看，大部分是計算密度要求很高的行為，也需要用非常高效的硬件方式去做。周晨認為，從芯片的發(fā)展歷史來看，很多算法一旦穩(wěn)定成熟下來就會固定用硬件來做。
“我們自己有GPU、DSP資源，把異構這件事做好以后，對于第三方的未知應用都盡可能加速到。因為手機是開放型平臺，所以我們必須這樣做。”周晨表示，海思的定位就是平臺算力的提供者，同時會提供SDK讓開發(fā)者來運行自己的應用和算法。“再往上可能華為在手機端會提供一些業(yè)務級的接口，這些接口不需要開發(fā)者自己來做算法，比如卡路里識別，APP只要直接調(diào)用接口就可以了。”
下一代AI芯片怎么做？
對于海思的下一代AI芯片，周晨沒有透露太具體的規(guī)格或參數(shù)。但他表示，后面兩代的產(chǎn)品定義經(jīng)明確，基本上有幾個方向不會變：第一是算力會持續(xù)上漲。第二是專注在通用的AI運算平臺上，持續(xù)將AI運算能力開放給更多開發(fā)者。第三是AI芯片的工藝會越來越先進，更新速度可能會比摩爾定律還要快。
“當我們把算力釋放出去以后，可能會有一大票應用能力提升。這會產(chǎn)生正向循環(huán)，會有越來越多的開發(fā)者做一些新的好的體驗。”周晨表示，AI本身是一種技術，但是未來的價值會體現(xiàn)在有多少開發(fā)者來開發(fā)出相關的應用。
目前業(yè)界有一種觀點，認為AI的深度學習需要數(shù)據(jù)來喂養(yǎng)，因此擁有越龐大數(shù)據(jù)量的互聯(lián)網(wǎng)公司，如BAT會在未來AI領域占據(jù)核心優(yōu)勢。對于這個說法，周晨認為海思目前在算力和算法上其實都具有優(yōu)勢，至于數(shù)據(jù)方面也不是問題。
第一個原因是算法本身在升級，機器學習本身的效率在提升。“深度學習的方式跟人腦的學習方式差別還是很大的，比如小孩看幾張貓的照片就能認識什么是貓，不需要看十萬張照片來學習。”周晨認為，人腦其實是在做更高一層的算法，提取更高維度的特征。因此當算法升級后，將不再需要那么海量的數(shù)據(jù)來做深度學習。
第二個原因是終端已經(jīng)成為人的計算中心，手機上產(chǎn)生的數(shù)據(jù)才是真正一手、新鮮的數(shù)據(jù)，而云端的數(shù)據(jù)可能是經(jīng)過壓縮或精簡的二手數(shù)據(jù)。
周晨認為，2018年后，AI將成為各大手機公司的標配需求，手機端龐大的一手數(shù)據(jù)將會利用起來，而只有終端AI硬件能力普及后，AI應用才有可能百花齊放，AI生態(tài)才有可能真正成熟。
華為“Hi AI”是什么? 20180206-hisilicon-2 對于芯片公司來說，如何滿足AI不同算法應用及生態(tài)圈的差異化需求成為難點和重點。“海思還會提供一個Hi AI架構，我們也會有一個定期舉行的Hi AI的公開課，”周晨最后表示，華為日前針對工程師舉行了“華為Hi AI能力開放公開課” ，將幫助嘗試投身人工智能領域的企業(yè)和開發(fā)者，提升技術人員競爭力，促進行業(yè)技術的提升，共同推動人工智能生態(tài)的發(fā)展。 20180206-hisilicon-3 什么是華為AI呢？據(jù)了解，HiAI移動計算平臺開放三層的能力，分別為云端能力開放（Huawei HiAI Services）、端側(cè)應用能力開放（Huawei HiAI Engine）和端側(cè)芯片能力開放（Huawei HiAI Accelerator）。
其中，底層Huawei HiAI Accelerator是HiAI芯片能力開放的核心內(nèi)容，能夠快速轉(zhuǎn)化和遷移已有模型，借助NPU的加速獲得最佳性能，主要依靠海思麒麟芯片實現(xiàn)。華為HiAI引擎的目標，通過開放應用層API，使能開發(fā)者在不懂AI算法的情況下也能開發(fā)高質(zhì)量AI應用，完全聚焦在應用的體驗和業(yè)務實踐上，而不是聚焦在后端大量的模型訓練和算法上。
目前在火熱的AI領域，更快速的推出高質(zhì)量AI應用是搶占市場先機的最好手段，本次Huawei HiAI Engine就是通過開放和共享華為自有應用層商用級的AI能力API來使能合作伙伴在未來的競爭中贏得先機，使能華為手機上面的應用都能提供業(yè)界最佳的AI體驗。因此，Huawei HiAI Engine面向移動終端提供多種AI能力和JAVA應用層接口。
