為什麼蘋果和微軟將AI推向邊緣?

半導體行業觀察 發佈 2020-01-28T17:17:09+00:00

本月早些時候,蘋果斥資2億美元收購了Xnor,這是一家總部位於西雅圖的人工智慧初創公司AI專注於低功耗機器學習軟體和硬體。而微軟提供了一個名為AzureIoT Edge的綜合工具包,允許人工智慧工作負載轉移到網絡邊緣。

來源:內容由半導體行業觀察(ID:icbank)翻譯自「forbes」,作者Mohanbir Sawhney,謝謝。

傳統上人工智慧是部署在雲上,因為AI算法處理大量數據並消耗大量計算資源。但人工智慧並不只存在於雲端,在許多情況下,基於人工智慧的數據處理和決策需要在接近網絡邊緣設備的本地上進行。

邊緣的AI可以更快、更可靠、更安全地做出關鍵任務和時間敏感的決策。智慧型手機、智能手錶以及安裝在機器和基礎設施上的傳感器等等,這些在網絡邊緣的智能設備的迅速增長推動了將人工智慧推向邊緣的熱潮。

本月早些時候,蘋果斥資2億美元收購了Xnor,這是一家總部位於西雅圖的人工智慧初創公司AI專注於低功耗機器學習軟體和硬體。而微軟提供了一個名為Azure IoT Edge的綜合工具包,允許人工智慧工作負載轉移到網絡邊緣。

人工智慧會繼續向邊緣移動嗎?與雲中的人工智慧相比,邊緣的人工智慧有什麼優點和缺點?要理解人工智慧的未來,有必要回顧一下計算的歷史,以及在四種計算範式下,鐘擺是如何從集中式智能轉向分散式智能。

集中與分散的

從計算的早期開始,設計的挑戰之一就是智能應該存在於網絡中。正如我2001年在《哈佛商業評論》上發表的一篇文章中所觀察到的,有一種從集中情報到分散情報的「情報遷移」——一個現在正在重複的循環。

計算機的第一個時代是大型機,智能集中在一個擁有所有計算能力的大型中央計算機上。在網絡的另一端是終端,它們基本上由一個綠色的螢幕和一個本身沒什麼智能的鍵盤組成,因此它們被稱為「啞終端」。

計算的第二個時代是桌面計算機或個人計算機(PC),它將大型機範式顛倒了過來。pc包含了本地存儲和計算的所有智能,甚至不需要連接到網絡。這種去中心化的智能帶來了計算的民主化,並導致了微軟和英特爾的崛起,其願景是讓每一個家庭和每一張桌子上都有一台個人電腦。

第三個計算時代稱為客戶機-伺服器計算,它在兩個極端的智能之間提供了一個折衷方案。大型伺服器在後端完成繁重的工作,「前端智能」被收集並存儲在聯網的客戶端硬體和軟體上。

計算的第四個時代是雲計算範式,由亞馬遜的Amazon Web服務、Salesforce.com的SaaS(軟體即服務)產品和微軟的Azure雲平台等公司開創。雲提供了大規模的計算能力和非常便宜的內存和存儲。人工智慧應用程式被安置在雲里是有道理的,因為在2012年到2019年間,人工智慧算法的計算能力增加了30萬倍,每三個半月就翻一番。

鐘擺又擺動了

然而,基於雲的人工智慧也有它的問題。首先,基於雲的人工智慧會遭遇延遲——數據轉移到雲上進行處理,結果通過網絡傳輸回本地設備時的延遲。在許多情況下,延遲會產生嚴重的後果。例如,當一家化工廠的傳感器預測即將發生爆炸時,該工廠需要立即關閉。機場或工廠的安全攝像頭必須識別入侵者並立即做出反應。當人工智慧算法預測即將發生碰撞時,自動駕駛汽車甚至不能等待十分之一秒來啟動緊急制動。在這些情況下,人工智慧必須位於邊緣,在邊緣處可以更快地做出決策,而不需要依賴網絡連接,也不需要在網絡上來回移動大量數據。

鐘擺再次擺動,從集中到分散的智能,正如我們看到40年前從主機計算到桌面計算的轉變。

然而,正如我們在個人電腦上發現的那樣,要想轉到邊緣並不容易。相機、傳感器或智慧型手機的計算能力是有限的。此外,網絡邊緣的許多設備沒有連接電源,這就帶來了電池壽命和散熱問題。特斯拉、ARM和英特爾等公司正在應對這些挑戰,因為它們正在開發更高效的處理器和更精簡的算法,不需要使用那麼多的電力。

但人工智慧在雲中的表現仍有好一些的時候。當決策需要巨大的計算能力,不需要實時做出決定時,人工智慧應該留在雲中。例如,當人工智慧被用於解釋核磁共振掃描或分析農場上空無人機收集的地理空間數據時,我們可以利用雲的全部力量,即使我們必須等待幾分鐘或幾個小時才能做出決定。

訓練與推理

判斷人工智慧應該存在於何處的一種方法是,理解人工智慧算法中的訓練和推理之間的區別。當人工智慧算法被建立和訓練時,這個過程需要大量的數據和計算能力。要教會一輛自動駕駛汽車識別行人或紅綠燈,你需要向算法輸入數百萬張圖像。然而,一旦該算法被訓練,它可以執行「推斷」——局部觀察一個對象,以確定它是否是行人。在推理模式下,該算法利用其訓練在網絡邊緣做出較少計算密集型的決策。

雲中的人工智慧可以與邊緣的人工智慧協同工作。考慮一下像特斯拉這樣的人工智慧汽車。邊緣的人工智慧能實時做出無數決定,比如剎車、轉向和換道。晚上,當汽車停好並連接到Wi-Fi網絡時,數據會上傳到雲端,以進一步訓練算法。然後,更智能的算法可以通過雲端下載到車上,這是一個良性循環,特斯拉已經通過基於雲的軟體更新重複了數百次。

擁抱「和」的智慧

雲計算將需要人工智慧,就像有更多理由將人工智慧置於邊緣一樣。這不是一個非此即彼的答案,而是一個「和」。人工智慧將出現在它需要出現的地方,就像智能將出現在它需要出現的地方一樣。我看到人工智慧正在進化成「環境智能」——分布式的、無處不在的和相互連接的。在對未來的展望中,邊緣智能將補充雲中的智能,從而更好地平衡集中式計算和本地化決策的需求。

關鍵字: