計算能力是人工智慧的基礎，大規模並行計算技術的突破，導致人工智慧發展出現了向上的拐點。並行計算又稱為平行計算（是相對於串行計算來說的），並行計算是一種一次可執行多個指令的算法，目的是提高計算速度，即通過擴大問題求解規模，解決大型而複雜的計算問題。所謂並行計算可分為時間上的並行和空間上的並行。時間上的並行就是指流水線技術，而空間上的並行則是指用多個處理器並發的執行計算。
並行計算是同時使用多種計算資源解決計算問題的過程，是提高計算機系統計算速度和處理能力的一種有效手段。它的基本思想是用多個處理器來協同求解同一問題，即將被求解的問題分解成若干個部分，各部分均由一個獨立的處理器來並行計算。並行計算系統既可以是專門設計的、含有多個處理器的超級計算機，也可以是以某種方式互連的若干台獨立計算機構成的集群。通過並行計算集群完成數據的處理，再將處理的結果返回給用戶。
馮·諾依曼體系的串行結構使得計算機無法滿足人工智慧對硬體的要求，而近年來雲計算的出現至少部分解決了這個問題。雲計算的基礎技術正是並行計算（將大型的計算任務拆分，然後再派發到雲中的各個節點進行分布式的計算，最終再將結果收集後統一處理），大規模並行計算能力的實現使得人工智慧往前邁進了一大步。
雲計算的實質是一種基礎架構管理的方法論，是把大量的計算資源組成IT資源池，用於動態創建高度虛擬化的資源供用戶使用。在雲計算環境下，所有的計算資源都能夠動態地從硬體基礎架構上增減，以適應工作任務的需求。雲計算基礎架構的本質是通過整合、共享和動態的硬體設備供應，來實現IT投資的利用率最大化，這就使得使用雲計算的單位成本大大降低，非常有利於人工智慧的商業化運營。
雲計算技術的日益普及和成熟也是推動人工智慧發展的一大關鍵因素，儘管伺服器等硬體設備在性能上大大提升，成本下降，但是要實現人工智慧所要求的強大運算和存儲能力，需要很多硬體設備。如果只通過在本地搭建伺服器來完成的話，不僅投資巨大、占用很大的物理空間，在耗電和散熱等方面也面臨很大考驗。雲計算通過大規模、分布式的並行計算，可以整合位於不同空間的計算資源，為獲取強大運算能力提供了一種方便、廉價的途徑，很好地解決了這一問題。
為滿足視頻遊戲中繁重的視覺和並行計算需求，即每秒需要多次重新計算數百萬像素。為完成這一任務，需要一塊專門的並行計算晶片，即圖形處理單元（GPU）晶片，作為PC主板的補充。圖形處理單元（GPU）晶片的應用，使得視頻遊戲的性能大幅飆升。在2009年，史丹福大學的吳恩達(AndrewNg，現已加入百度)及其團隊意識到，GPU晶片可以並行運行神經網絡。
目前，GPU（圖形處理器）以遠超CPU的並行計算能力獲得業界矚目，GPU已經不再局限於3D圖形處理了，GPU通用計算技術發展已經引起業界不少的關注，事實也證明在浮點運算、並行計算等部分計算方面，GPU可以提供數十倍乃至於上百倍於CPU的性能。開發人員能夠利用 GPU的大規模並行計算能力，創造出引人入勝的消費級和專業級計算應用程式。現在GPU的技術進步速度已超過摩爾定律，每6個月GPU的性能提升一倍。