曠視「開源」初露鋒芒「天元」助力AI應用加速落地

中國網科技 發佈 2021-08-03T07:41:40.631162+00:00

人工智慧產業正加速迎來發展新浪潮。「開源」一詞成為今年AI界探討的焦點話題之一。何為「開源」?其本質上是一種人才、智慧、技術的大聚合,是AI產業升級的加速器。

人工智慧產業正加速迎來發展新浪潮。

「開源」一詞成為今年AI界探討的焦點話題之一。何為「開源」?其本質上是一種人才、智慧、技術的大聚合,是AI產業升級的加速器。「開源」一方面為AI創建了一個開放共進的生態環境,可以幫助各行業加速AI應用落地;另一方面,開源在解決行業實際問題時持續更新和疊代,可反向給AI領域輸送技術養料和創造力。

據悉,今年包括清華大學深度學習框架計圖(Jittor)、騰訊TNN、華為的MindSpore相繼宣布對外正式開源,各家企業對於AI深度學習框架研發愈發重視。更有相關人士指出,2020年可以說是AI深度學習框架開源元年。

人工智慧公司曠視科技在今年3月份正式宣布其自主研發的深度學習框架天元(MegEngine)對外開源,而值得注意的是,天元(MegEngine)也是曠視科技AI生產力平台Brain++的核心組件。

曠視開源深度學習框架天元的負責人田忠博表示,曠視在深度學習框架和AI生產力平台上取得了領先成果,並經過了多年實踐驗證。在AI產業加速進程中,曠視希望將核心能力開放出來,幫助更多AI開發者,通過更好用的框架和平台去創新。

半年時間9次疊代 曠視天元「進化」提速

2020年3月,曠視科技對外推出天元(MegEngine)Alpha版本,並正式向全球開發者開源。

在短暫三個月過後,曠視科技推出天元(MegEngine)Beta版本,據介紹,此次天元beta版本與小米的MACE深度學習推理框架、OPEN AI LAB(開放智能)的Tengine框架實現了深度集成。

在9月份曠視推出天元(MegEngine)1.0預覽版,在經過一個月時間測試調整後,天元(MegEngine)1.0正式版對外發布。曠視開源深度學習框架天元的負責人田忠博向中國網財經記者介紹,天元1.0正式版,相比之前的版本實現了5項重要的技術升級。

首先,全新的Imperative Runtime。天元通過重寫動態執行引擎,打破過去幾個版本中動態圖的限制,解決了一系列資源釋放的問題,並大幅提升了動態自由度,讓使用GPU計算像numpy一樣方便自如。

天元1.0正式版還新增了自動代碼裁剪功能,用戶可以全自動的針對自己網絡使用的算子進行代碼裁剪,不用手工配置就能最小化推理時的代碼體積,極大提升端側推理的競爭力。

此外,天元1.0進行了10餘項推理側性能優化,進一步提升了端側推理性能。同時,天元支持了更多的國產硬體。天元對於主流的一些國產硬體進行了接入,方便在國產NPU晶片上進行推理工作。

最後,天元實驗性的開發了一套基於MLIR的JIT引擎,嘗試利用MLIR這一項非常有前景的方案進行計算圖的進一步融合、優化。希望能探索新興技術,與新技術一同發展,提升。

「天元」三大核心優勢 賦能用戶「小時級」 轉化能力

在經歷過多次疊代升級後,曠視天元逐漸從「稚嫩」走向「成熟」,底層技術支撐更加高效、全面,大大提升了用戶實際處理問題可操作豐富度。

據曠視方面介紹,第一,天元可實現「訓練推理一體」。在傳統深度學習模型開發流程中,從訓練到推理,開發者需要經過一系列格式轉換,隨之而來也會帶來種種難題。為了解這一痛點,天元在訓練和推理側均是一套底層框架提供支持,讓訓練與推理不再是完全孤立的兩個步驟,開發者不再需要為了模型轉換而頭疼。

第二,全平台高效支持。天元對於常用的各類 CPU、GPU 和 NPU 提供了全面而高效的支持,讓用戶無需為每個平台重新學習重新開發。曠視方面表示,只有在各個平台上都提供足夠高效便捷的推理能力,才能真正的讓用戶和企業免除模型轉換工作。

第三,動靜結合的訓練能力。據了解天元一方面可通過動態模式支持快速設計模型,另一方面通過動靜結合方案,讓動態訓練代碼無縫轉換為靜態圖,從而利用算子融合、亞線性內存優化等技術,使得內存消耗和訓練速度達到最優。

曠視方面表示,天元憑藉其三大核心優勢,能夠幫助企業與開發者大幅節省產品從實驗室原型到工業部署的流程,提高其產品「轉化」能力。

重視開發者生態建設 開源社區蓬勃發展

在以數字科技創新為引擎的經濟發展新階段,開源社區作為社會高效協作打造計算生態的重要模式,自然得到曠視方面十足重視。

對此,曠視在線上推出了《深度學習實踐》和《天元深度學習框架入門》系列視頻課程,幫助開發者快速學習掌握天元使用方法。在天元官網上,記者還看到曠視開設「天元模型中心」板塊,板塊中提供了圖像分類、圖像檢測、圖像分割、關鍵點、自然語言處理、生成對抗網絡等方面的基礎預訓練模型,讓開發者可以便捷上手,快速開始自己的科研工作。

此外,曠視還舉辦面向高校學生和全球AI青年人才的開源大賽和一系列人才培養計劃活動,旨在吸引並鼓勵開發者共同參與開源社區的生態建設。

面向未來,人工智慧正在「潛移默化」的改變我們的生活,而開源對於整個AI行業而言,不光是技術架構、行業應用的具體落地和蓬勃發展,其背後更是代表了廣大科研人員強大的創造力與研發能力。相信隨著我國將科技自立自強作為發展的戰略支撐,AI開源生態在將來也會擁有更廣泛的機會和充滿希望的前景。

關鍵字: