CSDN:華為昇騰AI全棧知識深入解讀，師資培訓沙龍深圳場圓滿落幕！

2020-08-17 16:12

頭圖 | 視覺中國

極度缺乏AI人才，已成為中國人工智能產業(yè)發(fā)展道路上的瓶頸。在國家政策的支持下，眾高校初建AI專業(yè)者甚多，但高校教師應掌握哪些知識儲備來傳道授業(yè)，大家都是“摸著石頭過河”。

將高校AI人才培養(yǎng)教學大綱與廠商成熟落地實踐相結合，無疑是一個合理的教學方式。

華為昇騰學院師資培訓沙龍，就為中國產學研相結合提供了一個高校教師和華為專家的交流平臺！

8月11-12日，華為昇騰學院在深圳舉行了為期兩天的師資培訓沙龍活動，面向廣大高校教師提供昇騰全棧全場景AI技術知識點賦能培訓。與會老師學完課程后，可以把學習到的昇騰AI知識融入到高校學生的課程培養(yǎng)體系中。

華為的專家們?yōu)楦咝＝處煄砹四男┚史窒砟?？我們來總結一下這兩天的課程集錦。

Day 1

華為云與計算BG高?？蒲信c人才發(fā)展部部長曾偉勝：AI教育者是先行者，是領路人

為了讓學生緊跟最新的技術潮流，華為希望能夠與高校合作，從教學、科研、學生就業(yè)，乃至整個產業(yè)落地形成一個完整的閉環(huán)。為推進產學研結合，華為將聯(lián)合教育界廣大力量，把實踐基地、大賽、慕課等結合在一起，在場的各位教師將會是華為與高校教學合作的第一批實踐者。

智能是新基建的底座，AI教育從業(yè)者就是種子，以星星之火燎原，不斷影響其他學科。在座的AI教育者是先行者，是領路人，希望華為能夠與教育領域的頂尖人才一起，從事這項有意義和使命感的事。

華為昇騰計算業(yè)務CTO周斌：這10年，是計算架構創(chuàng)新的黃金時代

華為昇騰計算業(yè)務CTO周斌以主題演講正式開啟了培訓課程。他表示，因為其本身也曾是一名高校老師，所以更明確應該如何利用華為昇騰計算產業(yè)中提供的資源與高校的教學科研結合起來。

計算產業(yè)是一個變化非?？斓漠a業(yè)，新的技術層出不窮，尤其是以AI為代表的新計算體系的出現(xiàn)，讓以前學習的知識很快落伍。

為這10年的計算機體系結構做一個定義，是計算架構創(chuàng)新的黃金時代。原因也很簡單，芯片級摩爾定律基本上將走到盡頭，物理限制導致單芯片計算性能提升遇到瓶頸。所以，AI計算面臨的核心問題，在于如何與教學和產業(yè)結合，讓計算系統(tǒng)最大化地發(fā)揮價值。

全愛科技王中山：華為&全愛科技機器視覺平臺聯(lián)合解決方案

華為&全愛科技機器視覺平臺聯(lián)合解決方案是全愛科技基于Atlas200研發(fā)的一款教育平臺和半導體AI開發(fā)平臺。

在AI+云+大數(shù)據(jù)+5G的快速發(fā)展下，機器視覺產業(yè)正在經歷第四次新物種爆炸，在這個背景下，全愛基于華為昇騰Atlas200和全流程開發(fā)工具鏈MindStudio 2.0創(chuàng)建了全愛機器視覺平臺。這是一個國產自主、開源開放、模塊化、平臺化的產品，華為提供半導體和嵌入式/AI教育開發(fā)工具，可實現(xiàn)教育平臺自主可控，廣泛應用于教學科研、智能硬件、智慧安防、自動駕駛等產業(yè)應用。

全愛與華為的聯(lián)合解決方案展示了昇騰處理器應用的廣泛可能性，希望未來會有更多人認識和了解昇騰處理器可以用來做什么，預祝開發(fā)者和教育從業(yè)者能夠與鯤鵬共展翅昇騰九萬里！

人工智能課程套件

人工智能課程套件是華為提供的輔助高校人工智能專業(yè)多門專業(yè)課程教學實踐的方案套件?；谌A為豐富的人工智能項目實踐經驗，匯集昇騰AI前沿技術，融合實驗環(huán)境為高校提供的一站式、多領域的實驗案例集和通用參考課件，輔助專業(yè)學科建設，攜手高校共塑精品課堂。

講師：王豪聰華為人工智能高級培訓講師

昇騰課程設計理論與實踐相結合，產業(yè)落地與高校教學大綱緊密聯(lián)系，尤其強調實踐，共設計了10門課程的知識點，包括人工智能導論、機器學習、深度學習、計算機視覺、自然語言處理、語音識別智能芯片與應用、智能系統(tǒng)與應用等。

昇騰AI處理器之所以厲害，在于其獨特的軟硬件架構！

下午，培訓課程介紹了昇騰AI全棧全場景解決方案、昇騰AI處理器硬件和軟件架構、以及昇騰AI處理器產品形態(tài)和Mind Studio 2.0 工具鏈。

講師：圖靈解決方案架構師符秋杰

昇騰AI處理器的硬件架構基于達芬奇AI技術架構。達芬奇架構的獨特之處，主要在于它3D cube的三維彈性立方體設計，這樣的設計能夠極大地提高計算性能。另外，達芬奇架構在端、邊、云側共用一套架構，這意味著軟件棧統(tǒng)一，在任意場景下開發(fā)的應用都可以很便利地遷移到其他場景。

昇騰AI處理器的軟件架構由若干子系統(tǒng)組成：

GE子系統(tǒng)
FE子系統(tǒng)
AICPU子系統(tǒng)
HCCL子系統(tǒng)，這是一個集成通信的引擎，包括適配器等部分。
TBE子系統(tǒng)，算子層架構，定義圖推導算子信息，管理算子信息，算子融合規(guī)則等，使應用在各種場景可以運行。
Runtime&TS子系統(tǒng)，運行時和任務調度系統(tǒng)，主要為神經網絡任務分配提供資源管理通道。
DVPP子系統(tǒng)，視覺處理模塊，為AI core和AICPU提供服務，作為整個軟件流程中的編解碼和圖像處理模塊，為神經網絡發(fā)揮預處理輔助功能。
ACL子系統(tǒng)，接口調用流程，根據(jù)應用開發(fā)中的典型功能抽象出主要的接口調用流程，寶庫ACL初始化、運行管理資源申請、算子調用、模型推理、運行管理資源釋放、ACL去初始化。

如今，昇騰AI處理器已廣泛應用于Atlas 200、Atlas 300、Atlas 800 AI 服務器等華為AI解決方案中，并在政府、醫(yī)療、公共安全和制造等多個領域有成熟的行業(yè)應用落地。

昇騰開發(fā)環(huán)境搭建與工具鏈Mind Studio 2.0

這一節(jié)課程介紹了昇騰的開發(fā)&運行環(huán)境搭建（基于Atlas200DK或者Ai1）與工具鏈（昇騰軟件棧集成開發(fā)工具Mind Studio），并基于具體案例進行應用開發(fā)實戰(zhàn)，講解了使用ACL接口進行應用開發(fā)的基本流程和實現(xiàn)方法。

講師：昇騰布道師毛紅朝

在具體開發(fā)過程中，高校教學場景用到最多的是基于Atlas 300的Ai1推理彈性云服務和Atlas 200 DK開發(fā)者套件。

推理平臺Ai1彈性云服務器

講師在現(xiàn)場展示了基于Ai1推理云服務的昇騰開發(fā)環(huán)境部署方法，包括安裝驅動包、固件、環(huán)境依賴、環(huán)境驗證等。現(xiàn)場與會老師在30分鐘左右即可完成整個開發(fā)環(huán)境部署。

Atlas 200 DK（開發(fā)者套件）

Atlas開發(fā)者套件 Atlas 200 Developer Kit是一個以Ascend 310處理器為核心的開發(fā)者板形態(tài)的產品，主要功能是將Ascend310處理器的核心功能通過板上的外圍接口開放出來，方便用戶快速簡捷地接入并使用Ascend 310強大的計算能力。

Atlas 200 DK的環(huán)境部署流程包括環(huán)境準備、系統(tǒng)SD卡制作、Mind Studio 部署等幾個步驟。

運行環(huán)境即Atlas200DK開發(fā)者板環(huán)境，此環(huán)境系統(tǒng)是基于ubuntu-arm的小型片上系統(tǒng)，運行環(huán)境需要通過制作SD卡，將運行代碼和系統(tǒng)程序燒寫到開發(fā)者板上。

開發(fā)板制卡并啟動成功后，需要將開發(fā)板連接到開發(fā)環(huán)境的ubuntu服務器，然后在ubuntu服務器上通過ssh登錄開發(fā)者板，進行運行環(huán)境配置。

Mind Studio工具鏈

在本周剛剛結束的華為HAI 2020大會上，華為正式發(fā)布了最新的MindStudio 2.0版本，宣布了一些重大功能更新與增加。

Mind Studio是一套基于IntelliJ框架的開發(fā)工具鏈平臺，提供了應用開發(fā)、調試、Profiling工具、模型轉換、模型可視化功能，以及對開發(fā)者來說至關重要的精度對比、自定義算子開發(fā)等重要功能，同時還提供了網絡移植、優(yōu)化和分析功能，方便用戶開發(fā)應用程序。

講師在培訓中講到，Mind Studio只能安裝在Ubuntu服務器上，開發(fā)者可以在Ubuntu服務器上使用原生桌面自帶的終端gnome-terminal進行安裝，也可以在Windows PC上通過SSH登錄到Ubuntu服務器進行安裝。另外，因為Mind Studio是一款GUI程序，所以在Windows PC上通過SSH登錄到Ubuntu服務器進行安裝時，需要使用集成了X schmerver的SSH終端（比如MobaXterm)。

昇騰應用案例實戰(zhàn)

最后，毛紅朝現(xiàn)場展示并講解了部分昇騰應用案例，例如黑白電影上色，其實現(xiàn)是在基于昇騰AI處理器在神經網絡上進行模型訓練和上色處理。

Day 2

基于昇騰Ai1推理云服務的ACL開發(fā)實踐

昇騰AI處理器分為訓練和推理兩種，其中推理芯片支持將訓練好的離線模型通過ACL（Ascend Computing Language）編程框架部署到具體業(yè)務場景，并對深度神經網絡進行特殊優(yōu)化。本節(jié)課程主要介紹如何基于昇騰Ai1推理云服務的ACL進行開發(fā)。

講師：華為海思技術專家杜鵬

ACL有Python和C++兩套接口，主要處理離線模型，與訓練是解耦的。

ACL開發(fā)流程包括模型初始化、申請計算資源、加載模型等步驟。

TBE算子開發(fā)實踐

對于不支持的算子，華為提供TBE算子開發(fā)工具，用戶可以用TBE自定義開發(fā)算子，嵌入到應用中，幫助開發(fā)者高效完成目前主流深度神經網絡計算。

TBE基于開源的TVM深度學習編譯棧，有兩種開發(fā)方式可供選擇，一是TBE DSL，適用于入門開發(fā)者，TBE工具提供自動優(yōu)化機制，給出較優(yōu)的調度流程；二是TIK，適用于高級開發(fā)者，接口偏底層，用戶需要自己控制數(shù)據(jù)流和算子的硬件調度。

現(xiàn)場還展示了TBE算子開發(fā)流程、代碼結構、執(zhí)行環(huán)境等，現(xiàn)場教師聯(lián)網實操和練習。

MindSpore開源AI計算框架

針對業(yè)界AI開發(fā)者所面臨的開發(fā)門檻高、運行成本高、部署難度大等挑戰(zhàn)，MindSpore提出對應的三點技術創(chuàng)新點：新編程范式、新執(zhí)行模式、新協(xié)同模式，幫助開發(fā)者更簡單、更高效實現(xiàn)AI應用的開發(fā)和部署。

講師：華為中央軟件院技術專家劉微

MindSpore集成與借鑒了業(yè)界主流框架的優(yōu)勢，能夠提供全場景統(tǒng)一的API，可進行自動微分、自動并行、自動調優(yōu)；MindSpore IR計算圖表達可以執(zhí)行深度圖優(yōu)化等。

相比同類產品，MindSpore有三個特點，一是開發(fā)態(tài)友好，AI算法即代碼；運行高效，與昇騰芯片對接；部署靈活，全場景按需協(xié)同。

在架構層面，MindSpore由Mind Extend、MindExpress、MindCompiler、MIndRT等部分組成。

MindExpress是一個Python前端，包含High-Level和Low-Level兩層API設計，高級API提供訓練推理接口，Low-Level提供基礎的Tensor、優(yōu)化器等API，Executor則提供計算的執(zhí)行控制。
MindCompiler是MindSpore的一個重要的子系統(tǒng)，很多核心系統(tǒng)基于這個系統(tǒng)，提供面向Mind IR的圖級即時編譯能力。
Mind IR是MindSpore的一個核心中間表達，通過嵌套式的表達，很簡便地支持不同語言的推導。
MindRT 子系統(tǒng)是一個統(tǒng)一的運行時系統(tǒng)，可與昇騰芯片進行深度優(yōu)化，整圖下沉到卡上（on-device執(zhí)行），減小host-device交互開銷，提高深度學習訓練的效率。
MindData子系統(tǒng)負責高效執(zhí)行訓練數(shù)據(jù)處理pipeline，與計算形成流水，數(shù)據(jù)及時導入訓練。它的關鍵功能包括用流水線+并行方式，可提高數(shù)據(jù)處理吞吐量。數(shù)據(jù)加載上，MindRecord自帶元數(shù)據(jù)，通過聚合存儲讓數(shù)據(jù)檢索更快。用戶還可以自定義Python算子，進行靈活定制。
MindInsight子系統(tǒng)是MindSpore的調試調優(yōu)子系統(tǒng)，提供訓練過程可視化、模型溯源、debugger和性能profiling功能。
MindArmour子系統(tǒng)可針對可信AI的各個領域提供全面、有效、易用的評測工具和增強方法

目前，基于MindSpore的華為云訓練服務，已服務于華為內部各AI部門，并成為華為數(shù)據(jù)通信網絡平臺智能控流的支撐，解決擁塞精準控制的難題。

ModelArts AI開發(fā)平臺及環(huán)境配置

ModelArts是華為的一站式AI開發(fā)平臺，提供數(shù)據(jù)預處理、模型訓練、自動學習和模型部署等能力，為不同級別開發(fā)者提供AI開發(fā)方案。MindSpore支持ModelArts和本地硬件平臺等多種使用方式，最佳匹配Ascend硬件平臺，同時也支持在CPU和GPU硬件平臺上安裝使用。

講師：昇騰布道師董永漢

ModelArts模型訓練模塊中包含ExeML引擎，可自動學習三步創(chuàng)建AI模型，適合沒有基礎的小白開發(fā)者。另外，ModelArts提供大量預置算法進行遷移學習，所有模型基于開源或行業(yè)數(shù)據(jù)及訓練完畢，實現(xiàn)精度和速度優(yōu)化，一鍵訓練，簡化模型創(chuàng)建的過程。