昇騰AI處理器CANN架構(gòu)與編程

引言00
第1章昇騰AI基礎(chǔ)00
1.1人工智能與深度學(xué)習(xí)00
1.1.1人工智能簡(jiǎn)史00
1.1.2深度學(xué)習(xí)概述00
1.2達(dá)芬奇架構(gòu)00
1.2.1計(jì)算單元00
1.2.2存儲(chǔ)系統(tǒng)0
1.2.3控制單元0
1.2.4指令集設(shè)計(jì)0
1.2.5卷積加速計(jì)算實(shí)例0
1.3昇騰AI處理器0
1.3.1昇騰310處理器0
1.3.2昇騰910處理器0
1.4Atlas硬件計(jì)算平臺(tái)0
1.4.1模組(Atlas 200)與開(kāi)發(fā)者套件(Atlas 200DK)0
1.4.2Atlas 300板卡0
1.4.3Atlas 500智能小站0
1.4.4服務(wù)器(Atlas 800/Atlas 500 Pro)0
1.4.5Atlas 900 AI集群0
1.5本章小結(jié)0
第2章昇騰AI異構(gòu)計(jì)算架構(gòu)CANN0
2.1CANN概述0
2.2昇騰計(jì)算圖0
2.3運(yùn)行架構(gòu)0
2.3.1訓(xùn)練場(chǎng)景運(yùn)行架構(gòu)0
2.3.2推理場(chǎng)景運(yùn)行架構(gòu)0
2.4開(kāi)發(fā)環(huán)境安裝0
2.5全流程開(kāi)發(fā)0
2.5.1開(kāi)發(fā)工具鏈0
2.5.2典型開(kāi)發(fā)流程0
2.6全流程開(kāi)發(fā)工具鏈MindStudio0
2.6.1MindStudio簡(jiǎn)介0
2.6.2模型開(kāi)發(fā)0
2.6.3應(yīng)用開(kāi)發(fā)與調(diào)優(yōu)0
2.6.4算子開(kāi)發(fā)0
2.7本章小結(jié)0
昇騰AI處理器CANN架構(gòu)與編程
目錄
第3章CANN自定義算子開(kāi)發(fā)0
3.1TBE開(kāi)發(fā)概述0
3.1.1算子基本概念0
3.1.2TBE基本概念0
3.1.3TBE開(kāi)發(fā)方式與流程0
3.2TBE DSL算子開(kāi)發(fā)0
3.2.1開(kāi)發(fā)環(huán)境準(zhǔn)備0
3.2.2DSL的API接口0
3.2.3DSL算子開(kāi)發(fā)示例0
3.2.4算子原型定義與算子信息定義0
3.2.5算子適配插件開(kāi)發(fā)與算子編譯及部署0
3.2.6算子單元測(cè)試0
3.2.7算子系統(tǒng)測(cè)試
3.3TBE TIK算子開(kāi)發(fā)
3.3.1TIK的適用場(chǎng)景
3.3.2TIK算子開(kāi)發(fā)示例
3.3.3算子的性能優(yōu)化
3.4AI CPU算子開(kāi)發(fā)
3.5本章小結(jié)
第4章昇騰計(jì)算語(yǔ)言
4.1AscendCL編程模型
4.1.1基本概念
4.1.2邏輯架構(gòu)
4.1.3線程模型
4.1.4內(nèi)存模型
4.2資源管理
4.2.1初始化管理
4.2.2Device管理
4.2.3Context管理
4.2.4Stream管理
4.2.5內(nèi)存管理
4.3模型加載與執(zhí)行
4.3.1模型加載
4.3.2模型執(zhí)行
4.3.3設(shè)置動(dòng)態(tài)Batch/動(dòng)態(tài)分辨率/動(dòng)態(tài)AIPP/動(dòng)態(tài)維度
4.3.4準(zhǔn)備模型執(zhí)行的輸入/輸出數(shù)據(jù)結(jié)構(gòu)
4.4算子功能開(kāi)發(fā)
4.4.1算子功能開(kāi)發(fā)典型流程
4.4.2封裝成AscendCL的算子
4.4.3未被封裝成AscendCL的算子
4.5輔助功能
4.5.1同步/異步
4.5.2AI Core異常信息獲取
4.5.3日志管理
4.5.4Profiling性能數(shù)據(jù)采集
4.6高級(jí)功能
4.6.1圖開(kāi)發(fā)
4.6.2分布式開(kāi)發(fā)
4.6.3融合規(guī)則開(kāi)發(fā)
4.7本章小結(jié)
第5章CANN模型訓(xùn)練
5.1深度學(xué)習(xí)訓(xùn)練框架
5.1.1MindSpore
5.1.2TensorFlow
5.1.3PyTorch
5.1.4主流框架對(duì)比
5.2深度學(xué)習(xí)訓(xùn)練流程
5.2.1數(shù)據(jù)處理
5.2.2模型搭建與訓(xùn)練配置
5.2.3訓(xùn)練網(wǎng)絡(luò)與保存模型
5.3CANN訓(xùn)練實(shí)例之MindSpore
5.3.1環(huán)境搭建
5.3.2ResNet50實(shí)現(xiàn)圖像分類
5.3.3高階技巧
5.4CANN訓(xùn)練框架之其他框架
5.4.1CANN與TensorFlow的適配原理
5.4.2使用TensorFlow訓(xùn)練ResNet50
5.4.3CANN與PyTorch的適配原理
5.4.4使用PyTorch訓(xùn)練ResNet50
5.5網(wǎng)絡(luò)模型遷移和在線推理
5.5.1模型遷移和在線推理流程
5.5.2性能分析工具——Profiling
5.5.3算子自動(dòng)調(diào)優(yōu)工具——AutoTune
5.5.4精度分析工具——Data Dump
5.6本章小結(jié)
第6章CANN模型部署
6.1模型部署概述
6.1.1模型部署全流程
6.1.2調(diào)用AscendCL實(shí)現(xiàn)推理執(zhí)行
6.2CANN的數(shù)字視覺(jué)預(yù)處理模塊
6.2.1DVPP工作原理
6.2.2DVPP使用方法
6.3CANN的模型轉(zhuǎn)換工具
6.3.1ATC工具工作原理
6.3.2ATC工具使用方法
6.3.3AIPP
6.3.4使用MindStudio完成模型轉(zhuǎn)換
6.4CANN的昇騰模型壓縮工具
6.4.1模型量化原理
6.4.2昇騰模型壓縮工具簡(jiǎn)介
6.5CANN的模型部署實(shí)例
6.5.1TensorFlow模型推理——以ResNet50為例
6.5.2MindSpore模型推理——以Faster RCNN為例
6.5.3PyTorch模型推理——以Transformer為例
6.6本章小結(jié)
第7章行業(yè)應(yīng)用實(shí)例
7.1個(gè)性化影視推薦系統(tǒng)全流程開(kāi)發(fā)實(shí)例
7.1.1實(shí)例簡(jiǎn)介
7.1.2系統(tǒng)總體設(shè)計(jì)
7.1.3系統(tǒng)詳細(xì)設(shè)計(jì)與實(shí)現(xiàn)
7.1.4實(shí)例系統(tǒng)部署
7.2基于文字感知的智能巡檢機(jī)器人全流程開(kāi)發(fā)實(shí)例
7.2.1實(shí)例簡(jiǎn)介
7.2.2系統(tǒng)總體設(shè)計(jì)
7.2.3系統(tǒng)詳細(xì)設(shè)計(jì)與實(shí)現(xiàn)
7.2.4實(shí)例系統(tǒng)部署
7.3本章小結(jié)