昇騰AI處理器CANN架構(gòu)與編程

引言00
第1章昇騰AI基礎(chǔ)00
1.1人工智能與深度學(xué)習(xí)00
1.1.1人工智能簡史00
1.1.2深度學(xué)習(xí)概述00
1.2達(dá)芬奇架構(gòu)00
1.2.1計(jì)算單元00
1.2.2存儲系統(tǒng)0
1.2.3控制單元0
1.2.4指令集設(shè)計(jì)0
1.2.5卷積加速計(jì)算實(shí)例0
1.3昇騰AI處理器0
1.3.1昇騰310處理器0
1.3.2昇騰910處理器0
1.4Atlas硬件計(jì)算平臺0
1.4.1模組(Atlas 200)與開發(fā)者套件(Atlas 200DK)0
1.4.2Atlas 300板卡0
1.4.3Atlas 500智能小站0
1.4.4服務(wù)器(Atlas 800/Atlas 500 Pro)0
1.4.5Atlas 900 AI集群0
1.5本章小結(jié)0
第2章昇騰AI異構(gòu)計(jì)算架構(gòu)CANN0
2.1CANN概述0
2.2昇騰計(jì)算圖0
2.3運(yùn)行架構(gòu)0
2.3.1訓(xùn)練場景運(yùn)行架構(gòu)0
2.3.2推理場景運(yùn)行架構(gòu)0
2.4開發(fā)環(huán)境安裝0
2.5全流程開發(fā)0
2.5.1開發(fā)工具鏈0
2.5.2典型開發(fā)流程0
2.6全流程開發(fā)工具鏈MindStudio0
2.6.1MindStudio簡介0
2.6.2模型開發(fā)0
2.6.3應(yīng)用開發(fā)與調(diào)優(yōu)0
2.6.4算子開發(fā)0
2.7本章小結(jié)0
昇騰AI處理器CANN架構(gòu)與編程
目錄
第3章CANN自定義算子開發(fā)0
3.1TBE開發(fā)概述0
3.1.1算子基本概念0
3.1.2TBE基本概念0
3.1.3TBE開發(fā)方式與流程0
3.2TBE DSL算子開發(fā)0
3.2.1開發(fā)環(huán)境準(zhǔn)備0
3.2.2DSL的API接口0
3.2.3DSL算子開發(fā)示例0
3.2.4算子原型定義與算子信息定義0
3.2.5算子適配插件開發(fā)與算子編譯及部署0
3.2.6算子單元測試0
3.2.7算子系統(tǒng)測試
3.3TBE TIK算子開發(fā)
3.3.1TIK的適用場景
3.3.2TIK算子開發(fā)示例
3.3.3算子的性能優(yōu)化
3.4AI CPU算子開發(fā)
3.5本章小結(jié)
第4章昇騰計(jì)算語言
4.1AscendCL編程模型
4.1.1基本概念
4.1.2邏輯架構(gòu)
4.1.3線程模型
4.1.4內(nèi)存模型
4.2資源管理
4.2.1初始化管理
4.2.2Device管理
4.2.3Context管理
4.2.4Stream管理
4.2.5內(nèi)存管理
4.3模型加載與執(zhí)行
4.3.1模型加載
4.3.2模型執(zhí)行
4.3.3設(shè)置動態(tài)Batch/動態(tài)分辨率/動態(tài)AIPP/動態(tài)維度
4.3.4準(zhǔn)備模型執(zhí)行的輸入/輸出數(shù)據(jù)結(jié)構(gòu)
4.4算子功能開發(fā)
4.4.1算子功能開發(fā)典型流程
4.4.2封裝成AscendCL的算子
4.4.3未被封裝成AscendCL的算子
4.5輔助功能
4.5.1同步/異步
4.5.2AI Core異常信息獲取
4.5.3日志管理
4.5.4Profiling性能數(shù)據(jù)采集
4.6高級功能
4.6.1圖開發(fā)
4.6.2分布式開發(fā)
4.6.3融合規(guī)則開發(fā)
4.7本章小結(jié)
第5章CANN模型訓(xùn)練
5.1深度學(xué)習(xí)訓(xùn)練框架
5.1.1MindSpore
5.1.2TensorFlow
5.1.3PyTorch
5.1.4主流框架對比
5.2深度學(xué)習(xí)訓(xùn)練流程
5.2.1數(shù)據(jù)處理
5.2.2模型搭建與訓(xùn)練配置
5.2.3訓(xùn)練網(wǎng)絡(luò)與保存模型
5.3CANN訓(xùn)練實(shí)例之MindSpore
5.3.1環(huán)境搭建
5.3.2ResNet50實(shí)現(xiàn)圖像分類
5.3.3高階技巧
5.4CANN訓(xùn)練框架之其他框架
5.4.1CANN與TensorFlow的適配原理
5.4.2使用TensorFlow訓(xùn)練ResNet50
5.4.3CANN與PyTorch的適配原理
5.4.4使用PyTorch訓(xùn)練ResNet50
5.5網(wǎng)絡(luò)模型遷移和在線推理
5.5.1模型遷移和在線推理流程
5.5.2性能分析工具——Profiling
5.5.3算子自動調(diào)優(yōu)工具——AutoTune
5.5.4精度分析工具——Data Dump
5.6本章小結(jié)
第6章CANN模型部署
6.1模型部署概述
6.1.1模型部署全流程
6.1.2調(diào)用AscendCL實(shí)現(xiàn)推理執(zhí)行
6.2CANN的數(shù)字視覺預(yù)處理模塊
6.2.1DVPP工作原理
6.2.2DVPP使用方法
6.3CANN的模型轉(zhuǎn)換工具
6.3.1ATC工具工作原理
6.3.2ATC工具使用方法
6.3.3AIPP
6.3.4使用MindStudio完成模型轉(zhuǎn)換
6.4CANN的昇騰模型壓縮工具
6.4.1模型量化原理
6.4.2昇騰模型壓縮工具簡介
6.5CANN的模型部署實(shí)例
6.5.1TensorFlow模型推理——以ResNet50為例
6.5.2MindSpore模型推理——以Faster RCNN為例
6.5.3PyTorch模型推理——以Transformer為例
6.6本章小結(jié)
第7章行業(yè)應(yīng)用實(shí)例
7.1個(gè)性化影視推薦系統(tǒng)全流程開發(fā)實(shí)例
7.1.1實(shí)例簡介
7.1.2系統(tǒng)總體設(shè)計(jì)
7.1.3系統(tǒng)詳細(xì)設(shè)計(jì)與實(shí)現(xiàn)
7.1.4實(shí)例系統(tǒng)部署
7.2基于文字感知的智能巡檢機(jī)器人全流程開發(fā)實(shí)例
7.2.1實(shí)例簡介
7.2.2系統(tǒng)總體設(shè)計(jì)
7.2.3系統(tǒng)詳細(xì)設(shè)計(jì)與實(shí)現(xiàn)
7.2.4實(shí)例系統(tǒng)部署
7.3本章小結(jié)