(Translated by https://www.hiragana.jp/)
GitHub - hmzdtz/AISystem: AISystem 主要是指AI系统,包括AI芯片、AI编译器、AI推理和训练框架等AI全栈底层技术
Skip to content

AISystem 主要しゅようゆびAIけい统,包括ほうかつAIしんへん、AI编译、AI推理すいり训练かまちとうAIぜん栈底层技术

License

Notifications You must be signed in to change notification settings

hmzdtz/AISystem

 
 

Repository files navigation

AI System & AI Infra

文字もじ课程内容ないようただしざいいち节节补充更新こうしんつき可能かのう抽空继续更新こうしんせいざい AISys希望きぼう您多励和参与さんよ进来!!!

文字もじ课程开源ざい AISys系列けいれつ视频たくかんB 站あぶらかん,PPT 开源ざいgithub,欢迎よう!!!

课程背景はいけい

这个开源课程英文えいぶん名字みょうじさけべDeep Learning System あるもの AI System(AISys)ちゅう文名ぶんめいさけべ深度しんどがく习系统 あるもの AI けい

ほん开源课程主要しゅよう跟大一起探讨和学习人工智能、深度しんどがく习的けい统设计,而整个系统是围绕 ZOMI ざい工作こうさくとうちゅうしょ积累、くしけず、构建 AI けい统全栈的内容ないよう希望きぼう所有しょゆう关注 AI 开源课程てきこう朋友ほうゆういちおこりさがせ研究けんきゅう共同きょうどう促进がく习讨论。

AI 系统全栈

课程内容ないようだい

课程主要しゅよう包括ほうかつ以下いかろくだい块:

だいいち部分ぶぶん,AI もと础知识和 AI けい统的ぜん栈概じゅつてきAI けい统概じゅつ,以及深度しんどがく习系统的けい统性设计方法ほうほう论,主要しゅよう整体せいたい了解りょうかい AI 训练推理すいりぜん栈的体系たいけい结构内容ないよう

だい部分ぶぶんかたかくへんかいAI しんへんがい,这里就很かたかくりょう,从芯へんもと础到 AI しんへんてき范围都会とかいわたる及,しんへん设计需要じゅようこう虑上めん AI かまちてき前端ぜんたんきさきはし编译,而不停留ていりゅう在天ざいてんてん喊着つるしえい伟达,现实趴。

だいさん部分ぶぶん,进阶へんかいAI 编译原理げんりはた站在けい统设计的角度かくど思考しこうざい设计现代つくえがく习系统中需要じゅようこう虑的编译问题,とく别是ちゅう间表达乃至ないしきさきはし优化。

だいよん部分ぶぶん,实际应用推理すいりけい统与引擎,讲了ふと原理げんり身体しんたい太虚たいきょ容易ようい消化しょうか不良ふりょう,还是とくかい归到业务ほん质,让行业、くわだて业能够真せい应用おこりらい,而推理系りけい统涉及一些核心算法和注意的事情也分享下。

だい部分ぶぶんかいAI かまち核心かくしんわざしゅさきかい绍任なんいち个 AI かまち离不开的动微ぶんつう过自动微ぶんこうのうきさき就会产生表示ひょうじしん经网络的图和さんしかきさきかい绍 AI かまちぜんはしてき优化,还有最近さいきん很火てきだい模型もけい分布ぶんぷしき训练ざい AI かまちちゅうてき关键わざ术。

だいろく部分ぶぶん,汇总へんかいだい模型もけいあずか AI けいだい模型もけいもと于 AI しゅうぐんてきぜん栈软かたけん性能せいのう优化,つう最小さいしょうてきごといち块 AI しんへん组成てき AI しゅうぐん,编译使のういたうわ层的 AI かまち,训练过程需要じゅよう分布ぶんぷしき并行、あつまりぐん通信つうしんとう算法さんぽう支持しじ,而且ざいだい模型もけい领域最近さいきん续演进如智能ちのうからだとうしんわざ术。

课程设立目的もくてき

ほん课程主要しゅよう为本せい高年こうねん级、硕博研究けんきゅうせい、AI けい统从业者设计,帮助大家たいか

  1. かんせい了解りょうかい AI てき计算つくえけい统架构,并通过实际问题和あんれいらい了解りょうかい AI かんせい生命せいめい周期しゅうきてきけい统设计。

  2. かい绍前沿系统架构和 AI あい结合てき研究けんきゅう工作こうさく了解りょうかい主流しゅりゅうかまち平台ひらだいかず工具こうぐらい了解りょうかい AI けい统。

さきおさむ课程: C++/Python,计算つくえ体系たいけい结构,人工じんこう智能ちのうもと

课程部分ぶぶん

编号 名称めいしょう 具体ぐたい内容ないよう
1 AI けい 算法さんぽうかまち体系たいけい结构てき结合,形成けいせい AI けい
编号 名称めいしょう 具体ぐたい内容ないよう
1 AI 计算体系たいけい かみ经网络等 AI わざ术的计算しき计算体系たいけい
2 AI しんへんもと CPU、GPU、NPU とうしんへん体系たいけい构基础原理げんり
3 图形处理 GPU GPU てき基本きほん原理げんりえい伟达 GPU てき构发てん
4 えい伟达 GPU 详解 えい伟达 GPU てき Tensor Core、NVLink 深度しんど剖析
5 国外こくがい AI 处理 たにとく斯拉とう专用 AI 处理核心かくしん原理げんり
6 国内こくない AI 处理 さむたけ纪、ひうちげん科技かぎとう专用 AI 处理核心かくしん原理げんり
7 AI しんへん黄金おうごん 10 ねん 对 AI しんへんてき编程しき发展进行总结
编号 名称めいしょう 具体ぐたい内容ないよう
1 传统编译 传统编译 GCC あずか LLVM,LLVM 详细
2 AI 编译 AI 编译发展あずか构定义,未来みらい挑战与思考しこう
3 ぜんはし优化 AI 编译てき前端ぜんたん优化(さん融合ゆうごううちそん优化とう)
4 きさきはし优化 AI 编译てききさきはし优化(Kernel 优化、AutoTuning)
5 多面体ためんたい まちさら ing...
6 PyTorch2.0 PyTorch2.0 さい重要じゅうようてきしん特性とくせい:编译わざ术栈
编号 名称めいしょう 具体ぐたい内容ないよう
1 推理すいりけい 推理すいりけい整体せいたいかい绍,推理すいり引擎构梳
2 轻量网络 轻量しゅ网络,MobileNet とう SOTA 模型もけいかい
3 模型もけい压缩 模型もけい压缩 4 けん套,りょうふけ馏、剪枝值化
4 转换&优化 AI かまち训练きさき模型もけい进行转换,并对计算图优
5 Kernel 优化 Kernel 层、さん层优,对算うちそん、调度优化
编号 名称めいしょう 具体ぐたい内容ないよう
1 AI かまちもと AI かまちてき作用さよう、发展、编程范式
2 动微ぶん 动微ぶんてき实现方式ほうしき原理げんり
3 计算图 计算图的概念がいねん,图优、图执ぎょうひかえせいりゅうひょう
编号 名称めいしょう 具体ぐたい内容ないよう
1 だい模型もけいぜんりゅうほど だい模型もけい整体せいたい构和だい模型もけいぜんりゅうほどかい
2 AI しゅうぐん简介 AI しゅうぐんふく务器整体せいたい组成しょう关技术初たい
3 AI しゅうぐんそん かずすえそん储在 AI しゅうぐんちゅう具体ぐたいてきそん储优方案ほうあん
4 AI しゅうぐん通信つうしん 更新こうしんちゅう
5 かずすえ处理 更新こうしんちゅう
6 だい模型もけい算法さんぽう 更新こうしんちゅう
7 だい模型もけい训练 更新こうしんちゅう
8 分布ぶんぷしき并行 更新こうしんちゅう
9 だい模型もけいほろ 更新こうしんちゅう
10 だい模型もけい验证 更新こうしんちゅう
11 だい模型もけい推理すいり 更新こうしんちゅう
12 AI Agent AI Agent 智能ちのうたいつう过大模型もけいはしこう GAI

识清单

知识清单

备注

这个仓已经到达疯狂的きょうてき 10G 啦(ZOMI 所有しょゆう制作せいさく过程、こうきよし图片都原みやこばるふう提供ていきょう),如果你要 git clone かい非常ひじょうてき慢,いん此建议优さきいた Releases · chenzomi12/AISystem らいした载你需要じゅようてき内容ないよう

非常ひじょう希望きぼう您也参与さんよいた这个开源课程ちゅう,B 站给 ZOMI とめげん哦!

欢迎大家たいか使用しようてき过程ちゅう发现 bug あるものかん直接ちょくせつひさげ交代こうたい码 PR いた开源しゃ哦!

欢迎大家たいか使用しようてき过程ちゅう发现 bug あるものかん直接ちょくせつひさげ交 PR いた开源しゃ哦!

请大尊重そんちょう开源 ZOMI てき努力どりょく引用いんよう PPT てき内容ないよう请规范转载标あかり处哦!

About

AISystem 主要しゅようゆびAIけい统,包括ほうかつAIしんへん、AI编译、AI推理すいり训练かまちとうAIぜん栈底层技术

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • Jupyter Notebook 37.9%
  • SWIG 34.9%
  • Python 15.0%
  • C++ 6.5%
  • LLVM 2.4%
  • Cuda 1.9%
  • Other 1.4%