开源 3 年,Triton 引颈 AI 编译器新波澜
2019 年,Philippe Tillet 等东说念主在论文「Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations」中初次提议 Triton。2020 年,Philippe Tillet 加入 OpenAI,持续联结着 Triton 项目标设立,并于 2021 岁首次公设立布了 Triton 编译器。
论文地址:https://dl.acm.org/doi/10.1145/3315508.3329973
Triton 编译器旨在让说合东说念主员和设立者好像以更少的代码量,已毕与大众级 CUDA 相忘形的性能,无论是在国外已经国内的深度学习发展进度中皆备受暖和。
Triton 的高档架构,起原:OpenAI 官网 用于指定分块要领并将其编译为高效的 GPU 代码
自 2021 年开源以来,Triton 以其超卓的性能和机动性,飞速在人人范围内受到粗犷暖和和垄断。不仅被垄断于 PyTorch、Unsloth、FlagGems 等多个开源面容,更赢得了 NVIDIA、AMD、Intel、Qualcomm 等芯片巨头的放肆因循。
此外,Google、Microsoft、OpenAI、AWS 和 Meta 等 AI 领域的领军企业,也纷纷将 Triton 动作构建通达 AI 软件栈的要道技能。Triton 正在缓缓成为愈加低门槛、高可用的 AI 编译器新选项。
Triton 在 GitHub 上已被 3.8 万个面容依赖
首个无缺版 Triton 汉文文档上线
尽管 Triton 的影响力在人人 AI 领域飞速崛起,但在汉文领域,Triton 有关的贵府及资源还相对稀缺,其垄断与说合的广度和深度皆还有待拓展。基于此,HyperAI超神经社区志愿者,以开源配合的口头,耗时 3 个月、资格一译二校的严格把关,完成了 Triton 一说念文档的原土化,现已无缺上线至 https://triton.hyper.ai/。
Triton 汉文文档官方网站
Triton 汉文文档在英文文档的基础上,过程原土化架构疗养,更贴合汉文设立者的阅读风尚,提供了从 Triton 装配到设立垄断的一系列详备实用指南。
Triton | 借助这份文档,你不错:
* 零基础初学 Triton,随意聚会其中枢主见与垄断
* 深切了解 Triton 的高档特点,探索翻新旅途
* 飞速定位履行问题并获取责罚决策,进步成果
* 跟踪 Triton 前沿技能动态,紧跟技能更新
* 参与汉文文档的社区磋磨,配合共创技能生态
装配 Triton 的 2 种设施 通过 pip 装配和源码装配
文档的「援用面容」部分,网罗了部分使用 Triton 的开源和闭源明星面容,通过这些确切案例,设立者不错更深切地聚会 Triton 在骨子面容中的落地垄断,掌持其优化及会通技能。
依赖 Triton 的有关面容
从 TVM 到 Triton:
构建多元包容的 AI 编译器社区
2022 年,HyperAI超神经上线国内首个 Apache TVM 汉文文档(点击稽察原文:TVM 汉文站矜重上线!最全机器学习模子部署「参考书」它来了),在国产芯片风起云涌高唱大进之际,咱们为国内的编译器工程师提供显然解和学习 TVM 的基础设施,同期咱们也吞并 Apache TVM PMC 冯念念远博士等东说念主,组建起国内最活跃的 TVM 汉文社区,通过线上线劣等行为,吸纳主流国产芯片厂商的参与和因循,掩饰千余位芯片设立者和编译器工程师。
TVM 汉文文档官方网站
TVM 汉文文档地址:
https://tvm.hyper.ai
两年之后,咱们但愿不休扩大社区的技能领域和内容规模,组建愈加通达、多元、包容的 AI 编译器社区,除 Apache TVM 以外,积极拥抱 LLVM、MLIR 等老牌编译器技能和有关工程师、面容,这次 Triton 汉文站的上线,也标明了咱们远程于把 AI 编译器社区「一又友圈作念大」的决心。
TVM、Triton 汉文文档仍在更新中,汉文文档动作基础设施,仅仅构建生态的第一步,在生态的上游,咱们离不开围绕 AI 编译器的设立器具、操作系统,在生态的下流更是离不开硬件制造商和处事提供商。独一构建起全链路的合作伙伴,串联起每一环、每一伙伴的确切需求,并为其镌汰壁垒、提供价值,才智创造更多合作杰出的可能。
期待更多企业伙伴的加入,共建更通达、多元、包容的 AI 编译器社区!
在 GitHub Triron 汉文:https://github.com/hyperai/triton-cn