快速入门

项目介绍

Triton-Ascend是适配华为Ascend处理器的Triton优化版本，用于高效进行核函数自动调优、算子编译及部署，通过兼容Triton核心语法并针对昇腾NPU特性进行深度优化，能够帮助用户在昇腾平台上快速开发和部署高性能计算任务。

本文以Ubuntu 22.04环境下通过软件包部署方式在线安装并运行向量加法实例为例，指导用户快速上手使用Triton-Ascend。如需体验更多安装方式请阅读安装指南文档。

环境准备

硬件要求

支持的操作系统：linux（aarch64/x86_64）

支持的Ascend产品：Atlas A2/A3/950系列

最小硬件配置：单卡32GB内存（推荐）

软件依赖

确定CANN、Python和TorchNPU软件版本并安装。其中，可以参考昇腾社区官网《CANN快速安装》 完成驱动与固件安装。

• CANN版本：9.1.0

• Python版本：python3.11

• TorchNPU版本：2.7.1.post8

注：更多配套关系请参考版本说明表。

快速安装

pip install triton-ascend --extra-index-url=https://mirrors.huaweicloud.com/ascend/repos/pypi

快速开始

运行tutorials中向量加法实例验证结果

向量加法实例：01-vector-add.py 通过对比Triton算子与PyTorch原生计算的输出结果，证明昇腾NPU设备可正确调用Triton算子并保证计算精度。

# 设置CANN环境变量（以root用户默认安装路径`/usr/local/Ascend`为例）
source /usr/local/Ascend/ascend-toolkit/set_env.sh
# 拉取triton-ascend源码仓及用例
git clone https://github.com/triton-lang/triton-ascend.git
# 运行tutorials实例
python3 ./triton-ascend/third_party/ascend/tutorials/01-vector-add.py

观察到类似的输出即说明环境配置正确。

tensor([0.8329, 1.0024, 1.3639,  ..., 1.0796, 1.0406, 1.5811], device='npu:0')
tensor([0.8329, 1.0024, 1.3639,  ..., 1.0796, 1.0406, 1.5811], device='npu:0')
The maximum difference between torch and triton is 0.0