triton.language.cumprod
1. OP 概述
简介:triton.language.cumprod 计算输入tensor沿指定轴的累积乘积,返回累积乘积结果。
triton.language.cumprod(input, axis=0, reverse=False)
2. OP 规格
2.1 参数说明
参数名 |
类型 |
说明 |
|---|---|---|
|
|
输入tensor |
|
|
沿着哪个维度进行累积乘积操作,默认为0 |
|
|
如果为True,沿反方向进行累积乘积操作 |
cumprod 函数计算沿指定轴的累积乘积(前缀乘积)。例如,对于输入 [a, b, c, d],累积乘积结果为 [a, a*b, a*b*c, a*b*c*d]。
当 reverse=True 时,计算反向累积乘积:[a*b*c*d, b*c*d, c*d, d]。
与 cumsum 不同,cumprod 没有 dtype 参数,因此在使用时需要注意数据类型的溢出问题,特别是对于整数类型的累积乘积。
2.2 支持规格
2.2.1 DataType 支持
uint8 |
int8 |
uint16 |
int16 |
uint32 |
int32 |
uint64 |
int64 |
fp16 |
fp32 |
bf16 |
bool/int1 |
|
|---|---|---|---|---|---|---|---|---|---|---|---|---|
Ascend A2/A3 |
✓ |
✓ |
× |
✓ |
× |
✓ |
× |
✓ |
✓ |
✓ |
✓ |
✓ |
GPU支持 |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
✓ |
2.2.2 Shape 支持
结论:在 Shape 方面,GPU 与 Ascend 平台无差异。
2.3 特殊限制说明
2.4 使用方法
以下示例实现了对2Dshape的tensor进行cumprod运算:
@triton.jit
def triton_kernel_2d(
out_ptr0,
in_ptr0,
dim: tl.constexpr,
reverse: tl.constexpr,
numel_x: tl.constexpr,
numel_r: tl.constexpr,
XBLOCK: tl.constexpr,
RBLOCK: tl.constexpr,
):
tl.static_assert(
numel_x == XBLOCK, "numel_x must be equal to XBLOCK in this kernel"
)
tl.static_assert(
numel_r == RBLOCK, "numel_r must be equal to RBLOCK in this kernel"
)
idx_x = tl.arange(0, XBLOCK)
idx_r = tl.arange(0, RBLOCK)
idx = idx_x[:, None] * numel_r + idx_r[None, :]
x = tl.load(in_ptr0 + idx)
ret = tl.cumprod(x, axis=dim, reverse=reverse)
tl.store(out_ptr0 + idx, ret)