triton.language.semantic.less_equal
1. OP 概述
简介:用于比较两个张量的元素, 与<=等价。
函数原型:
triton.language.semantic.less_equal(
input: tl.tensor,
other: tl.tensor,
builder: ir.builder
) -> tl.tensor
作为tensor的内置运算符使用, 如x<=y。
2. OP 规格
2.1 参数说明
参数名 |
类型 |
说明 |
|---|---|---|
|
|
张量数据, 左操作数, 代表要进行比较的主数据 |
|
|
张量数据, 右操作数, 与 |
|
- |
保留参数,暂不支持外部调用 |
返回值:
tl.tensor:同input的shape的张量
2.2 支持规格
2.2.1 DataType 支持
int8 |
int16 |
int32 |
uint8 |
uint16 |
uint32 |
uint64 |
int64 |
fp16 |
fp32 |
fp64 |
bf16 |
bool |
|
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
GPU |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
Ascend A2/A3 |
√ |
√ |
√ |
× |
× |
× |
× |
√ |
√ |
√ |
× |
√ |
√ |
结论:Triton-Ascend 对比 GPU 暂不支持 uint8/uint16/uint32/uint64、fp64。
2.2.2 Shape 支持
支持维度范围 |
|
|---|---|
GPU |
无限制 |
Ascend A2/A3 |
无限制 |
结论:在 Shape 方面, GPU 与 Ascend 平台无差异。
2.3 特殊限制说明
相对社区能力缺失且无法实现
Triton-Ascend 对比 GPU 缺失 fp64 的支持能力,uint8/uint16/uint32/uint64 类型支持开发中。
2.4 使用方法
以下示例实现了对三维张量x0、x1做小于等于运算:
@triton.jit
def triton_le_3d(in_ptr0, in_ptr1, out_ptr0, L: tl.constexpr, M: tl.constexpr, N: tl.constexpr):
lblk_idx = tl.arange(0, L)
mblk_idx = tl.arange(0, M)
nblk_idx = tl.arange(0, N)
idx = lblk_idx[:, None, None] * N * M + mblk_idx[None, :, None] * N + nblk_idx[None, None, :]
x0 = tl.load(in_ptr0 + idx)
x1 = tl.load(in_ptr1 + idx)
ret = x0 <= x1
odx = lblk_idx[:, None, None] * N * M + mblk_idx[None, :, None] * N + nblk_idx[None, None, :]
tl.store(out_ptr0 + odx, ret)