triton.language.semantic.greater_than
1. OP 概述
简介:用于比较两个张量的元素,与>等价。
triton.language.semantic.greater_than(
input: tl.tensor,
other: tl.tensor,
builder: ir.builder
) -> tl.tensor
作为tensor的内置运算符使用,如x>y。
2. OP 规格
2.1 参数说明
参数名 |
类型 |
说明 |
|---|---|---|
|
|
张量数据,左操作数,代表要进行比较的主数据 |
|
|
张量数据,右操作数,与 |
|
- |
保留参数,暂不支持外部调用 |
返回值:
tl.tensor:同input的shape的张量
2.2 支持规格
2.2.1 DataType 支持
int8 |
int16 |
int32 |
uint8 |
uint16 |
uint32 |
uint64 |
int64 |
fp16 |
fp32 |
fp64 |
bf16 |
bool |
|
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
GPU |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
√ |
Ascend A2/A3 |
√ |
√ |
√ |
√ |
× |
× |
× |
√ |
√ |
√ |
× |
√ |
√ |
结论:Ascend 对比 GPU 缺失 uint16/uint32/uint64、fp64 的支持能力。
2.2.2 Shape 支持
支持维度范围 |
|
|---|---|
GPU |
无限制 |
Ascend A2/A3 |
无限制 |
结论:在 Shape 方面,GPU 与 Ascend 平台无差异。
2.3 特殊限制说明
相对社区能力缺失且无法实现
Ascend 对比 GPU 缺失 uint16/uint32/uint64、fp64 的支持能力。
2.4 使用方法
以下示例实现了对三维张量x0、x1做大于运算:
@triton.jit
def triton_gt_3d(in_ptr0, in_ptr1, out_ptr0, L: tl.constexpr, M: tl.constexpr, N: tl.constexpr):
lblk_idx = tl.arange(0, L)
mblk_idx = tl.arange(0, M)
nblk_idx = tl.arange(0, N)
idx = lblk_idx[:, None, None] * N * M + mblk_idx[None, :, None] * N + nblk_idx[None, None, :]
x0 = tl.load(in_ptr0 + idx)
x1 = tl.load(in_ptr1 + idx)
ret = x0 > x1
odx = lblk_idx[:, None, None] * N * M + mblk_idx[None, :, None] * N + nblk_idx[None, None, :]
tl.store(out_ptr0 + odx, ret)
3. 语义GAP
相对社区能力缺失但能开发支持
可以考虑支持uint8类型。