Skip to content

AArch64 status

[bot] vpirogov edited this page Oct 28, 2025 · 160 revisions

AArch64 Testing Status

Unit test results

c6g

✅ unit tests passed

c7g

✅ unit tests passed

c8g

✅ unit tests passed

Performance test results

c7g

problem oneDNN (v3.9) time(ms) oneDNN (f9d36d) time(ms) speedup (>1 is faster)
eltwise alg=relu-dst--mode=P --eltwise --alg=relu-dst --alpha=0 --beta=0 384x384
0.00244 0.00256 $${\color{red}0.952\times}$$
reorder sdt=f32 ddt=bf16--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=bf16 --stag=ba --dtag=BA8b4a 384x384
0.00854 0.00537 $${\color{green}1.59\times}$$
reorder sdt=f32 ddt=bf16--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=bf16 --stag=ba --dtag=BA4b4a 384x384
0.0083 0.00537 $${\color{green}1.55\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=abx --dtag=abx 8x256x7x7
0.00391 0.00244 $${\color{green}1.6\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=axb --dtag=axb 8x256x7x7
0.00391 0.00244 $${\color{green}1.6\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=axb --dtag=aBx4b 8x256x7x7
0.00464 0.00317 $${\color{green}1.46\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx4b --dtag=axb 8x256x7x7
0.00464 0.00293 $${\color{green}1.58\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00391 0.00244 $${\color{green}1.6\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00464 0.00269 $${\color{green}1.73\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00439 0.00269 $${\color{green}1.64\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00391 0.00244 $${\color{green}1.6\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=axb --dtag=axb 8x256x7x7
0.0061 0.00464 $${\color{green}1.32\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=axb --dtag=aBx4b 8x256x7x7
0.011 0.00537 $${\color{green}2.05\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx4b --dtag=axb 8x256x7x7
0.011 0.00513 $${\color{green}2.14\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.0061 0.00464 $${\color{green}1.32\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.011 0.00488 $${\color{green}2.25\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.011 0.00488 $${\color{green}2.25\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.0061 0.00464 $${\color{green}1.32\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=abx --dtag=abx 8x256x7x7
0.00464 0.00317 $${\color{green}1.46\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=axb --dtag=axb 8x256x7x7
0.00464 0.00317 $${\color{green}1.46\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=axb --dtag=aBx4b 8x256x7x7
0.00732 0.00366 $${\color{green}2\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx4b --dtag=axb 8x256x7x7
0.00732 0.00342 $${\color{green}2.14\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00464 0.00317 $${\color{green}1.46\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00732 0.00342 $${\color{green}2.14\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00708 0.00342 $${\color{green}2.07\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00464 0.00317 $${\color{green}1.46\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=abx --dtag=abx 8x256x7x7
0.00391 0.0022 $${\color{green}1.78\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=axb --dtag=axb 8x256x7x7
0.00391 0.00195 $${\color{green}2\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=axb --dtag=aBx4b 8x256x7x7
0.00464 0.00317 $${\color{green}1.46\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx4b --dtag=axb 8x256x7x7
0.00464 0.00293 $${\color{green}1.58\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00391 0.0022 $${\color{green}1.78\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00439 0.00269 $${\color{green}1.64\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00439 0.00269 $${\color{green}1.64\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00391 0.0022 $${\color{green}1.78\times}$$

c8g

problem oneDNN (v3.9) time(ms) oneDNN (49cd99) time(ms) speedup (>1 is faster)
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 12x128x64:12x64x128-n"encoder:QK-matmul:12"
0.114 0.0979 $${\color{green}1.17\times}$$
matmul dt=s8:s8:f32 bia-dt=f32--mode=P --matmul --dt=s8:s8:f32 --bia-dt=f32 --bia-mask=4 12x128x64:12x64x128-n"encoder:QK-matmul:12"
0.256 0.225 $${\color{green}1.14\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 12x128x128:12x128x64-n"encoder:WV-matmul:12"
0.0903 0.0803 $${\color{green}1.12\times}$$
matmul dt=s8:s8:f32 bia-dt=f32--mode=P --matmul --dt=s8:s8:f32 --bia-dt=f32 --bia-mask=4 12x128x128:12x128x64-n"encoder:WV-matmul:12"
0.219 0.198 $${\color{green}1.11\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 1536x128x64:1536x64x128-n"encoder:QK-matmul:12"
12.9 10.3 $${\color{green}1.25\times}$$
matmul dt=s8:s8:f32 bia-dt=f32--mode=P --matmul --dt=s8:s8:f32 --bia-dt=f32 --bia-mask=4 1536x128x64:1536x64x128-n"encoder:QK-matmul:12"
26.4 23.4 $${\color{green}1.13\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 1536x128x128:1536x128x64-n"encoder:WV-matmul:12"
8.93 7.78 $${\color{green}1.15\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 --attr-fpmath=bf16 12x128x64:12x64x128-n"encoder:QK-matmul:12"
0.115 0.0981 $${\color{green}1.17\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 --attr-fpmath=bf16 12x128x128:12x128x64-n"encoder:WV-matmul:12"
0.0896 0.0801 $${\color{green}1.12\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 --attr-fpmath=bf16 1536x128x64:1536x64x128-n"encoder:QK-matmul:12"
12.8 10.3 $${\color{green}1.24\times}$$
matmul bia-dt=f32--mode=P --matmul --bia-dt=f32 --bia-mask=4 --attr-fpmath=bf16 1536x128x128:1536x128x64-n"encoder:WV-matmul:12"
8.98 7.79 $${\color{green}1.15\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic3ih224oc64oh112kh7sh2ph3n"resnet-50:conv1"
31.5 12.4 $${\color{green}2.54\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic3ih224oc64oh112kh7sh2ph3n"resnet-50:conv1"
31.5 12.4 $${\color{green}2.54\times}$$
conv--mode=P --conv g1mb50ic3ih224oc64oh112kh7sh2ph3n"resnet-50:conv1"
32.4 12.5 $${\color{green}2.6\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic3ih224oc64oh112kh7sh2ph3n"resnet-50:conv1"
32.9 12.5 $${\color{green}2.64\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic256ih56oc512oh28kh1sh2ph0n"resnet-50:res3a-branch1"
41.1 12.4 $${\color{green}3.32\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic256ih56oc512oh28kh1sh2ph0n"resnet-50:res3a-branch1"
40.9 12.4 $${\color{green}3.31\times}$$
conv--mode=P --conv g1mb50ic256ih56oc512oh28kh1sh2ph0n"resnet-50:res3a-branch1"
41.1 12.4 $${\color{green}3.3\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic256ih56oc512oh28kh1sh2ph0n"resnet-50:res3a-branch1"
41 12.4 $${\color{green}3.3\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic256ih56oc128oh28kh1sh2ph0n"resnet-50:res3a-branch2a"
7.9 3.11 $${\color{green}2.54\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic256ih56oc128oh28kh1sh2ph0n"resnet-50:res3a-branch2a"
7.9 3.12 $${\color{green}2.53\times}$$
conv--mode=P --conv g1mb50ic256ih56oc128oh28kh1sh2ph0n"resnet-50:res3a-branch2a"
7.96 3.14 $${\color{green}2.54\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic256ih56oc128oh28kh1sh2ph0n"resnet-50:res3a-branch2a"
7.96 3.14 $${\color{green}2.54\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic512ih28oc1024oh14kh1sh2ph0n"resnet-50:res4a-branch1"
24.6 13 $${\color{green}1.89\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic512ih28oc1024oh14kh1sh2ph0n"resnet-50:res4a-branch1"
24.6 13 $${\color{green}1.89\times}$$
conv--mode=P --conv g1mb50ic512ih28oc1024oh14kh1sh2ph0n"resnet-50:res4a-branch1"
24.7 13.1 $${\color{green}1.89\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic512ih28oc1024oh14kh1sh2ph0n"resnet-50:res4a-branch1"
24.7 13.1 $${\color{green}1.89\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic512ih28oc256oh14kh1sh2ph0n"resnet-50:res4a-branch2a"
6.77 3.24 $${\color{green}2.09\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic512ih28oc256oh14kh1sh2ph0n"resnet-50:res4a-branch2a"
6.77 3.24 $${\color{green}2.09\times}$$
conv--mode=P --conv g1mb50ic512ih28oc256oh14kh1sh2ph0n"resnet-50:res4a-branch2a"
6.79 3.25 $${\color{green}2.09\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic512ih28oc256oh14kh1sh2ph0n"resnet-50:res4a-branch2a"
6.79 3.26 $${\color{green}2.09\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic1024ih14oc2048oh7kh1sh2ph0n"resnet-50:res5a-branch1"
25.4 14.4 $${\color{green}1.76\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic1024ih14oc2048oh7kh1sh2ph0n"resnet-50:res5a-branch1"
25.4 14.4 $${\color{green}1.76\times}$$
conv--mode=P --conv g1mb50ic1024ih14oc2048oh7kh1sh2ph0n"resnet-50:res5a-branch1"
25.5 14.6 $${\color{green}1.75\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic1024ih14oc2048oh7kh1sh2ph0n"resnet-50:res5a-branch1"
25.5 14.6 $${\color{green}1.75\times}$$
conv--mode=P --conv --dir=FWD-D g1mb50ic1024ih14oc512oh7kh1sh2ph0n"resnet-50:res5a-branch2a"
10.9 3.59 $${\color{green}3.05\times}$$
conv--mode=P --conv --dir=FWD-D --attr-fpmath=bf16 g1mb50ic1024ih14oc512oh7kh1sh2ph0n"resnet-50:res5a-branch2a"
11 3.59 $${\color{green}3.05\times}$$
conv--mode=P --conv g1mb50ic1024ih14oc512oh7kh1sh2ph0n"resnet-50:res5a-branch2a"
11 3.62 $${\color{green}3.03\times}$$
conv--mode=P --conv --attr-fpmath=bf16 g1mb50ic1024ih14oc512oh7kh1sh2ph0n"resnet-50:res5a-branch2a"
11 3.62 $${\color{green}3.03\times}$$
reorder sdt=f32 ddt=bf16--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=bf16 --stag=ba --dtag=BA8b4a 384x384
0.00708 0.00415 $${\color{green}1.71\times}$$
reorder sdt=f32 ddt=bf16--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=bf16 --stag=ba --dtag=BA4b4a 384x384
0.00708 0.00415 $${\color{green}1.71\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=abx --dtag=abx 8x256x7x7
0.00317 0.00195 $${\color{green}1.63\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=axb --dtag=axb 8x256x7x7
0.00317 0.00195 $${\color{green}1.63\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=axb --dtag=aBx4b 8x256x7x7
0.00366 0.00269 $${\color{green}1.36\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx4b --dtag=axb 8x256x7x7
0.00391 0.00244 $${\color{green}1.6\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00317 0.00195 $${\color{green}1.63\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00366 0.0022 $${\color{green}1.67\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00366 0.0022 $${\color{green}1.67\times}$$
reorder sdt=f32 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=f32 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00317 0.00195 $${\color{green}1.63\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=axb --dtag=axb 8x256x7x7
0.00464 0.00366 $${\color{green}1.27\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=axb --dtag=aBx4b 8x256x7x7
0.00928 0.00415 $${\color{green}2.24\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx4b --dtag=axb 8x256x7x7
0.00952 0.00415 $${\color{green}2.29\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00464 0.00366 $${\color{green}1.27\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00952 0.00391 $${\color{green}2.44\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00928 0.00391 $${\color{green}2.37\times}$$
reorder sdt=f32 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=f32 --ddt=s8 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00464 0.00366 $${\color{green}1.27\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=abx --dtag=abx 8x256x7x7
0.00317 0.00269 $${\color{green}1.18\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=axb --dtag=axb 8x256x7x7
0.00317 0.00269 $${\color{green}1.18\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=axb --dtag=aBx4b 8x256x7x7
0.00635 0.00293 $${\color{green}2.17\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx4b --dtag=axb 8x256x7x7
0.00659 0.00293 $${\color{green}2.25\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00317 0.00269 $${\color{green}1.18\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00635 0.00293 $${\color{green}2.17\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00635 0.00293 $${\color{green}2.17\times}$$
reorder sdt=s8 ddt=f32--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=f32 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00317 0.00269 $${\color{green}1.18\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=abx --dtag=abx 8x256x7x7
0.00317 0.00171 $${\color{green}1.86\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=axb --dtag=axb 8x256x7x7
0.00317 0.00171 $${\color{green}1.86\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=axb --dtag=aBx4b 8x256x7x7
0.00391 0.00269 $${\color{green}1.45\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx4b --dtag=axb 8x256x7x7
0.00391 0.00244 $${\color{green}1.6\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx4b --dtag=aBx4b 8x256x7x7
0.00317 0.00171 $${\color{green}1.86\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx4b --dtag=aBx8b 8x256x7x7
0.00366 0.0022 $${\color{green}1.67\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx8b --dtag=aBx4b 8x256x7x7
0.00366 0.0022 $${\color{green}1.67\times}$$
reorder sdt=s8 ddt=s8--mode=P --reorder --allow-enum-tags-only=false --sdt=s8 --ddt=s8 --stag=aBx8b --dtag=aBx8b 8x256x7x7
0.00317 0.00171 $${\color{green}1.86\times}$$
Clone this wiki locally