|
1 | | -# Test convolution benchmarks |
| 1 | +# Test one benchmark per subcommand (conv, layernorm, matmul) |
2 | 2 | --device 0 --iter 2 conv -F 1 -n 16 -c 8 -H 8 -W 8 -k 8 -y 3 -x 3 -p 1 -q 1 -u 1 -v 1 -l 1 -j 1 --in_layout NHWC --out_layout NHWC --fil_layout NHWC --spatial_dim 2 |
3 | | ---device 0 --iter 2 conv --bf16 -F 1 -n 16 -c 16 --in_d 2 -H 8 -W 8 -k 16 --fil_d 2 -y 1 -x 1 --pad_d 0 -p 0 -q 0 --conv_stride_d 2 -u 1 -v 1 --dilation_d 1 -l 1 -j 1 --in_layout NDHWC --out_layout NDHWC --fil_layout NDHWC --spatial_dim 3 |
4 | | ---device 0 --iter 2 conv --bf16 -F 2 -n 16 -c 12 -H 8 -W 8 -k 12 -y 3 -x 3 -p 1 -q 1 -u 1 -v 1 -l 1 -j 1 -g 3 --in_layout NHWC --out_layout NHWC --fil_layout NHWC --spatial_dim 2 |
5 | | ---device 0 --iter 2 conv --fp16 -F 1 -n 16 -c 384 -H 48 -W 32 -k 384 -y 3 -x 3 -p 1 -q 1 -u 1 -v 1 -l 1 -j 1 -g 6 --in_layout NHWC --out_layout NHWC --fil_layout NHWC --spatial_dim 2 |
6 | | - |
7 | | -# Test layernorm benchmarks |
8 | 3 | --device 0 --iter 2 layernorm -X 2x3x128 -F 1 -t f32 --layout NCH |
9 | | ---device 0 --iter 2 layernorm -X 2x3x128x128 -F 1 --type bf16 --layout NHWC --elementwise_affine -e 0.01 |
10 | | - |
11 | | -# Test matmul benchmarks |
12 | 4 | --device 0 --iter 2 matmul -M 16 -N 32 -K 64 --a_type f32 --b_type f32 --out_type f32 |
13 | | ---device 0 --iter 2 matmul -M 16 -N 32 -K 64 -B 10 --bias --a_type f32 --b_type f32 --out_type f32 --bias_type f32 |
14 | | ---device 0 --iter 2 matmul -M 16 -N 32 -K 64 --transA --a_type bf16 --b_type bf16 --out_type bf16 |
15 | | ---device 0 --iter 2 matmul -M 16 -N 32 -K 64 -B 10 --transB --a_type f16 --b_type f16 --out_type f16 |
16 | 5 |
|
17 | 6 | # Test skipping benchmarks |
18 | | -[SKIP] --device 0 --iter 2 conv --bf16 -F 1 -n 16 -c 384 -H 48 -W 32 -k 384 -y 3 -x 3 -p 1 -q 1 -u 1 -v 1 -l 1 -j 1 -g 6 --in_layout NHWC --out_layout NHWC --fil_layout NHWC --spatial_dim 2 |
19 | | -[SKIP] --device 0 --iter 2 layernorm --input 2x3x128x128 -F 1 --type f16 --layout NCHW --elementwise_affine |
20 | | -[SKIP] --device 0 --iter 2 matmul -M 16 -N 32 -K 64 |
| 7 | +[SKIP] --device 0 --iter 2 conv -F 1 -n 16 -c 8 -H 8 -W 8 -k 8 -y 3 -x 3 -p 1 -q 1 -u 1 -v 1 -l 1 -j 1 --in_layout NHWC --out_layout NHWC --fil_layout NHWC --spatial_dim 2 |
21 | 8 |
|
22 | 9 | # Test empty lines and comments are ignored by the benchmark runner |
0 commit comments