Wallas Henrique c27df94e1f

[Bugfix] Fix chunked prefill with model dtype float32 on Turing Devices (#9850) ...

Signed-off-by: Wallas Santos <wallashss@ibm.com>
Co-authored-by: Michael Goin <michael@neuralmagic.com>

2024-11-25 12:23:32 -05:00

..

__init__.py

…

allclose_default.py

…

conftest.py

…

quant_utils.py

…

test_activation.py

…

test_aqlm.py

…

test_attention_selector.py

…

test_attention.py

…

test_awq_marlin.py

…

test_awq_triton.py

…

test_awq.py

…

test_blocksparse_attention.py

…

test_cache.py

…

test_causal_conv1d.py

…

test_cutlass.py

…

test_encoder_decoder_attn.py

…

test_flash_attn.py

…

test_flashinfer.py

…

test_fp8_quant.py

…

test_ggml.py

…

test_gguf.py

…

test_gptq.py

…

test_int8_quant.py

…

test_layernorm.py

…

test_machete_mm.py

…

test_mamba_ssm.py

…

test_marlin_gemm.py

…

test_moe.py

…

test_permute_cols.py

…

test_pos_encoding.py

…

test_prefix_prefill.py

[Bugfix] Fix chunked prefill with model dtype float32 on Turing Devices (#9850)

2024-11-25 12:23:32 -05:00

test_rotary_embedding.py

…

test_triton_scaled_mm.py

…

test_utils.py

…

utils.py

…