Harry Mellor 3d925165f2

Add example scripts to documentation (#4225) ...

Co-authored-by: Harry Mellor <hmellor@oxts.com>

2024-04-22 16:36:54 +00:00

..

fp8

…

production_monitoring

…

api_client.py

…

gradio_openai_chatbot_webserver.py

…

gradio_webserver.py

…

llava_example.py

…

llm_engine_example.py

…

multilora_inference.py

…

offline_inference_distributed.py

…

offline_inference_neuron.py

…

offline_inference_with_prefix.py

…

offline_inference.py

…

openai_chat_completion_client.py

Add example scripts to documentation (#4225)

2024-04-22 16:36:54 +00:00

openai_completion_client.py

…

template_alpaca.jinja

…

template_baichuan.jinja

…

template_chatglm2.jinja

…

template_chatglm.jinja

…

template_chatml.jinja

…

template_falcon_180b.jinja

…

template_falcon.jinja

…

template_inkbot.jinja

…

tensorize_vllm_model.py

…