Watch DeepSpark/DeepSparkInference

DeepSparkInference推理模型示例库甄选了216个推理大小模型示例，小模型涵盖计算机视觉，自然语言处理，语音识别等领域；大模型涉及vLLM，TGI等多种框架，并将持续扩展更多、更新的模型示例。