Aitrainee | 公众号：AI进修生

Hi，这里是Aitrainee，欢迎阅读本期新文章。

LitServe是一款易于使用且灵活的服务引擎，适用于基于 FastAPI 构建的 AI 模型。批处理、流式处理和 GPU 自动扩缩等功能让你无需为每个模型重建 FastAPI 服务器。

LitServe 特点

LitServe 针对 AI 工作负载进行了优化，具有专门的多任务处理功能，速度比 FastAPI 至少提高 2 倍。

借助批处理和 GPU 自动缩放等附加功能，LitServe 可以高效扩展，处理比 FastAPI 和 TorchServe 更多的并发请求，从而将性能提升到 2 倍以上。

你可以在此处重现完整的基准（越高越好）。

LitServe提供的结果基于图像和文本分类 ML 任务，但性能优势扩展到其他机器学习任务，例如嵌入、LLM 服务、音频处理、分割、对象检测和摘要。

? LLM 服务注意事项：对于高性能 LLM 服务（例如 Ollama/VLLM），LitServe 与 LitGPT 搭配使用或构建自定义 VLLM 类服务器时是理想之选。为了最大限度地提高 LLM 性能，建议使用 KV 缓存等优化（可通过 LitServe 轻松实现）。

各种优秀的功能都具备，而不是简单的炒作

具有非常方便简洁的服务化部署方式（根据不同AI模型定义不同的服务器）

litserve包安装也非常简单：

从大模型到语音以及视频、图像各种的模型部署示例都有：

对比你自己个人部署和他提供的云部署方案：

官网空间：Lightning

lightning空间里包含很多热门的资源博客：使用LitServe 部署Phi3.5 Vision API、使用Flux 部署图像生成API。

它可以部署各种模态的模型，从声音到图像再到视频。

图像：Flux、超分辨率、comfyui等等：

多模态的: 使用LitServe部署Phi3.5 Vision、部署Phi-3-vision-128k-instruct

一些精彩的博客：

从数据处理到部署服务一条龙的详细流程，每一个博客小方块都对应一条最佳实践：

?希望这篇文章对你有帮助，感谢阅读！如果你喜欢这系列文章请以 点赞 / 分享 / 在看 的方式告诉我，以便我用来评估创作方向。

知音难求，自我修炼亦艰

抓住前沿技术的机遇，与我们一起成为创新的超级个体

（把握AIGC时代的个人力量）

点这里?关注我，记得标星哦～

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~