一、前言
Gradio提供了直观的用户界面，当与Fastapi结合后，用户可以通过界面轻松地与模型进行交互，上传数据、获取推理结果等，使得交互性增强，提升了用户体验。
在开源大语言模型遍地开花的时代，正确的使用Gradio和Fastapi，通过两者的集成，使得模型的部署和使用过程更加简化和规范化。
第一篇开源模型应用落地-Gradio正确集成Fastapi-助力模型交互-入门篇（一）-CSDN博客，通过一个小Demo实现了***Gradio***和***Fastapi***的正确集成，本篇我们将把qwen1.5-7b-chat（*很多老铁私信反馈7b的模型太大，无法运行起来，其实可以根据实际情况选择不同规格的模型，例如qwen1.5-1.8b-chat*）集成进来，实现通过Gradio进行界面交互，通过Fastapi进行接口调用。
二、术语
2.1.Gradio
是一个用于构建交互式界面的Python库。它使得在Python中创建快速原型、构建和共享机器学习模型变得更加容易。
Gradio的主要功能是为机器学习模型提供一个即时的Web界面，
本文转载自: https://blog.csdn.net/qq839019311/article/details/139116482
版权归原作者 开源技术探险家 所有， 如有侵权，请联系我们删除。
版权归原作者 开源技术探险家 所有， 如有侵权，请联系我们删除。