高并发请求服务端设置FastAPI和gunicorn对比

最新推荐文章于 2025-04-23 09:47:39 发布
最新推荐文章于 2025-04-23 09:47:39 发布
阅读量3.1k 收藏 3
点赞数 6
分类专栏： Notebook 文章标签： fastapi gunicorn 并发 web服务 请求
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/SPESEG/article/details/109116208
版权
本文对比了在高并发场景下使用FastAPI和gunicorn的服务端性能。通过测试发现，对于100个线程同时请求，FastAPI在读取redis时表现不佳，而采用gunicorn+flask组合，启动多个worker后，响应速度提升至20~30ms，满足高并发需求，证明gunicorn在处理并发请求上更具优势。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

问题来源：存储图文GNN召回结果。考虑到效率和响应时间，采用的是redis集群模式

将召回结果先存储在redis，然后做个服务供前端调用。

For Video Recommendation in Deep learning QQ Group 277356808

视频推荐深度学习加这个群

For Visual in deep learning QQ Group 629530787

视觉深度学习加这个，别加错

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Deploying a PyTorch Model as a REST API using FastAPI
AI天才研究院
08-03 1720
2021年，随着技术的飞速发展，越来越多的企业开始采用人工智能(AI)、机器学习(ML)及深度学习(DL)技术。其中，通过部署预训练模型作为RESTful API服务来实现对模型的即时推断，可以极大地提高产品的实用性、降低成本并促进科技创新，是各行各业都应该重视的方向。本文将以PyTorch作为示例模型，基于FastAPI构建一个可供访问的RESTful API接口，并通过Docker容器化部署该服务，使得它可以在不同的环境中运行，也可以方便地扩展和迁移到新的环境中。
fastapi gunicorn 启动报错
标竿人生的专栏
05-31 1213
fastapi 启动有多种方式 1.main 方法启动 if __name__ == '__main__': uvicorn.run(app="main:router", host="0.0.0.0", port=8000, reload=True, debug=True) 2.命令行启动 vicorn xxx:app --host=‘0.0.0.0’ --port=‘9999’ --reload=True 3.命令行启动 使用gunicorn 启动 gunicorn main:app --w
FastAPI + NGINX + Gunicorn：一步一步教你部署一个高性能的Python网页应用
热门推荐
FrenzyTechAI的博客
09-05 1万+
部署一个FastAPI应用到你的服务器是一项复杂的任务。如果你对NGINXGunicorn和Uvicorn这些技术不熟悉，可能会浪费大量的时间。如果你是刚接触 Python 语言不久或者希望利用 Python 构建自己的Web应用程序，本文的内容可能会让你第一次部署时更节省时间。FastAPI 是用于开发API应用最受欢迎的Python库之一，用于开发API。它以其出色的性能和易用性而闻名。如果你在网页应用中使用机器学习模型，那么它很可能是你首选的工具。
Uvicorn+Gunicorn+FastAPI学习笔记
千里之行始于足下
04-25 1375
Web服务器网关接口(Python Web Server Gateway Interfeace，缩写WSGI)是为python定义的Web服务器和Web应用程序或框架之间的一种简单而通用的接口。Gunicorn是一个基于Python的WSGI（Web服务器网关接口）HTTP服务器，它用作FastAPI的部署服务器。它所在的位置通常是在反向代理（如 Nginx）和一个 web 应用（如django）之间，支持eventlet也支持greenlet。
fastapi并发
最新发布
weixin_54992637的博客
04-23 226
1、请求 A 进入 predict()，run_prediction 被提交到 线程池 执行。2、请求 B 同时进入 predict()，run_prediction 也被提交到线程池。1、使用async def异步路由处理密集任务（http请求和数据库查询）2、使用run_in_executor（线程池）加载模型，避免阻塞。3、线程池会 并发执行 这两个任务（如果线程池有空闲线程）。3、使用run_in_executor预测任务，避免阻塞。默认线程池大小 = CPU 核心数 × 5。
FastAPI项目uvicorn-gunicorn-fastapi服务端docker容器平滑重启及Docker仓库中python web接口服务器端Fastapi-gunicorn-server镜像包
本博客记录了从2014年以来在工作学习中遇到的技术问题、解决方法以及部分个人人生经历、经验等内容。
03-19 792
在部署FastAPI项目至服务器时，会涉及到代码更改之后服务器端的重启问题，使用nginx服务器时-s reload就可以完成热加载，同样使用tiangolo/uvicorn-gunicorn-fastapi作为python项目的服务器端环境时也可以实现。gunicorn服务，只需要向其发送HUP信号，即可实现平滑reload。
fastapi使用gunicorn还是uvicorn
程序的战歌
12-09 436
uvicorn 不如 gunicorn、性能上会有些限制。
宝塔Python项目管理器+FastApi+Gunicorn 踩坑
wkc12138的博客
07-06 1192
宝塔Python项目管理器+FastApi+Gunicorn
gunicorn高并发部署
pijian4865的博客
11-09 881
gunicorn高并发部署 配置文件的方式启动，一般这个配置文件名是 gunicorn.conf # 并行工作进程数 workers = 4 # 指定每个工作者的线程数 threads = 2 # 端口 5000 bind = '0.0.0.0:5000' # 设置守护进程,将进程交给supervisor管理 daemon = 'false' # 工作模式协程 worker_class = 'gevent' # 设置最大并发量 worker_connections = 2000 # 设置.
【Python的FastAPI 与 Uvicorn】快速启动你StableDiffusion模型Web 应用
weixin_42430947的博客
02-14 1679
本文讲解StableDiffusion模型工程化示例，使用Python FastAPI 、Uvicorn 容器化部署，实现模型对外提供API服务
fastapi的并发
03-22
为了进一步增强 FastAPI 应用程序的性能并适应高并发场景，可以采取以下措施： #### 数据库连接池配置 合理设置数据库连接池参数对于减少频繁建立新连接带来的开销至关重要。这通常涉及调整最大连接数以及超时时间...
fastapi-scaf 部署
03-27
这里推荐使用 ASGI 服务器（例如 Uvicorn 或 Gunicorn），它们能够显著提升性能表现尤其是面对高并发请求时更加稳定可靠。 对于生产环境下建议采用更专业的解决方案，例如通过 Docker 容器化技术封装整个应用程序...
uvicorn-gunicorn-fastapi-docker：由Gunicorn管理的带有Uvicorn的Docker映像，用于Python 3.6及更高版本中的高性能FastAPI Web应用程序，并具有性能自动调整功能。 可选搭配Alpine Linux
02-02
支持的标签和相应的Dockerfile链接 注意：注意：都有。 如果需要“固定”您使用的Docker映像版本，则可以选择这些标签之一。 例如tiangolo/uvicorn-gunicorn-fastapi:python3.7-2019-10-15 。 uvicorn-gunicorn-fastapi 与图像管理由为高性能在Web应用程序 3.6及以上，性能自动调整。 可以选择是苗条版本或基于Alpine Linux。 GitHub存储库： : Docker Hub映像： : 描述 ， FastAPI被证明是具有Python Web框架，这要归功于它基于并由其提供。 可实现的性能与Go和Node.js框架相当（并且在许多情况下优于）。 该映像包括一个“自动调整”机制，因此您只需添加代码即可自动获得相同的高性能。 而且不做牺牲。 技术细节 葡萄胎 Uvicorn是一款闪电般的“ ASGI”服务器。 它在单个过程中运行异步Python Web代码。 独角兽 您可以使用Gunicorn管理Uvicorn和运行多个这些并发进程。 这样，您将获得最佳的并发性和并行性。 F
uvloop和gunicorn的区别
weixin_35756130的博客
12-18 239
uvloop 是一个用于 Python 的快速事件循环库，它是在 libuv 库的基础上实现的，可以替代 Python 标准库中的 asyncio 事件循环。uvloop 的性能比 asyncio 和其他事件循环库要快得多，因此常常被用于构建高性能的网络服务器。 Gunicorn 是一个 Python WSGI HTTP 服务器，它被设计用来在 Unix/Linux 系统上运行，并且非常适合于使用...
Linux _学习——Centos8 gunicorn部署FastAPI项目
含笑
01-14 1955
参考： https://www.cnblogs.com/cwp-bg/p/8780204.html https://www.uvicorn.org/deployment/#gunicorn https://www.cnblogs.com/mazhiyong/p/13384785.html https://blog.csdn.net/suyancc/article/details/106588589 https://blog.csdn.net/sinat_42483341/article...
FastAPI+Gunicorn如何实现多进程间共享变量 以及 depends中的类变量导致跨请求会话传递数据的问题
本博客记录了从2014年以来在工作学习中遇到的技术问题、解决方法以及部分个人人生经历、经验等内容。
03-16 2570
使用 FastAPI 框架开发的项目结合 Gunicorn 部署，采用 tiangolo/uvicorn-gunicorn-fastapi 部署项目启动后会看到项目启动了多个进程，多数情况下我们只需要考虑每个进程里的业务运行即可，但有时也会碰到情况一次启动的多个进程我们只允许一个进程执行一个特殊任务，从而避免任务重复进行，有什么好办法呢？
使用Gunicorn提高Web应用的多核并发处理能力
2401_85639015的博客
07-11 1515
Gunicorn 是一个基于pre-fork worker模型的WSGI服务器。它能够处理多个工作进程，每个进程可以处理多个请求，这使得它非常适合处理并发请求。兼容性强：支持多种Web框架，如Django、Flask、Pyramid等。高性能：基于pre-fork worker模型，能充分利用多核CPU。易于配置：提供了多种配置方式，包括命令行参数、配置文件和环境变量。稳定性：在生产环境中广泛使用，经过了大量的实践检验。
fastapi学习记录【十二】发布部署gunicorn+nginx
wangluonanhai的专栏
04-07 9659
gunicorn+nginx+fastapi
fastapi 如何控制并发——其一
骑者，且赶路
05-27 3069
先说结论，单独靠这里的业务场景是：单机只启动一个进程，也就是，同时只能只处理一个请求，其他的请求全部拒绝，而不进行排队。我们使用了fastapi。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小李飞刀李寻欢

您的欣赏将是我奋斗路上的动力！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值