当前位置: 首页 > ops >正文

python的异步、并发开发

今天要给模块添加异步和并发。之前封装的logging库不支持异步操作,搞了半天还是回到了文件写+硬编码的方式了。

异步和并发,之前没有搞过,属于是现学,记录一下。

并发是指多个任务在同一时间段内交替执行,但并不一定在同一时刻真正同时发生。它是一种逻辑上的“同时”,通过任务切换和调度实现,例如在单核处理器上通过时间片轮转技术让多个任务交替运行。

并行是指多个任务在物理上同时执行,通常需要多个处理器或核心支持。它是真正的“同时”执行,通过硬件资源分配实现任务的高效处理。

在传统的同步模型中,当发起请求后,程序会立刻停下来,阻塞在这里,什么也不做,直到下载完成。在这期间,cpu无法处理其他任何任务。

asyncawait 的出现,就是为了解决这个问题。它们的核心思想是:当一个任务需要等待(I/O 操作)时,不要阻塞,而是主动“让出” CPU 的控制权,让 CPU 去执行其他已经准备好的任务。 等待完成后,再“切换”回来继续执行。

一个被 async 修饰的函数,它定义的不是一个普通的函数,而是一个协程对象。这个对象本身不执行任何代码,它更像是一个“任务蓝图”或“一个可以稍后执行的任务”。

await是暂停当前协程,等待另一个协程完成。

在一个函数内部,如果你想调用另一个async def函数并等待它的结果,那么:

  1. 调用方函数本身也必须被声明为async def
  2. 在调用async def函数时,必须使用await关键字。

对于第三方HTTP请求,使用httpx库进行异步实现。

对于文件读写,使用aiofiles库进行异步实现。

FastAPI应用通常结合GunicornUvicorn来部署,以支持并发处理。Gunicorn作为WSGI HTTP服务器,可以管理多个worker进程,而Uvicorn则负责处理异步请求。

gunicorn启动:

   gunicorn -w 4 -k uvicorn.workers.UvicornWorker app:app

此时,会产生一个Master和四个worker进程。Master进程管理这worker进程,如果worker进程挂了,Master会再产生相应的worker进行。

形象来说:gunicorn是资源经理,uvicorn是技术工人(uvicorn.workers。经理负责将任务给工人,工人完成任务。

如果要停止这个服务,只需要杀掉Master进程。

  1. 查找Master pid

    ps aux | grep gunicorn # 找到pid最小的(一般是
    
  2. 杀死pid

    kill Master-Pid
    

在app.py文件中:

# -- fastapi示例
if __name__ == '__main__':uvicorn.run(...)

使用python app.py调用的是文件里面的uvicorn服务器。

使用gunicorn -w 4 -k uvicorn.workers.UvicornWorker app:app是调用的里面的fastapi示例,而不调用if __name__里面的方法。

http://www.xdnf.cn/news/16651.html

相关文章:

  • 关于项目的一些完善功能
  • C语言:函数指针、二级指针、常量指针常量、野指针
  • 基于deepseek的事件穿透分析-风险传导图谱
  • Linux系统编程Day1-- 免费云服务器获取以及登录操作
  • 分层解耦(Controller,Service,Dao)
  • [Agent开发平台] API网关 | 业务领域 | DTO格式 | 分页令牌
  • 当人生低谷无人帮助时,如何独自奏响人生乐章
  • Abaqus2022下载与保姆级安装教程!!
  • 人工智能通信协议三种协议:MCP协议、A2A协议、AG-UI协议是什么
  • spark入门-helloword
  • CMS框架GetShell
  • 自动驾驶车辆的敏捷安全档案
  • 使用HaiSnap做了一款取件码App(一键生成)
  • 力扣热题100---------35.搜索插入为位置
  • 查询账户余额
  • 9.项目起步(3)
  • Scala实现常用排序算法
  • 第十二天:C++ 标准库函数分类总结
  • 【AI】开源项目整理
  • [Python] -进阶理解10- 用 Python 实现简易爬虫框架
  • 【同济大学】双速率自动驾驶架构LeAD:端到端+LLM,CARLA实测93%路线完成率,性能SOTA!
  • 基于 Hadoop 生态圈的数据仓库实践 —— OLAP 与数据可视化(四)
  • 机器学习之线性回归的入门学习
  • 语音识别dolphin 学习笔记
  • Linux 日志管理与时钟同步
  • 51单片机入门:数码管原理介绍及C代码实现
  • python快速复习篇(一)
  • Mysql事务基础
  • 7. 传输层协议 TCP
  • 国内数据集成厂商有哪些?如何选择最适合的数据集成平台?