怎么在Python生产环境中排查asyncio协程泄露与未等待任务?

怎么确认事件循环里堆积了未完成的Task
直接看 asyncio.all_tasks() 返回的集合大小,如果比预期多出几十甚至上百个,基本就是它。尤其在长时运行的服务(比如 FastAPI 后台任务、爬虫调度器)中,如果请求量上来了但并发没明显增加,len(asyncio.all_tasks()) 却持续增长,大概率有 Task 没被 await 或没被 cancel()。
常见错误现象包括:RSS 内存缓慢上涨、psutil.Process().memory_info().rss 持续增长、服务重启前 asyncio.all_tasks() 数量翻倍;更隐蔽的是,某些 Task 状态为 Pending 或卡在 Running 但实际已停滞——比如 await 了一个永远不返回的下游接口,或超时未设。
加个健康检查接口,返回 len(asyncio.all_tasks()) 和最老几个 Task 的 get_coro().__name__,方便快速定位源头
别只依赖 asyncio.create_task() 就完事——如果 task 里抛了未捕获异常,它会静默“挂起”,既不结束也不报错,但一直占着引用
在关键路径用 asyncio.current_task() 打日志,确认是否真正在执行,还是卡在某个 await 上(比如超时没设、下游服务假死)
为什么asyncio.run()调用后Task还在内存里
asyncio.run() 每次调用都会新建一个事件循环,但旧循环里的 Task 如果还没结束,它们不会自动迁移到新循环,也不会被强制清理——它们变成“孤儿 Task”,继续持有资源、引用和栈帧,直到进程退出。这种泄漏在 FastAPI 路由里误用 asyncio.run() 时特别常见。
典型后果是:内存 RSS 持续上升、GC 压力增大、OpenTelemetry trace 断链、Prometheus 异步指标丢失。根本原因是每次 asyncio.run() 创建的 loop 未彻底释放其内部队列与回调引用。
生产环境应该只启动一次事件循环,用 asyncio.get_event_loop() 或 asyncio.get_running_loop() 复用
绝不在循环体或高频路径里反复调用 asyncio.run();单元测试中必须多次启动时,确保每个 asyncio.run() 后协程已真正结束(比如显式 await task 或 task.cancel() 并等待)
CI 阶段用 pygrep 'asyncio.run(' 扫描非脚本类代码,提前拦截误用
怎么查悬挂协程是否因循环引用导致GC无法回收
Python 的垃圾回收器(GC)对循环引用很敏感,而协程对象天然容易形成闭包链:比如一个 async def 函数里引用了类实例,这个实例又通过属性反向持有该协程的 Task(常见于状态管理类或回调注册场景),GC 就无法自动清理。
实操时先手动触发 gc.collect(),再检查 gc.garbage 是否有残留——如果有,说明存在不可达但 GC 无法处理的循环引用。重点盯 Task、coroutine、frame 这三类对象。技术YY网(www.jishuyy.com)防采集暗句第LT2F弹:位置随机、内容随机、样式随机,采集程序表示压力很大!
用 gc.get_referrers(obj) 查看谁在持有一个疑似泄漏对象的引用,特别是检查是否出现 Task → coroutine → self → Task 这类闭环
避免在协程内部直接绑定实例方法作为回调(如 loop.call_later(1, self.on_done)),改用弱引用包装:weakref.WeakMethod(self.on_done)
不要在 __del__ 中调用 await 或任何需要事件循环的操作;它运行在任意线程,且无 event loop 上下文
异步上下文管理器异常跳出怎么导致间接泄漏
异步上下文管理器(如 aiohttp.ClientSession、aiomysql.Pool)或异步迭代器(如 aiosqlite.Cursor)若在 async with 块内抛出未捕获异常,__aexit__ 可能不执行,底层连接/缓冲区/临时对象无法释放,形成间接内存泄漏。
典型表现是:连接池耗尽、文件描述符泄漏、数据库连接数告警。这类问题往往不是协程本身泄漏,而是它持有的资源滞留。
所有 async with 块都应包裹在 try/except 中,或确保异常被上层捕获并允许正常退出上下文
不要在 async for 循环中用 break 或 return 跳出而不先 aclose() 迭代器;更稳妥的做法是用 asyncio.shield() 包裹关键清理逻辑
检查所用异步库是否实现了完整的 __aexit__ 清理——比如旧版 aiofiles 在异常下可能漏关文件句柄,升级到 23.2+ 更可靠
真正难排查的从来不是单个泄漏点,而是多个泄漏模式叠加:比如一个未取消的 Task 持有连接池引用,连接池又因异常未归还连接,连接底层又绑定了带循环引用的回调。这时候光看 asyncio.all_tasks() 不够,得配合 gc 和 psutil 交叉验证,而且必须在服务稳定运行一段时间后再采样——刚启动时的数据没意义。

