0

0

掌握 Python 异步:使用协程和事件循环提升应用程序性能

花韻仙語

花韻仙語

发布时间:2024-11-16 08:45:01

|

787人浏览过

|

来源于dev.to

转载

掌握 python 异步:使用协程和事件循环提升应用程序性能

python 的异步编程改变了构建高性能应用程序的游戏规则。我已经使用它很多年了,如果使用得当,它的强大功能总是让我惊叹不已。

python 异步模型的核心是协程和事件循环。协程是可以暂停和恢复执行的特殊函数,可以在没有线程开销的情况下实现高效的多任务处理。另一方面,事件循环是驱动这些协程、管理其执行和处理 i/o 操作的引擎。

让我们从协程开始。在 python 中,我们使用 async def 语法定义它们。这是一个简单的例子:

async def greet(name):
    print(f"hello, {name}!")
    await asyncio.sleep(1)
    print(f"goodbye, {name}!")

这个协程向一个人打招呼,等待一秒钟,然后说再见。 wait 关键字在这里至关重要 - 它允许协程暂停其执行并将控制权交还给事件循环。

但是协程在幕后是如何工作的呢?它们实际上是构建在 python 的生成器功能之上的。当您调用协程时,它不会立即运行。相反,它返回一个协程对象。这个对象可以发送值并且可以产生值,就像生成器一样。

立即学习Python免费学习笔记(深入)”;

事件循环负责实际运行这些协程。它维护一个任务队列(它们是协程的包装器)并逐个执行它们。当协程遇到await语句时,事件循环将挂起它并继续执行下一个任务。这就是协作式多任务处理的本质——任务自愿放弃控制权,让其他任务运行。

这是事件循环如何工作的简化版本:

class eventloop:
    def __init__(self):
        self.ready = deque()
        self.sleeping = []

    def call_soon(self, callback):
        self.ready.append(callback)

    def call_later(self, delay, callback):
        deadline = time.time() + delay
        heapq.heappush(self.sleeping, (deadline, callback))

    def run_forever(self):
        while true:
            self.run_once()

    def run_once(self):
        now = time.time()
        while self.sleeping and self.sleeping[0][0] <= now:
            _, callback = heapq.heappop(self.sleeping)
            self.ready.append(callback)

        if self.ready:
            callback = self.ready.popleft()
            callback()
        else:
            time.sleep(0.1)  # avoid busy waiting

此事件循环管理两种类型的任务:准备运行的任务(在就绪双端队列中)和正在休眠的任务(在休眠列表中)。 run_forever 方法会持续运行任务,直到没有剩余任务为止。

现在我们来谈谈任务调度。 python 中的 asyncio 模块提供了具有高级调度功能的更复杂的事件循环。它可以处理 i/o 操作、运行子进程,甚至与其他事件循环集成。

以下是如何使用 asyncio 同时运行多个协程:

import asyncio

async def task1():
    print("task 1 starting")
    await asyncio.sleep(2)
    print("task 1 finished")

async def task2():
    print("task 2 starting")
    await asyncio.sleep(1)
    print("task 2 finished")

async def main():
    await asyncio.gather(task1(), task2())

asyncio.run(main())

此脚本将启动两个任务,但任务 2 将在任务 1 之前完成,因为它休眠的时间较短。

异步编程最强大的应用之一是网络操作。让我们看一个简单的异步 web 服务器:

import asyncio

async def handle_client(reader, writer):
    data = await reader.read(100)
    message = data.decode()
    addr = writer.get_extra_info('peername')

    print(f"received {message!r} from {addr!r}")

    response = f"echo: {message}\n"
    writer.write(response.encode())
    await writer.drain()

    print("close the connection")
    writer.close()

async def main():
    server = await asyncio.start_server(
        handle_client, '127.0.0.1', 8888)

    addr = server.sockets[0].getsockname()
    print(f'serving on {addr}')

    async with server:
        await server.serve_forever()

asyncio.run(main())

该服务器无需使用线程即可同时处理多个客户端,效率很高。

但是异步编程不仅仅适用于服务器。它对于客户端也非常有用,特别是当您需要发出多个网络请求时。这是一个简单的网络抓取工具,可以同时获取多个页面:

import asyncio
import aiohttp

async def fetch_page(session, url):
    async with session.get(url) as response:
        return await response.text()

async def main():
    urls = [
        'http://example.com',
        'http://example.org',
        'http://example.net'
    ]

    async with aiohttp.clientsession() as session:
        tasks = [fetch_page(session, url) for url in urls]
        pages = await asyncio.gather(*tasks)

    for url, page in zip(urls, pages):
        print(f"page from {url}: {len(page)} bytes")

asyncio.run(main())

该抓取工具可以同时获取多个页面,与同步方法相比,显着加快了处理速度。

码上飞
码上飞

码上飞(CodeFlying) 是一款AI自动化开发平台,通过自然语言描述即可自动生成完整应用程序。

下载

现在,让我们深入探讨一些更高级的概念。 python 异步模型的一项有趣功能是您可以创建自己的事件循环。如果您需要将异步代码与其他框架集成,或者想要针对特定​​用例进行优化,这会很有用。

这是一个简单的自定义事件循环,可以运行同步和异步回调:

import asyncio
from collections import deque

class customeventloop(asyncio.abstracteventloop):
    def __init__(self):
        self._ready = deque()
        self._stopping = false

    def call_soon(self, callback, *args):
        self._ready.append((callback, args))

    def run_forever(self):
        while not self._stopping:
            self._run_once()

    def _run_once(self):
        ntodo = len(self._ready)
        for _ in range(ntodo):
            if not self._ready:
                break
            callback, args = self._ready.popleft()
            callback(*args)

    def run_until_complete(self, future):
        asyncio.futures.ensure_future(future, loop=self)
        self.run_forever()

    def stop(self):
        self._stopping = true

# usage
loop = customeventloop()
asyncio.set_event_loop(loop)

async def hello():
    print("hello, world!")

loop.run_until_complete(hello())

这个自定义循环非常基础,但它演示了核心原则。您可以扩展它来处理更复杂的场景,例如 i/o 操作或计时器。

调试异步代码可能具有挑战性,尤其是在处理复杂的应用程序时。我发现有用的一项技术是使用 asyncio 的调试模式。您可以像这样启用它:

import asyncio

asyncio.run(main(), debug=true)

这将提供更详细的错误消息和警告,例如从未完成的协程或运行时间过长的回调。

另一个有用的调试技术是使用 asyncio 的任务自省功能。例如,您可以获得所有正在运行的任务的列表:

import asyncio

async def main():
    task1 = asyncio.create_task(asyncio.sleep(1))
    task2 = asyncio.create_task(asyncio.sleep(2))

    for task in asyncio.all_tasks():
        print(f"task: {task.get_name()}, done: {task.done()}")

    await task1
    await task2

asyncio.run(main())

这可以帮助您了解程序在任何特定时刻正在做什么。

在优化异步代码时,一个关键原则是最大限度地减少同步操作所花费的时间。任何长时间运行的同步代码都会阻塞事件循环,从而阻止其他协程运行。如果您有 cpu 密集型任务,请考虑在单独的线程或进程中运行它们。

另一种优化技术是当您有多个可以同时运行的协程时使用 asyncio.gather。这比一一等待更有效率:

# Less efficient
result1 = await coro1()
result2 = await coro2()

# More efficient
result1, result2 = await asyncio.gather(coro1(), coro2())

最后,请记住,异步编程并不总是最好的解决方案。对于需要大量等待的 i/o 密集型任务,它可以提供显着的性能改进。但对于 cpu 密集型任务,传统的多线程或多处理可能更合适。

总之,python 的异步编程模型基于协程和事件循环,提供了一种编写高效、可扩展应用程序的强大方法。无论您是构建 web 服务器、网络客户端还是数据处理管道,理解这些概念都可以帮助您充分利用 python 的异步功能。与任何强大的工具一样,它需要练习和仔细思考才能有效使用,但结果确实令人印象深刻。


我们的创作

一定要看看我们的创作:

投资者中心 | 智能生活 | 时代与回响 | 令人费解的谜团 | 印度教 | 精英开发 | js学校


我们在媒体上

科技考拉洞察 | 时代与回响世界 | 投资者中央媒体 | 令人费解的谜团 | 科学与时代媒介 | 现代印度教

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

503

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

166

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

14

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

15

2026.01.21

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

514

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

244

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

298

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

5306

2023.08.17

俄罗斯Yandex引擎入口
俄罗斯Yandex引擎入口

2026年俄罗斯Yandex搜索引擎最新入口汇总,涵盖免登录、多语言支持、无广告视频播放及本地化服务等核心功能。阅读专题下面的文章了解更多详细内容。

158

2026.01.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.3万人学习

Django 教程
Django 教程

共28课时 | 3.6万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号