0

0

C#中如何使用异步流处理大数据查询?示例代码是什么?

星降

星降

发布时间:2025-10-18 12:32:01

|

943人浏览过

|

来源于php中文网

原创

异步流(IAsyncEnumerable)可降低内存占用并提升响应性,适用于大数据查询。从C# 8.0开始,通过IAsyncEnumerable实现边获取边处理数据,结合Entity Framework Core的AsAsyncEnumerable()或Dapper封装的流式读取,支持逐步返回结果。使用[EnumeratorCancellation]传递CancellationToken可控制取消,避免长时间运行导致资源浪费。典型应用场景包括分页、日志处理和报表导出,有效防止OutOfMemoryException并保持高吞吐。

c#中如何使用异步流处理大数据查询?示例代码是什么?

在C#中处理大数据查询时,使用异步流(IAsyncEnumerable)可以有效减少内存占用并提升响应性。它允许你一边从数据库或远程服务获取数据,一边逐步处理,而不是等待全部结果返回。

启用异步流查询

从 C# 8.0 开始,IAsyncEnumerable 成为处理异步数据流的标准方式。结合 Entity Framework Core 或 Dapper 等 ORM,可实现高效的大数据查询。

以 Entity Framework Core 为例:

public async IAsyncEnumerable GetLargeOrderDataAsync([EnumeratorCancellation] CancellationToken cancellationToken = default)
{
    await foreach (var order in _context.Orders
        .Where(o => o.Status == "Shipped")
        .AsAsyncEnumerable()
        .WithCancellation(cancellationToken))
    {
        // 可在此处进行数据转换或过滤
        yield return order;
    }
}

调用该方法时:

await foreach (var order in service.GetLargeOrderDataAsync())
{
    Console.WriteLine($"Processing Order ID: {order.Id}");
    // 处理每条记录,无需加载全部到内存
}

结合 Dapper 使用异步流

Dapper 支持通过 QueryAsync 返回异步流。虽然原生不直接返回 IAsyncEnumerable,但可通过封装实现:

千问APP
千问APP

阿里最强大模型官方AI助手

下载
public async IAsyncEnumerable StreamProductsAsync([EnumeratorCancellation] CancellationToken ct)
{
    using var connection = new SqlConnection(connectionString);
    await connection.OpenAsync(ct);
using var reader = await connection.ExecuteReaderAsync("SELECT Id, Name, Price FROM Products", cancellationToken: ct);

while (await reader.ReadAsync(ct))
{
    yield return new Product
    {
        Id = reader.GetInt32("Id"),
        Name = reader.GetString("Name"),
        Price = reader.GetDecimal("Price")
    };
}

}

控制取消与资源释放

使用 [EnumeratorCancellation] 参数可传递取消令牌,防止长时间运行的查询阻塞系统:

var cts = new CancellationTokenSource(TimeSpan.FromSeconds(30));

await foreach (var item in StreamLargeDataAsync(cts.Token)) { // 自动在超时后中断流 Process(item); }

基本上就这些。异步流适合分页场景、日志处理、报表导出等大数据量操作,避免 OutOfMemoryException,同时保持良好的吞吐能力。

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

349

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2074

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

347

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

255

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

323

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

410

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

398

2023.10.16

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

219

2023.10.19

PHP WebSocket 实时通信开发
PHP WebSocket 实时通信开发

本专题系统讲解 PHP 在实时通信与长连接场景中的应用实践,涵盖 WebSocket 协议原理、服务端连接管理、消息推送机制、心跳检测、断线重连以及与前端的实时交互实现。通过聊天系统、实时通知等案例,帮助开发者掌握 使用 PHP 构建实时通信与推送服务的完整开发流程,适用于即时消息与高互动性应用场景。

3

2026.01.19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 7万人学习

C 教程
C 教程

共75课时 | 4.1万人学习

C++教程
C++教程

共115课时 | 12.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号