HTTP服务器监听套接字队列大小与高并发连接处理
编写网络服务器程序时，正确设置监听套接字队列大小（backlog）至关重要。backlog决定了服务器可同时处理的等待连接客户端请求数量。本文探讨Nginx、uvicorn和gunicorn在高并发场景下如何避免连接重置错误，以及它们与简单TCP服务器的差异。
一个简单的TCP服务器测试程序在处理大量并发连接时，容易出现ConnectionResetError: \[Errno 54\] Connection reset by peer错误。增大backlog值（listen函数的第二个参数）能有效降低错误概率。这引发了对Nginx、uvicorn和gunicorn等成熟服务器如何处理高并发的疑问：它们是否也依赖极大的backlog值？
这些服务器确实使用backlog，但并非简单地设置巨量数值。uvicorn和gunicorn的backlog默认值均为2048。Nginx的默认值为511，但实际有效值受限于系统参数net.core.somaxconn。在Linux系统中，net.core.somaxconn限制了所有监听套接字的backlog最大值（例如，Ubuntu 22.04默认值为4096）。因此，即使Nginx配置中设置更大的backlog，实际值也不会超过net.core.somaxconn。
Nginx、uvicorn和gunicorn高效处理高并发并非完全依赖于巨大的backlog。它们采用多进程或多线程模型以及高效的事件循环，在有限的backlog下也能高效处理大量并发连接。当连接请求超过backlog限制时，这些服务器通常会拒绝新连接，而不是导致连接重置。而简单的TCP服务器因缺乏这些机制，更容易出现连接重置错误。
