Python Eventlet并发请求真的并发吗？

Eventlet并发请求：并非总是真正并发

使用Python的Eventlet库并不保证总是实现真正的并发请求。其效果取决于所用网络协议和服务器端的响应方式。

例如，如果服务器端处理请求需要较长时间（例如，你的例子中FastAPI端点有3秒延迟），即使客户端使用Eventlet并发发送请求，由于网络延迟和服务器端处理延迟，整体响应时间仍然会很长，并非真正的并行处理。

实现真正并行请求的方法

要实现真正的并行，需要采用支持异步或非阻塞的网络库和协议。以下是一些推荐方案：

• 异步HTTP库:

  • asyncio：Python内置的异步编程框架。
  • aiohttp：基于asyncio的异步HTTP客户端。
  • tornado：一个异步网络框架，也支持HTTP请求。

• 非阻塞Web服务器:

  • gunicorn
  • uwsgi
  • nginx (通常用作反向代理，与异步服务器配合使用)

异步HTTP请求示例（使用aiohttp）

以下代码演示如何使用aiohttp实现真正的并行HTTP请求：

import asyncio
import aiohttp

async def fetch(url: str) -> str:
    async with aiohttp.ClientSession() as session:
        async with session.get(url) as response:
            return await response.text()

urls = [
    "http://localhost:5000/",
    "http://localhost:5000/",
    "http://localhost:5000/",
]

async def main():
    tasks = [fetch(url) for url in urls]
    results = await asyncio.gather(*tasks)
    for result in results:
        print(result)

if __name__ == "__main__":
    asyncio.run(main())

此示例中，aiohttp允许客户端同时发送多个请求，并在服务器处理请求时继续执行其他任务，从而实现真正的并发，显著提高效率。 与Eventlet不同，它不会被阻塞在单个请求上。