利用CompletableFuture高效处理批量接口请求并保证结果顺序
大规模数据处理中,并发调用外部接口能显著提升效率。然而,直接使用多线程可能导致结果顺序错乱,与原始数据失去对应关系。本文介绍如何利用Java的CompletableFuture实现并发执行,同时确保接口请求和响应结果顺序一致。
问题:开发者使用CompletableFuture.runAsync
进行异步操作,但线程执行顺序的不确定性导致结果与原始数据列表无法对应。CompletableFuture.allOf
只能保证所有任务完成,无法保证结果顺序。
解决方案:将CompletableFuture.runAsync
替换为CompletableFuture.supplyAsync
,收集每个CompletableFuture的返回值。CompletableFuture.supplyAsync
可以返回一个值,这是保持顺序的关键。
改进后的代码:
public static void main(String[] args) { Listlist = new ArrayList<>(); // ... 初始化list ... ExecutorService executorService = new ThreadPoolExecutor( 10, //核心线程数 20, //最大线程数 60L, TimeUnit.SECONDS, //线程存活时间 new LinkedBlockingQueue<>(1024), //任务队列 new ThreadPoolExecutor.CallerRunsPolicy()); //拒绝策略 List > futures = new ArrayList<>(); for (String s : list) { futures.add(CompletableFuture.supplyAsync(() -> { logger.info("开始执行异步线程->>" + s); // 调用接口,根据返回值判断list中的值是否匹配 // 返回处理后的结果 return s + "处理后的结果"; }, executorService)); // 使用自定义线程池 } // 所有请求完成后处理逻辑 CompletableFuture.allOf(futures.toArray(new CompletableFuture[0])) .thenRun(() -> { List results = futures.stream() .map(CompletableFuture::join) .collect(Collectors.toList()); logger.info("线程执行完毕:{}", JSON.toJSONString(results)); // 调用发送短信 }) .thenRun(() -> executorService.shutdown()); }
改进后的代码使用List
存储每个异步任务的CompletableFuture对象,每个CompletableFuture返回一个String结果。CompletableFuture.allOf
仍然用于等待所有任务完成,但随后使用futures.stream().map(CompletableFuture::join).collect(Collectors.toList())
收集结果,保证结果顺序与原始列表一致。CompletableFuture::join
方法会阻塞直到获取异步任务结果。 这样确保results
列表元素顺序与原始list
完全相同。
此方法充分利用多线程并发优势,同时保证接口请求和响应结果的顺序性,避免数据错乱。