@H_403_1@我们有一个独特的案例,我们需要与外部API接口,这需要我们长时间轮询他们的端点以获得他们所谓的实时事件.
@H_403_1@问题是我们可能有多达80,000人/设备在任何给定时间点击此端点,监听事件,每个设备/人1个连接.
@H_403_1@当客户端从我们的Spring服务发出请求以对事件进行长轮询时,我们的服务随后会对外部API进行异步调用以对事件进行长轮询.外部API已定义最小长轮询超时可设置为180秒.
@H_403_1@所以在这里我们遇到一个带队列的线程池不能工作的情况,因为如果我们有一个类似于(5分钟,10个最大值,10个队列)的线程池,那么10个线程可能会成为焦点,并且队列中的10个将无法获得机会,直到当前10个中的一个完成.
@H_403_1@我们需要服务它或者失败它(我们将把负载平衡器等放在它后面),但是我们不希望在没有实际轮询的情况下让客户端挂起.
@H_403_1@我们一直在研究如何使用DeferredResult,并从控制器返回.
@H_403_1@一些调整的东西
@H_403_1@
@RequestMapping(value = "test/deferredResult",method = RequestMethod.GET)
DeferredResultCompletableFuture.supplyAsync(() -> testService.test()).whenCompleteAsync((result,throwable) -> deferredResult.setResult(result));
return deferredResult;
}
最佳答案
您正在描述的问题听起来并不像是在使用阻塞IO时可以很好地解决的问题.因此,您处于正确的路径上,因为DeferredResult允许您使用任何线程生成结果,而不会阻塞servlet-container线程.
@H_403_1@关于在上游调用长池API,您还需要一个NIO解决方案.如果使用Netty客户端,则可以使用单个线程管理数千个套接字.当Netty中的NIO选择器检测到数据时,您将获得一个通道回调并最终委托给Netty工作线程池中的一个线程,您可以调用deferredResult.setResult.如果不阻止IO,则工作池通常在cpu核心数量之后调整大小,否则可能需要更多线程.
@H_403_1@仍然存在许多挑战.
@H_403_1@>您可能需要多个服务器(或网络接口),因为只有65K端口.
> Java中的套接字没有写入超时,因此如果客户端拒绝从套接字读取数据,并且发送的数据多于套接字缓冲区,则会阻塞Netty工作线程,然后一切都会停止(反向缓慢)洛里斯袭击).这是大型异步设置中的典型问题,也是使用Hystrix(Netflix)等框架的原因之一.
原文链接：https://www.f2er.com/spring/432300.html> Java中的套接字没有写入超时,因此如果客户端拒绝从套接字读取数据,并且发送的数据多于套接字缓冲区,则会阻塞Netty工作线程,然后一切都会停止(反向缓慢)洛里斯袭击).这是大型异步设置中的典型问题,也是使用Hystrix(Netflix)等框架的原因之一.
