- Java锁的逻辑(结合对象头和ObjectMonitor)
- 还在用饼状图?来瞧瞧这些炫酷的百分比可视化新图形(附代码实现)⛵
- 自动注册实体类到EntityFrameworkCore上下文,并适配ABP及ABPVNext
- 基于Sklearn机器学习代码实战
分享一个发版过程服务报错问题,问题出现在每次发版,服务准备下线的时候,报错的位置是在将任务submit提交给线程池,使用Future.get()引发的TimeoutException,错误日志会打印下面的"error"。伪代码如下:
List<Future<Result<List<InfoVO>>>> futures = new ArrayList<>();
lists.forEach(item -> {
futures.add(enhanceExecutor.submit(() -> feignClient.getTimeList(ids)));
);
futures.forEach(
item -> {
try {
Result<List<InfoVO>> result = item.get(10, TimeUnit.SECONDS);
} catch (InterruptedException | TimeoutException | ExecutionException e) {
log.error("error", e);
}
}
);
代码逻辑非常简单,就是将一个Feign接口的调用提交给线程池去并发执行,最终通过Feture.get()同步获取结果,最多等待10s。 线程池的配置参数是:核心线程数为16,最大线程数为32,队列为100,解决策略为CallerRunsPolicy,意为当线程无法处理任务时,任务交还给调用线程执行.
问题分析的开始走了一些弯路,因为Timeout异常给人最直观的感受就是接口超时了,加上这个接口也确实偶尔超时,所以我们用arthas分析了一下接口执行时间,发现接口并不慢,结合上面的线程池参数,基本不会出现超时。同时通过grafana上的监控,分析接口的qps和执行时间,基本可以排除是接口超时这一点.
后来开始怀疑是不是对方服务也在下线,因为我们几个服务多数时候会一起更新,从而导致Feign出现异常,还使用了resilience4j,它里面也有超时和线程池,会不会是它在这种场景下出现问题导致。 这里又绕了一个圈,通过各种google,github,chatgpt后,没有发现相关资料。这后来也给我一个警示就是,在怀疑相关组件之前,要先排查完自己的代码,没有头绪时不要一下子钻进去.
后来结合日志的时间线,重新梳理。上面的线程池是我们自己封装的线程池,支持监控、apollo动态修改线程池参数,日志跟踪traceId打印,执行任务统计,服务下线线程退出等功能,这很像 美团技术团队 提到的线程池,不过我们基于自己的需求进行封装,使用起来更简单、轻量。 在 服务优雅下线 这篇,我们写到 。
在服务下线前该线程池会响应一个event bus消息,然后执行线程池的shutdown方法,本意是服务下线时,线程池不再接收新的任务,并触发拒绝策略。那会不会是这里出现问题呢? 结合上面的代码,当线程池shutdown后,执行CallerRunsPolicy策略,再submit应该就会阻塞。这就是我们平时理解的,当队列满了,就继续开启线程至maximumPoolSize,如果线程数已经达到maximumPoolSize,并且队列也满了,此时就触发解决策略。 如下代码,当第三次submit的时候就阻塞了,符合上面说的情况.
ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(1, 1, 10, TimeUnit.MINUTES, new ArrayBlockingQueue<>(1), new ThreadPoolExecutor.CallerRunsPolicy());
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
//到这里就阻塞了
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
那如何期间shutdown了呢?按照网上的很多介绍, 如果线程池shutdown了,再提交任务,就触发拒绝策略。这句话本身没有错,但也没有完全对,坑就在这里。 如果你执行下面的代码,会发现和上面是不一样的,第三个submit不会阻塞了.
ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(1, 1, 10, TimeUnit.MINUTES, new ArrayBlockingQueue<>(1), new ThreadPoolExecutor.CallerRunsPolicy());
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
//加了这一行
threadPoolExecutor.shutdown();
//这里不会阻塞了...
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
为什么会这样呢,我们跟踪下源码,发现它确实会走到拒绝策略,但在CallerRunsPolicy拒绝策略里面有一个判断,如果线程池不是shutdown的,就直接调用Runnable的run方法,这里使用的是调用者线程,所以调用者线程会阻塞,如果线程池是shutdown的,就什么也不做,相当于任务丢弃了.
按照这个说法,如果我在最后使用Future接收一下submit的返回值,然后调用Future.get方法,会发生什么?
ThreadPoolExecutor threadPoolExecutor = new ThreadPoolExecutor(1, 1, 10, TimeUnit.MINUTES, new ArrayBlockingQueue<>(1), new ThreadPoolExecutor.CallerRunsPolicy());
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
//加了这一行
threadPoolExecutor.shutdown();
//这里不会阻塞了...
Future future = threadPoolExecutor.submit(() -> {
try {
Thread.sleep(5000);
} catch (InterruptedException e) {
}
});
//这里会发生什么?
future.get(10, TimeUnit.SECONDS);
结果是超时了,报了TimeoutException,如下图:
我们的问题得以复现,但future.get为什么会超时呢?正常情况下,它是实现阻塞调用线程的,又是如何在线程拿到执行结果时返回执行的,这就需要我们对Future的原理有所理解了.
Future字面意思是未来的意思,很符合语意。当我们使用异步执行任务的时候,在未来某个时刻想知道任务执行是否完成、获取任务执行结果,甚至取消任务执行,就可以使用Future。 Future是一个接口,FutureTask是它的一个实现类,同时实现了Future和Runnable接口,也就是说FutureTask即可以作为Runnable执行,也可以通过它拿到结果。 ThreadPollExecutor.submit的源码如下,newTaskFor就是创建一个FutureTask.
假如任务提交后还没执行完,我们看它是如何实现阻塞的,带超时时间的get()方法源码如下:
代码中判断如果state > COMPLETING,就直接调用report,也就是直接返回。state是个私有成员遍历,它可能有以下值,大于1表示是任务终态直接返回.
否则就进入awaitDone()方法,代码如下:
该方法是个无条件for循环,但它绝不是通过消耗cpu不断检查某个状态来获取结果,这样效率太低了。 按照“正常”调用(我们只考虑最简单场景,不要受一些异常或不重要的分支干扰,以免越陷越深),这个for循环会进入3次,分别就是上图打断点的3个位置。 第一个位置会创建一个WaitNode节点,WaitNode保护一个Thread和一个next,很明显它会构成一个链表。 第二个位置会尝试用CAS的方式将它将这个节点添加到链表头部,如果添加失败,就会继续for循环,一直到添加成功。添加成功就会进入第三个断点位置。 第三个位置会调用LockSupport.parkNanos(this, nanos),阻塞当前线程.
这里为什么是一个链表呢? 原因很简单,我们将任务提交后,可以在多个线程等这个任务的结果,也就是在多个线程调用get()方法,那么每一次就会创建一个WaitNode,并形成一个链表.
ok,知道Future.get()怎么实现阻塞的,我们看下当任务执行完,它是如何恢复并拿到结果的。 回到上面线程池的submit方法,FutureTask作为一个Runnable传递给线程池execute,那么最终就会执行它的run()方法。 我们还是主要看“正常”执行的流程,执行完会走到set方法,做两个事情: 1.将state状态设置为NOMAL,表示任务正常执行完成.
2.执行finishCompletion方法,遍历waiters链表所有节点,每个节点对应一个线程,将线程取出来,执行LockSupport.unpark(t)恢复线程执行.
通过源码分析我们知道,当调用Future.get()线程阻塞时,它的恢复是靠FutureTask.run()恢复的,也就是我们提交的任务被执行后恢复。 当我们线程shutdown后,再submit任务确实会触发拒绝策略,但CallerRunsPolicy会判断线程池状态是否是shutdown,如果不是,就直接调用Runnable.run()方法,相当于在调用线程执行。如果是shutdown状态就什么都不做,问题就出在这里,我们是要依靠它的执行来恢复阻塞的,现在什么都不做,就无法恢复了。同样的DiscardPolicy,DiscardOldestPolicy也会有这个问题,AbortPolicy是直接抛出异常,调用线程在submit就抛异常了,走不到Future.get()方法。 但java为什么要这么做呢?这个拒绝策略的本意就是使用调用者线程执行,但这种情况下却将任务丢弃了。我看了jdk17的源码,这个逻辑并没有改变,也就是有一定的合理性。 线程池关闭当线程池已经shutdown,则意味着其不能再接收新任务,如果它shutdown了还使用调用线程执行,其实本质上还是在接收新任务,这违背了线程池规定的shutdown以后不再接收新任务的语意。 总之,在使用shutdown的时候需要注意这个问题,例如我们的场景应该是在触发服务下线等待请求都处理完成后再shutdown,而不是一开始就shutdown,这样有一些请求还在处理中就会出现问题。或者在保证服务下线等待事件内任务都能处理完,就干脆不要shutdown了,让调用者自己去保证这个事情,处理后报错已经不再出现.
更多分享,欢迎关注我的github: https://github.com/jmilktea/jtea 。
最后此篇关于线程池shutdown引发TimeoutException的文章就讲到这里了,如果你想了解更多关于线程池shutdown引发TimeoutException的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
我将 Bootstrap 与 css 和 java 脚本结合使用。在不影响前端代码的情况下,我真的很难在css中绘制这个背景。在许多问题中,人们将宽度和高度设置为 0%。但是由于我的导航栏,我不能使用
我正在用 c 编写一个程序来读取文件的内容。代码如下: #include void main() { char line[90]; while(scanf("%79[^\
我想使用 javascript 获取矩阵数组的所有对 Angular 线。假设输入输出如下: input = [ [1,2,3], [4,5,6], [7,8,9], ] output =
可以用pdfmake绘制lines,circles和other shapes吗?如果是,是否有documentation或样本?我想用jsPDF替换pdfmake。 最佳答案 是的,有可能。 pdfm
我有一个小svg小部件,其目的是显示角度列表(参见图片)。 现在,角度是线元素,仅具有笔触,没有填充。但是现在我想使用一种“内部填充”颜色和一种“笔触/边框”颜色。我猜想line元素不能解决这个问题,
我正在为带有三角对象的 3D 场景编写一个非常基本的光线转换器,一切都工作正常,直到我决定尝试从场景原点 (0/0/0) 以外的点转换光线。 但是,当我将光线原点更改为 (0/1/0) 时,相交测试突
这个问题已经有答案了: Why do people write "#!/usr/bin/env python" on the first line of a Python script? (22 个回
如何使用大约 50 个星号 * 并使用 for 循环绘制一条水平线?当我尝试这样做时,结果是垂直(而不是水平)列出 50 个星号。 public void drawAstline() { f
这是一个让球以对角线方式下降的 UI,但球保持静止;线程似乎无法正常工作。你能告诉我如何让球移动吗? 请下载一个球并更改目录,以便程序可以找到您的球的分配位置。没有必要下载足球场,但如果您愿意,也可以
我在我的一个项目中使用 Jmeter 和 Ant,当我们生成报告时,它会在报告中显示 URL、#Samples、失败、成功率、平均时间、最短时间、最长时间。 我也想在报告中包含 90% 的时间线。 现
我有一个不寻常的问题,希望有人能帮助我。我想用 Canvas (android) 画一条 Swing 或波浪线,但我不知道该怎么做。它将成为蝌蚪的尾部,所以理想情况下我希望它的形状更像三角形,一端更大
这个问题已经有答案了: Checking Collision of Shapes with JavaFX (1 个回答) 已关闭 8 年前。 我正在使用 JavaFx 8 库。 我的任务很简单:我想检
如何按编号的百分比拆分文件。行数? 假设我想将我的文件分成 3 个部分(60%/20%/20% 部分),我可以手动执行此操作,-_-: $ wc -l brown.txt 57339 brown.tx
我正在努力实现这样的目标: 但这就是我设法做到的。 你能帮我实现预期的结果吗? 更新: 如果我删除 bootstrap.css 依赖项,问题就会消失。我怎样才能让它与 Bootstrap 一起工作?
我目前正在构建一个网站,但遇到了 transform: scale 的问题。我有一个按钮,当用户将鼠标悬停在它上面时,会发生两件事: 背景以对 Angular 线“扫过” 按钮标签颜色改变 按钮稍微变
我需要使用直线和仿射变换绘制大量数据点的图形(缩放图形以适合 View )。 目前,我正在使用 NSBezierPath,但我认为它效率很低(因为点在绘制之前被复制到贝塞尔路径)。通过将我的数据切割成
我正在使用基于 SVM 分类的 HOG 特征检测器。我可以成功提取车牌,但提取的车牌除了车牌号外还有一些不必要的像素/线。我的图像处理流程如下: 在灰度图像上应用 HOG 检测器 裁剪检测到的区域 调
我有以下图片: 我想填充它的轮廓(即我想在这张图片中填充线条)。 我尝试了形态学闭合,但使用大小为 3x3 的矩形内核和 10 迭代并没有填满整个边界。我还尝试了一个 21x21 内核和 1 迭代,但
我必须找到一种算法,可以找到两组数组之间的交集总数,而其中一个数组已排序。 举个例子,我们有这两个数组,我们向相应的数字画直线。 这两个数组为我们提供了总共 7 个交集。 有什么样的算法可以帮助我解决
简单地说 - 我想使用透视投影从近裁剪平面绘制一条射线/线到远裁剪平面。我有我认为是使用各种 OpenGL/图形编程指南中描述的方法通过单击鼠标生成的正确标准化的世界坐标。 我遇到的问题是我的光线似乎
我是一名优秀的程序员,十分优秀!