百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

记一次生产环境jvm内存泄漏的排查

csdh11 2025-03-26 11:12 21 浏览

1.问题现象

JVM就抛出OOM异常,后台服务进程假死,健康检查都是失败,服务无法访问。

重启服务器

2023-11-14 06:19 收到告警某个线上有个服务一直无响应,监控程序主动把流量摘除。

登录服务器,查看是否有dump文件和gc日志,已经有日志了。赶忙将该服务先重启,挂上流量。

查看业务日志

查看业务日志是否有报错,观察业务日志,发生了
Java.lang.OutOfMemoryError: Java heap space 如下图所示,但是很奇怪的是通过这里定位不出来到底是哪里有问题。当时就怀疑是这块代码有问题,但是看了业务代码没发现问题。

观察GC日志

接下来看了一下gc日志,发现频繁Full GC,并且gc日志是从2023-11-12日开始的,到2023-11-14 06:19 FUll GC 的频率越来越快,最后Full GC 后释放不了空间了,所以导致了
Java.lang.OutOfMemoryError: Java heap space,如下图

MAT(Memory Analyzer Tool)工具进行分析

在这里已经能感觉到内存泄露造成的,但是还没确定是哪块业务代码造成的。接下来我用了MAT(Memory Analyzer Tool)这个工具来查看堆栈日志,如果没有这个工具可以去官网下载,官网地址:
https://eclipse.dev/mat/downloads.php
,根据自己的电脑选择对应的版本下载。

双击运行MemoryAnalyzer.exe的时候如果报以下图错误,需要打开MemoryAnalyzer.ini

添加如下配置:

-vm
C:/Program Files/Java/jdk-17.0.9/bin/javaw.exe

如果还是报错,可以尝试看一下官网MemoryAnalyzer.exe需要jdk的那个版本。

MAT怎么使用在这里就不介绍了,可以看一下官网方文档,文档地址:Help - Eclipse Platform

用MAT打开堆文件,会弹出向导界面,保持默认设置,直接点Finish即是分析内存泄露问题。在点击Finish后,会出现overview界面,您可以点击工具栏上的 Leak Suspects 菜单项来生成内存泄露分析报告,也可以直接点击饼图下方的 Reports->Leak Suspects链接来生成报告。如图:

MAT工具分析了heap dump后在界面上非常直观的展示了一个饼图,该图深色区域被怀疑有内存泄漏,可以发现整个heap才250M内存,深色区域就占了85..02%。接下来是一个简短的描述,告诉我们QueryPlanCache这里占用了大量的内存,在下面还有一个"Details"链接,在点开之前不妨考虑一个问题:为何对象实例会聚集在内存中,为何存活(而未被GC)?

点击了"Details"链接之后,除了在上一页看到的描述外,还有Shortest Paths To the Accumulation Point和Accumulated Objects by Class in Dominator Tree 部分,这里说明了从GC root到聚集点的最短路径,以及完整的reference chain。观察Accumulated Objects部分,BoundedConcurrentHashMap$Segment[]占用最大,但是这里面存放的是什么呢?

接下来我们打开dominator_tree来看一下,展开大对象,发现ConcurrentHashMap中所有的元素都是一个参数值不同的HQL(jpa封装的sql)缓存值,格式化HQL分析,可以看出该HQL 对应的 查询条件 由 IN where 对应一个字段,在代码中查找定位相关代码。

原因解析

通过stackOverflow文章定位了原因,文章地址:Attention Required! | Cloudflare

如果您使用了Hibernate或Spring data jpa。QueryPlanCache会缓存sql,以便于后边的相同的sql重复编译,如果in后的参数不同,hibernate会把其当成不同的sql进行缓存,从而缓存大量的sql导致heap内存溢出。

虽然问题定位了,但是发现了一个奇怪的现象,为啥堆内存的大小是250M呢,明明启动参数是设置的是4个G,经过一凡追踪和询问,上次有个kafka问题重启服务的时候启动脚本带的堆内存大小是250M,思考如果堆内存还是4个G。这个问题多久能报出来?还是永远不会爆出来呢?

解决方案

#管理缓存中 ParameterMetadata 实例的数量(默认为 128)
spring.jpa.properties.hibernate.query.plan_parameter_metadata_max_size=5

#控制计划缓存中的最大条目数(默认为 2048)
spring.jpa.properties.hibernate.query.plan_cache_max_size=64

#设置缓存中保存的最大软引用数。将此值设置为 Integer.MAX_VALUE 以复制 5.1.1 及更早版本的行为。例如2048(默认)
spring.jpa.properties.hibernate.query.plan_cache_max_soft_references=1024

#设置缓存中保存的最大强引用数。例如128(默认)
spring.jpa.properties.hibernate.query.plan_cache_max_strong_references=64

spring.jpa.properties.hibernate.query.in_clause_parameter_padding=true

知识补充:

Shallow Size是对象本身占据的内存的大小,不包含其引用的对象。对于常规对象(非数组)的Shallow Size由其成员变量的数量和类型来定,而数组的ShallowSize由数组类型和数组长度来决定,它为数组元素大小的总和。

Retained Size=当前对象大小+当前对象可直接或间接引用到的对象的大小总和。(间接引用的含义:A->B->C,C就是间接引用) ,并且排除被GC Roots直接或者间接引用的对象

Java启动参数配置看一下这个文章
https://zhuanlan.zhihu.com/p/269591764

相关推荐

探索Java项目中日志系统最佳实践:从入门到精通

探索Java项目中日志系统最佳实践:从入门到精通在现代软件开发中,日志系统如同一位默默无闻却至关重要的管家,它记录了程序运行中的各种事件,为我们排查问题、监控性能和优化系统提供了宝贵的依据。在Java...

用了这么多年的java日志框架,你真的弄懂了吗?

在项目开发过程中,有一个必不可少的环节就是记录日志,相信只要是个程序员都用过,可是咱们自问下,用了这么多年的日志框架,你确定自己真弄懂了日志框架的来龙去脉嘛?下面笔者就详细聊聊java中常用日志框架的...

物理老师教你学Java语言(中篇)(物理专业学编程)

第四章物质的基本结构——类与对象...

一文搞定!Spring Boot3 定时任务操作全攻略

各位互联网大厂的后端开发小伙伴们,在使用SpringBoot3开发项目时,你是否遇到过定时任务实现的难题呢?比如任务调度时间不准确,代码报错却找不到方向,是不是特别头疼?如今,随着互联网业务规模...

你还不懂java的日志系统吗 ?(java的日志类)

一、背景在java的开发中,使用最多也绕不过去的一个话题就是日志,在程序中除了业务代码外,使用最多的就是打印日志。经常听到的这样一句话就是“打个日志调试下”,没错在日常的开发、调试过程中打印日志是常干...

谈谈枚举的新用法--java(java枚举的作用与好处)

问题的由来前段时间改游戏buff功能,干了一件愚蠢的事情,那就是把枚举和运算集合在一起,然后运行一段时间后buff就出现各种问题,我当时懵逼了!事情是这样的,做过游戏的都知道,buff,需要分类型,且...

你还不懂java的日志系统吗(javaw 日志)

一、背景在java的开发中,使用最多也绕不过去的一个话题就是日志,在程序中除了业务代码外,使用最多的就是打印日志。经常听到的这样一句话就是“打个日志调试下”,没错在日常的开发、调试过程中打印日志是常干...

Java 8之后的那些新特性(三):Java System Logger

去年12月份log4j日志框架的一个漏洞,给Java整个行业造成了非常大的影响。这个事情也顺带把log4j这个日志框架推到了争议的最前线。在Java领域,log4j可能相对比较流行。而在log4j之外...

Java开发中的日志管理:让程序“开口说话”

Java开发中的日志管理:让程序“开口说话”日志是程序员的朋友,也是程序的“嘴巴”。它能让程序在运行过程中“开口说话”,告诉我们它的状态、行为以及遇到的问题。在Java开发中,良好的日志管理不仅能帮助...

吊打面试官(十二)--Java语言中ArrayList类一文全掌握

导读...

OS X 效率启动器 Alfred 详解与使用技巧

问:为什么要在Mac上使用效率启动器类应用?答:在非特殊专业用户的环境下,(每天)用户一般可以在系统中进行上百次操作,可以是点击,也可以是拖拽,但这些只是过程,而我们的真正目的是想获得结果,也就是...

Java中 高级的异常处理(java中异常处理的两种方式)

介绍异常处理是软件开发的一个关键方面,尤其是在Java中,这种语言以其稳健性和平台独立性而闻名。正确的异常处理不仅可以防止应用程序崩溃,还有助于调试并向用户提供有意义的反馈。...

【性能调优】全方位教你定位慢SQL,方法介绍下!

1.使用数据库自带工具...

全面了解mysql锁机制(InnoDB)与问题排查

MySQL/InnoDB的加锁,一直是一个常见的话题。例如,数据库如果有高并发请求,如何保证数据完整性?产生死锁问题如何排查并解决?下面是不同锁等级的区别表级锁:开销小,加锁快;不会出现死锁;锁定粒度...

看懂这篇文章,你就懂了数据库死锁产生的场景和解决方法

一、什么是死锁加锁(Locking)是数据库在并发访问时保证数据一致性和完整性的主要机制。任何事务都需要获得相应对象上的锁才能访问数据,读取数据的事务通常只需要获得读锁(共享锁),修改数据的事务需要获...