美文网首页
opentsdb 优化读速度,解决OOM和StackOverfl

opentsdb 优化读速度,解决OOM和StackOverfl

作者: Minority | 来源:发表于2020-09-24 11:31 被阅读0次

1. 优化查询,解决OOM

最近项目中遇到了opentsdb查询速度慢的问题。不管数据少还是多,查询的总是很慢,而且查询返回的数据量过大的时候会出现OOM。

opentsdb是基于Hbase的,最后找到解决的方法可以把Hbase的BucketCache增大。

原理是什么呢?其实就是增大查询时候的缓存。HBase数据按照block块存储,默认是64K,HBase中提供两种BlockCache的实现:默认on-heap LruBlockCache和BucketCache(通常是off-heap)。通常BucketCache的性能要差于LruBlockCache,然而由于GC的影响,LruBlockCache的延迟会变的不稳定,而BucketCache由于是自己管理BlockCache,而不需要GC,因而它的延迟通常比较稳定,这也是有些时候需要选用BucketCache的原因。详见HBase那些事

了解到这之后还有点疑问,什么是on-heap,off-heap?你可以参考JVM中的堆外内存(off-heap memory)与堆内内存(on-heap memory)

至于如何进行修改,以及更详细的解释,可以参考hbase官方文档

2. 解决 java.lang.StackOverflowError: null

github上面有一个相关的issues,2014年提出的,至今仍是open的状态,大神们解决的方式都是通过修改JVM stack的大小,确实能解决问题,操作过程如下:

cd opentsdb-2.4.0
vi build/tsdb
找到JVMARGS,追加Xss参数,如下图所示
JVMARGS

3. CallbackOverflowError: Too many callbacks in Deferred

这个错误也很恶心,没找到好的办法,看到有篇文章是通过修改opentsdb的源码来解决的。目前的做法是把全量数据进行聚合,以更大的时间粒度来存储,减小查询时返回的数据量,如果哪位大佬可以解决此问题,可以留言或私信,感激不尽~


最近阅读官方文档,找到了适合我项目的处理方法,完美解决以上所有问题,如果你的数据可以拆分为多个metric,可以试试这种方法,把每个metric中的数据基数变小,而且由于Hbase是以Rowkey的方式检索,所以速度会更快。

相关文章

  • opentsdb 优化读速度,解决OOM和StackOverfl

    1. 优化查询,解决OOM 最近项目中遇到了opentsdb查询速度慢的问题。不管数据少还是多,查询的总是很慢,而...

  • Android优化总结

    目录介绍 1.OOM和崩溃优化1.1 OOM优化1.2 ANR优化1.3 Crash优化 2.内存泄漏优化2.0 ...

  • Android应用性能优化和性能分析

    Memory 分析和优化 有OOM发生但是没有现场保留 结合logcat和代码分析造成oom的泄漏点, 一般OOM...

  • 内存优化

    为什么要进行内存优化:APP运行内存限制,OOM导致APP崩溃。APP性能:流畅性、响应速度和用户体验,因为GC回...

  • Android内存优化

    为什么进行内存优化? 1. app运行内存限制,OOM导致app奔溃2. app性能:流畅性、响应速度和用户体验 ...

  • 【android】Android内存优化之OOM

    Android内存优化之OOM Android的内存优化是性能优化中很重要的一部分,而避免OOM又是内存优化中比较...

  • 整理

    1.multidex.install优化 multidex.install优化,无法解决启动速度的问题,是解决主线...

  • Android OOM问题的What Where How

    知己知彼,百战不殆。要想解决和避免OOM,必须先知道OOM是什么,在哪里会发生,最后才是怎样去解决OOM; Wha...

  • ionic3优化启动速度,解决启动白屏

    ionic cordova build android --release --prod => 优化启动速度,解决...

  • oom优化

    当前占用的内存和申请单内存 超过Dalvik虚拟机最大的限制就 会抛出out of memory 内存溢出:oo...

网友评论

      本文标题:opentsdb 优化读速度,解决OOM和StackOverfl

      本文链接:https://www.haomeiwen.com/subject/fsezyktx.html