美文网首页
Presto内存及优化

Presto内存及优化

作者: liuzx32 | 来源:发表于2020-09-27 15:56 被阅读0次

1.1 内存调优参数

query.max-memory:表示单个查询在分布在所有相关节点上能用的内存之和的最大值。
query.max-memory-per-node:表示单个查询在单个节点上用户内存能用的最大值。
query.max-total-memory-per-node:表示单个查询在单个节点上用户内存能用的最大值和系统内存量。其中系统内存是读取器、写入器和网络缓冲区等在执行期间使用的内存。
memory.heap-headroom-per-node:这个内存主要是第三方库的内存分配,无法被统计跟踪,默认值是-Xmx * 0.3。

注意点:

  1. query.max-memory-per-node小于query.max-total-memory-per-node。
  2. query.max-total-memory-per-node 与memory.heap-headroom-per-node 之和必须小于 jvm max memory 也就是jvm.config 中配置的-Xmx。

1.2 内存调优参数

操作场景:Presto由于是完全基于内存的计算,经常出现OOM,需要调整内存。

修改参数

image.png

1.3 常见OOM报错

1.3.1 Query exceeded per-node total memory limit of xx

            适当增加query.max-total-memory-per-node。

1.3.2 Query exceeded distributed user memory limit of xx

            适当增加query.max-memory。

1.3.3 Could not communicate with the remote task. The node may have crashed or be under too much load

            内存不够,导致节点crash,可以查看/var/log/message。

1.4 作业并行度

操作场景:调整线程数增大task的并发以提高效率。

修改参数

image.png

1.5 元数据缓存

操作场景:Presto支持Hive connector,元数据存储在Hive metastore中,调整元数据缓存的相关参数可以提高访问元数据的效率。

修改参数

image.png

1.6 Hash优化

操作场景:针对Hash场景的优化。

修改参数

image.png

1.7 优化OBS相关参数

操作场景:Presto支持on OBS,读写OBS过程中可以调整OBS客户端参数来提交读写效率。

修改参数

image.png

相关文章

  • Presto内存及优化

    1.1 内存调优参数 query.max-memory:表示单个查询在分布在所有相关节点上能用的内存之和的最大值。...

  • Presto统计信息

    表统计 Presto支持基于统计的查询优化。为了使查询能够利用这些优化,Presto必须具有该查询中表的统计信息。...

  • Presto源码分析之Slice

    Slice是Presto里面用来对内存高效地、自由地进行操作的接口。它在Presto里面很关键, Presto里面...

  • 大规模NodeJS项目架构与优化

    聊聊大规模NodeJS项目架构 NodeJS异步IO原理浅析及优化方案 NodeJS内存管理机制及内存优化 大规模...

  • android优化

    布局优化 避免过度绘制 绘制优化 内存泄漏优化 响应速度优化 ListView/RecycleView及Bitma...

  • 深入理解Presto(3):Presto内存管理

    上一篇文章,我们讲了Presto的架构。Presto是一款内存计算型的引擎,所以对于内存管理必须做到精细,才能保证...

  • 垃圾回收及内存调试工具的介绍

    Android应用性能优化 内存的优化 垃圾回收及内存调试工具的介绍#### 概要: Android的Genera...

  • MySQL Server优化

    1、MySQL内存管理及优化 1.1、内存优化原则 (1)将尽量多的内存分配给MySQL做缓存,但要给操作系统和其...

  • iOS-内存管理、性能优化、离屏渲染相关

    本篇涵盖程序内存管理、优化相关、离屏渲染相关等. 1.深入OC的内存管理2.iOS内存、缓存及存储优化3.Xcod...

  • 一张图搞定redis内存优化及配置

    Redis优化及配置 Redis所有的数据都在内存中,而内存又是非常宝贵的资源。常用的内存优化方案有如下几部分:一...

网友评论

      本文标题:Presto内存及优化

      本文链接:https://www.haomeiwen.com/subject/aakluktx.html