1 常用的调优参数
1)调优参数列表
(1)Resourcemanager相关
yarn.resourcemanager.scheduler.client.thread-count ResourceManager处理调度器请求的线程数量 yarn.resourcemanager.scheduler.class 配置调度器
(2)Nodemanager相关
yarn.nodemanager.resource.memory-mb NodeManager使用内存数 yarn.nodemanager.resource.system-reserved-memory-mb NodeManager为系统保留多少内存,和上一个参数二者取一即可 yarn.nodemanager.resource.cpu-vcores NodeManager使用cpu核数 yarn.nodemanager.resource.count-logical-processors-as-cores 是否将虚拟核数当作cpu核数 yarn.nodemanager.resource.pcores-vcores-multiplier 虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2 yarn.nodemanager.resource.detect-hardware-capabilities 是否让yarn自己检测硬件进行配置 yarn.nodemanager.pmem-check-enabled 是否开启物理内存检查限制container yarn.nodemanager.vmem-check-enabled 是否开启虚拟内存检查限制container yarn.nodemanager.vmem-pmem-ratio 虚拟内存物理内存比例
(3)Container容器相关
yarn.scheduler.minimum-allocation-mb 容器最小内存 yarn.scheduler.maximum-allocation-mb 容器最大内存 yarn.scheduler.minimum-allocation-vcores 容器最小核数 yarn.scheduler.maximum-allocation-vcores 容器最大核数
2)参数具体使用案例
9.2 容量调度器使用
9.3 公平调度器使用
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。