HBase Sync功能导致HBase入库性能下降

天翼云开发者社区
• 阅读 3

本文分享自天翼云开发者社区《HBase Sync功能导致HBase入库性能下降》,作者:5****m

问题背景与现象 HBase入库慢,regionserver日志中大量打印slow sync。 原因分析 1.对比正常写入时间段监控,检查HBase服务整体CPU、内存以及NameNode RPC在异常时间段是否增加; 2.检查regionserver日志中slow sync打印是否集中在个别RegionServer节点; 3.如果slow sync集中于个别regionserver节点,检查该节点是否存在热点region、节点RPC是否持续被占用、是否Full GC,请求量是否增加。 4.如果regionserver节点中slow sync无规律,检查datanode日志中slow打印情况,根据slow类型分析写入慢原因; a.Slow manageWriterOsCache:将块写入OS缓存有延迟。 b.Slow BlockReceiver write packet to mirror :网络上写块有延迟。 c.Slow BlockReceiver write data to disk cost 、Slow flushOrSync:将块写入磁盘有延时。 根据regionserver中写入慢的block id在NameNode日志中查询块写入链路,根据链路信息分析写入三个副本时哪个副本写入有异常,DataNode性能不足,导致写入文件耗时较长。 解决办法 1.网络原因联系网络工程师整改网络 2.磁盘问题需具体分析是磁盘性能不足还是磁盘坏道 3.如果HDFS或HBase服务写入性能已达到瓶颈,可关闭sync功能。 hbase.regionserver.hfile.durable.sync=false hbase.regionserver.wal.durable.sync=false

点赞
收藏
评论区
推荐文章
Stella981 Stella981
3年前
Hive 数据导入HBase的2种方法详解
最近经常被问到这个问题,所以简单写一下总结。Hive数据导入到HBase基本有2个方案:  1、HBase中建表,然后Hive中建一个外部表,这样当Hive中写入数据后,HBase中也会同时更新  2、MapReduce读取Hive数据,然后写入(API或者Bulkload)到HBase1、Hive外部表创
Stella981 Stella981
3年前
MapReduce
MapReduce从HBase读取处理后再写入HBase代码如下packagecom.hbase.mapreduce;importjava.io.IOException;importorg.apache.hadoop.conf.Conf
Stella981 Stella981
3年前
HBase 在HDFS上的物理目录结构
根目录配置项<namehbase.rootdir</name默认“/hbase”根级文件/hbase/WALs被HLog实例管理的WAL文件。/hbase/WALs/datahbase.com,60020,1443159380730对于每个HregionServer,日志目录中都包含一个对应的子目录
Stella981 Stella981
3年前
HBase启动失败
如果在hbase的shell中输入了status报错,hbase(main):001:0statusERROR:org.apache.hadoop.hbase.ipc.ServerNotRunningYetException:Serverisnotrunningyetatorg.apache.ha
Stella981 Stella981
3年前
Hbase FAQ热门问答小集合
这个问答是根据云栖社区上对HBase的FAQ中整理出来的。问:Hbase大量写入很慢,一个列族,每个200多列,一秒写30000条数据,使用mutate添加数据,clientbuffer缓存大小为10M,四台测试机,128G内存,分配60G给Hbase,该怎么优化?答:可以使用bulkload方式写入,通过mr程序生产hfile
Stella981 Stella981
3年前
HBase 启动后HMaster进程自动消失
原因分析1、hadoop与hbase版本不兼容,导致的异常。2、log日志信息显示org.apache.hadoop.hbase.TableExistsException:hbase:namespace异常,可能是更换了hbase的版本后zookeeper还保留着上一次的hbase设置,造成了冲突。解决方案1、
Stella981 Stella981
3年前
HBase应该如何优化?
1HBase高可用在HBase中Hmaster负责监控RegionServer的生命周期,均衡RegionServer的负载,如果Hmaster挂掉了,那么整个HBase集群将陷入不健康的状态,此时的工作状态并不会维持太久。所以需要配置hbase的高可用2预分区
Stella981 Stella981
3年前
Hbase入库基于java
计划每周写一篇博客,督促自己快点学习,懒惰会让人上瘾,努力奋斗,不忘初心。某天,忽然来任务,要做hbse入库,之前自学过hbase,感觉挺简单的,网上搜了些model直接撸码,一天完成核心功能,测试了下跑通了,更加需求建了两个表,每张表日录入数据量接近两千万,感觉挺简单的。大概过了快一个月,这个很简单的东西,罢工了提示查询失败。因业务需要,设计时ke
大数据通用组件故障处理
本文分享自天翼云开发者社区《》,作者:fnHDFS1.HDFS服务一直异常检查HDFS是否处于安全模式。检查ZooKeeper服务是否运行正常。2.HDFS维护客户端出现OutOfMemoryError异常使用HDFS客户端之前,需要在HADOOPCLIE
HDFS目录配额(quota)不足导致写文件失败
本文分享自天翼云开发者社区《》,作者:5m问题背景与现象给某目录设置quota后,往目录中写文件失败,出现如下问题“TheDiskSpacequotaof/tmp/tquota2isexceeded”。omm@18939150115client$hdf
天翼云开发者社区
天翼云开发者社区
Lv1
天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。
文章
859
粉丝
16
获赞
40