leongfans的博客
leongfans · 共 19 篇文章
HDFS中的部分Datanode存在大量没有删除的Block磁盘被占满
数据中心的HBase(cdh3u3)集群已经稳定运行了差不多半年多了。由于前期规划的不合理,最近给所有的数据节点分批重装了一下系统,最后发现经常有几个节点出现磁盘空间不足的异常。查看文件系统,发现原来大约占用6T空间的HDFS已经占用了差不多15+T的数据 1、先用fsck进行文件系统检查,发现大约占用2T的空间(*3约等于6T,数据重量差不多就是这么多),并没有数据块有过多的备份。 2、查看对应datanode的数据目录,发现确实有很多的数据块(量非常大,都超过了实际hdfs中的数据块总量) 这时候,猜测应该是有很多需要被删除的数据块没有被删除。猜测可能是NameNode和DataNode…
HBase运维-节点故障Server REPORT rejected;
hbase性能测试,加载了一个晚上的数据,早上来时发现一个节点挂掉了,其他一切正常。 查看日志,发下如下问题 12/01/04 09:45:39 FATAL regionserver.HRegionServer: ABORTING region server serverName=hadoop5.site,60020,1325663355680, load=(requests=983, regions=252, usedHeap=3085, maxHeap=4983): Unhandled exception: org.apache.hadoop.hbase.YouAreDeadExcept…
2012-01-05 10:09 · HBase · 评论(0)
[转]HBase性能调优
[转]HBase性能调优 2011-10-12 7:00 因 官方Book Performance Tuning 部分章节没有按配置项进行索引,不能达到快速查阅的效果。所以我以配置项驱动,重新整理了原文,并补充一些自己的理解,如有错误,欢迎指正。 配置优化 zookeeper.session.timeout 默认值 :3分钟(180000ms) 说明 :RegionServer 与Zookeeper间的连接超时时间。当超时时间到后,ReigonServer会被Zookeeper从RS集群清单中移除,HMaster收到移除 通知后,会对这台server负责的regions重新balance,让…
修复hbase region hole(region空洞,两个region rowkey不连续)问题流程
原文链接:http://blog.csdn.net/a221133/article/details/7085257 修复hbase region hole问题流程 1,查询资料用hbase org.jruby.Main check_meta.rb --fix和 hbase hbck -fix会造成数据丢失,考虑其他办法, 首先考虑用major_compact对该表进行更新看是否会检测到问题并修复,major_compact完成之后未成功 2,重新起动hbase集群,是否会进行闭环检测?未成功,但是0.90.4将会带有检测并修复功能 3,考虑通过修改.meta.表,将非闭环改成闭环,测试机一直…
2011-12-30 14:10 · HBase · 评论(0)
Hadoop源码解读-Http服务器Jetty的使用
Hadoop内嵌了Http服务器Jetty,主要有以下两方面的作用 1、Web访问接口,用于展示Hadoop的内部状态 2、参与Hadoop集群的运行和管理 以Namenode为例 Namenode通过 startHttpServer(conf); 来启动HttpServer(Jetty),具体代码如下 httpServer = new HttpServer("hdfs", infoHost, infoPort, infoPort == 0, conf, SecurityUtil.getAdminAcls(conf, DFSConfigKeys.DFS_ADMIN)); 深入HttpServ…
2011-12-29 12:05 · 云计算 · Hadoop · HDFS · MapReduce · Jetty · 评论(2)
让Hadoop程序轻松使用第三方Jar
from http://hi.baidu.com/adamsi/blog/item/7415adef32fb121ffcfa3cd9.html 写过Hadoop程序的人都知道,引用第三方的jar是个麻烦事情。这里我介绍一个方法,可以用ant脚本把自己的代码类和所有的第三方jar都打包到一个jar中,然后就能用hadoop jar xxx.jar来运行整个程序。 对应的ant任务描述如下,百度空间贴代码不容易,我就不缩进了,大家谅解。 我们主要在hadoop-0.15.0上使用这种打包方法,非常方便,在新版本上也是没有问题的。如果在你的hadoop cluster上有问题,欢迎留言交流。
redhat yum from iso
Today I picked up Redhat again for the RHCE exam is coming soon. After installing the basic system, meet problem, I need to do some DNS practice. But I don't like install the rpm package from DVD, I just want to yum it from the ISO source. So in order to make a good practice environment. I did the …
2011-11-02 16:31 · Linux · 评论(0)
Suse启动hadoop-chd3u1失败的解决方案
配置一个新的hadoop集群,使用cloudera的介质,全部部署好以后启动发现两台suse的机器无法正常启动,错误信息如下: hadoop5: /home/hadoop/hadoop/hadoop/bin/hadoop: line 402: 14954 Aborted (core dumped) nohup $ JAVA_EXEC -Dproc $COMMAND $JAVA_HEAP_MAX $HADOOP_OPTS -classpath "$CLASSPATH" $CLASS "$@" >"$_HADOOP_DAEMON_OUT" 2>&1 </dev/null hadoop5: # h…
使hadoop支持Splittable压缩lzo
使hadoop支持Splittable压缩lzo 上一篇 / 下一篇 2009-12-31 18:57:20 / 个人分类:hadoop 查看( 421 ) / 评论( 2 ) / 评分( 0 / 0 ) 在hadoop中使用lzo的压缩算法可以减小数据的大小和数据的磁盘读写时间,不仅如此,lzo是基于block分块的,这样他就允许数据被分解成chunk,并行的被hadoop处理。这样的特点,就可以让lzo在hadoop上成为一种非常好用的压缩格式。 由于压缩的数据通常只有原始数据的1/4,在HDFS中存储压缩数据,可以使集群能保存更多的数据,延长集群的使用寿命。不仅如此,由于mapredu…
HBase的C客户端编译问题
编写HBase的C语言客户端,通过JNI调用JVM来实现 编译过程中出现如下错误 gcc -L/home/hadoop/media/jdk1.6.0_14/jre/lib/amd64/server -shared -o "libUdmslogParser" ./bytesUtil.o ./delete.o ./get.o ./hashtable.o ./hbase.o ./hdfs.o ./hdfsUtil.o ./htable.o ./jniHelper.o ./put.o ./recordFile.o ./result.o -ljvm /usr/lib64/gcc/x86_64-suse…
Ubuntu添加硬盘
Ubuntu添加硬盘 2011-05-23 17:15 Ubuntu下重新挂载一个硬盘:方法如下: 1 、我们以Vmware的Ubuntu为例,在虚拟机设置中,添加新的硬件设备,选择Hard Disk。(这里如果不关闭Ubuntu系统就不能增加新的硬件设备) 之后点击下一步,选择硬盘类型,可以选择IDE,或是SCSI,这里选择SCSI,下一步,选择虚拟新硬盘的位置,将之命名为Ubuntu2.vmdk,下一步,设定硬盘大小,我这里设定为2G,并选择Allocate all disk space now,不选这项,刚开始,硬盘比较小,但是随着硬盘读写访问,虚拟硬盘文件会越来越大。选择该项后,虚拟…
2011-07-23 09:45 · Linux · 评论(0)
iostat命令详解
iostat命令详解 收藏 author:skate time :2009/03/12 iostat 结果解析 iostat -x Linux 2.6.9-78.ELsmp (20081006-1724) 11/20/2009 avg-cpu: %user %nice %sys %iowait %idle 0.19 0.00 0.04 0.03 99.73 Device: rrqm/s wrqm/s r/s w/s rsec/s wsec/s rkB/s wkB/s avgrq-sz avgqu-sz await svctm %util sda 0.05 17.60 1.46 7.72 80…
2011-06-13 16:44 · Linux · 评论(0)
HBase中Table的Region数不一致的解决方案
最近在给HBase做性能测试(0.89版本),发现了一个异常现象:HBase中实际加载的Region数量要远远大于对应的Table中的Region数量,此时已经无法通过disable关闭对应的表。 一开始系统通过重启HBase来解决这个问题。但是重启以后,发现加载的Region数量仍然远远大于Table中的实际Region数(也远远大于HDFS中对应的目录数量),所以一个是.META.表出现了不一致的现象。 搜索maillist,发现以下一段话 Use the bin/add_ table .rb tool. It will recreate all the .META. entries b…
2011-06-07 14:22 · HBase · 评论(0)
JVM监控工具介绍jstack, jconsole, jinfo, jmap, jdb, jsta[zz]
JVM监控工具介绍jstack, jconsole, jinfo, jmap, jdb, jsta zz from:http://www.517sou.net/Article/JVM-monitoring-tools-jstack-jconsole-jinfo-jmap-jdb-jsta.aspx JVM监控工具介绍 jstack -- 如果java程序崩溃生成core文件,jstack工具可以用来获得core文件的java stack和native stack的信息,从而可以轻松地知道java程序是如何崩溃和在程序何处发生问题。另外,jstack工具还可以附属到正在运行的java程序中,看…
2011-05-25 17:19 · Java · 评论(0)