
hadoop
iteye_12858
这个作者很懒,什么都没留下…
展开
-
忍不住想喷hadoop的文档
就说hdfs的checkpoint node吧,它说[quote]Multiple checkpoint nodes may be specified in the cluster configuration file.[/quote]哥,你敢具体写么?你这东西各种bug你知道么?[url]https://issues.apache.org/jira/browse/HDFS-7871[...2015-07-03 23:27:13 · 142 阅读 · 0 评论 -
hadoop使用过程中的一些问题
1 如何知道一个文件在HDFS上block的分布情况[url]http://stackoverflow.com/questions/6372060/how-to-track-which-data-block-is-in-which-data-node-in-hadoop[/url]2 用windows 电脑向linux hadoop集群上提交job失败org.apache.hado...2015-03-24 18:51:23 · 177 阅读 · 0 评论 -
arcgis与hadoop相结合的一些问题
主要是使用esri公司的开源项目https://github.com/Esri/gis-tools-for-hadoop其中几个问题1 geoprocessing-tools-for-hadoop要求arcgis 10.1,其实还要sp12 hive使用mysql作为存储,在hive上创建表时,报错Specified key was too long; max key length...原创 2015-01-24 14:05:47 · 555 阅读 · 0 评论 -
hbase MTTR介绍
[url]http://zh.hortonworks.com/blog/introduction-to-hbase-mean-time-to-recover-mttr[/url]收藏这篇文章有一段时间了,随着对hbase,hdfs理解的深入,最近才能看懂...其实作者说的主要问题在于,hbase集群往往和hdfs集群共用物理服务器.服务器的crash,在失去一个region server的...2015-01-24 14:04:28 · 265 阅读 · 0 评论 -
用一套zookeeper,hadoop来支撑多个hbase集群
现有一套hbase集群了,又要求假设一套新的hbase集群,不想再搭建一套zookeeper,hadoop,可以让多套hbase集群共享zookeeper和hadoop,只需要修改如下属性即可[code="xml"] hbase.rootdir hdfs://dev01:9000/hbase2 zookeeper.znode.parent /hbase2...2014-12-20 19:50:49 · 431 阅读 · 0 评论 -
编译hadoop 2.3的native library
用了hadoop 2.3 以后,每次启动都出现[quote]WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable[/quote]而且hadoop的cache和短路读(Short-Ci...2014-02-27 17:17:23 · 259 阅读 · 0 评论 -
hadoop 2.3搭建NFS gateway
[url]http://hadoop.apache.org/docs/r2.3.0/hadoop-project-dist/hadoop-hdfs/HdfsNfsGateway.html[/url]按照文档做就行,只是它说限制是不支持hard link,但是我建立soft link也会失败,并导致卷挂载点失败...2014-02-26 14:54:00 · 198 阅读 · 0 评论 -
hadoop 2.3利用Quorum Journal Manager搭建HA环境
具体内容可以参考[url]http://hadoop.apache.org/docs/r2.3.0/hadoop-yarn/hadoop-yarn-site/HDFSHighAvailabilityWithQJM.html[/url]要注意的是[quote]hdfs-daemon.sh journalnode[/quote]命令不存在,要用[quote]hadoop-daemo...2014-02-25 21:12:45 · 96 阅读 · 0 评论 -
hadoop用Quorum Journal Manager(QJM)实现高可用
官方文档写的还行.补充几点1 如果没有自动failover,两个namenode启动后都是standby状态文档上说用 "hdfs haadmin -failover"命令使其中一个active.hdfs haadmin -failover命令正确用法是[quote]hdfs haadmin -failover node13 node14[/quote]2 如果hbase想...2015-07-04 17:03:24 · 327 阅读 · 0 评论 -
hadoop和hostname
启动hadoop集群出错, 写道ERROR org.apache.hadoop.hdfs.server.namenode.NameNode: java.lang.IllegalArgumentException: Does not contain a valid host:port authority: hdfs://hadoop.01:9000 查了一下,hadoop的ho...2015-04-30 16:05:47 · 323 阅读 · 0 评论