
Hadoop
JSON_ZJS
热爱生活,热爱编程。
展开
-
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.hive.service.HiveServerException
[root@Spark1 hadoop]# hiveException in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/hive/service/HiveServerException at java.lang.Class.forName0(Native Method) at j...原创 2018-07-16 16:06:30 · 5453 阅读 · 0 评论 -
自定义机架感知
副本节点的选择(机架感知) 1、默认情况下 第一个副本在client所处的节点上,如果客户端在集群之外,(在win7上运行程序,写文件到集群上),随机选一个。 第二个副本和第一个副本在不同机架上,节点随机选 第三个副本和第二个副本在相同的机架上,节点随机 2、hadoop2.7.2 第一个副本在client...原创 2018-07-05 17:14:56 · 322 阅读 · 0 评论 -
hadoop fs -ls / 出现WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform
Hadoop fs -ls / 出现WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable问题 配置完hadoop启动的时候出现如下警告信息:WARN util.NativeCodeL...原创 2018-06-21 10:20:46 · 650 阅读 · 0 评论 -
SparkContext源码分析
SparkContext源码分析粗略的说明一下SparkContext源码!createTaskScheduler()针对不同的提交模式,执行不同的方法(local,standalone、yanr等)standalone模式===》》创建一个TaskSchedulerImpl1、 底层通过操作SchedulerBackend,针对不同种类的cluster(stand原创 2018-04-01 14:28:41 · 214 阅读 · 0 评论 -
Spark之Master主备切换机制原理
Spark之Master主备切换机制原理原创 2018-04-01 14:23:27 · 448 阅读 · 0 评论