hadoop - 固件 Cosmos Hive 授权问题

标签 hadoop jdbc hive fiware fiware-cosmos

我正在使用 Fiware Cosmos 的共享实例(这意味着我没有 root 权限)。直到今天,我已经成功使用 jdbc 和 Hive CLI 远程访问和管理 hive 中的表。 但现在启动 Hive CLI 时出现此错误:

log4j:ERROR Could not instantiate class [org.apache.hadoop.hive.shims.HiveEventCounter].
java.lang.RuntimeException: Could not load shims in class org.apache.hadoop.log.metrics.EventCounter
    at org.apache.hadoop.hive.shims.ShimLoader.createShim(ShimLoader.java:123)
    at org.apache.hadoop.hive.shims.ShimLoader.loadShims(ShimLoader.java:115)
    at org.apache.hadoop.hive.shims.ShimLoader.getEventCounter(ShimLoader.java:98)
    at org.apache.hadoop.hive.shims.HiveEventCounter.<init>(HiveEventCounter.java:34)
    at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
    at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:39)
    at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:27)
    at java.lang.reflect.Constructor.newInstance(Constructor.java:513)
    at java.lang.Class.newInstance0(Class.java:357)
    at java.lang.Class.newInstance(Class.java:310)
    at org.apache.log4j.helpers.OptionConverter.instantiateByClassName(OptionConverter.java:330)
    at org.apache.log4j.helpers.OptionConverter.instantiateByKey(OptionConverter.java:121)
    at org.apache.log4j.PropertyConfigurator.parseAppender(PropertyConfigurator.java:664)
    at org.apache.log4j.PropertyConfigurator.parseCategory(PropertyConfigurator.java:647)
    at org.apache.log4j.PropertyConfigurator.configureRootCategory(PropertyConfigurator.java:544)
    at org.apache.log4j.PropertyConfigurator.doConfigure(PropertyConfigurator.java:440)
    at org.apache.log4j.PropertyConfigurator.doConfigure(PropertyConfigurator.java:476)
    at org.apache.log4j.PropertyConfigurator.configure(PropertyConfigurator.java:354)
    at org.apache.hadoop.hive.common.LogUtils.initHiveLog4jDefault(LogUtils.java:127)
    at org.apache.hadoop.hive.common.LogUtils.initHiveLog4jCommon(LogUtils.java:77)
    at org.apache.hadoop.hive.common.LogUtils.initHiveLog4j(LogUtils.java:58)
    at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:641)
    at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:625)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
    at java.lang.reflect.Method.invoke(Method.java:597)
    at org.apache.hadoop.util.RunJar.main(RunJar.java:197)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.log.metrics.EventCounter
    at java.net.URLClassLoader$1.run(URLClassLoader.java:202)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:190)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:306)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:301)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:247)
    at java.lang.Class.forName0(Native Method)
    at java.lang.Class.forName(Class.java:171)
    at org.apache.hadoop.hive.shims.ShimLoader.createShim(ShimLoader.java:120)
    ... 27 more
log4j:ERROR Could not instantiate appender named "EventCounter".

Logging initialized using configuration in jar:file:/usr/local/apache-hive-0.13.0-bin/lib/hive-common-0.13.0.jar!/hive-log4j.properties

但是,我可以在 Hive CLI 中执行选择和创建。 如果我随后尝试远程访问 Hive,我会得到以下信息:

Connecting to jdbc:hive://x.x.x.x:10000/default?user=user&password=XXXXXXXXXX
Could not establish connection: java.net.ConnectException: Connection refused

在错误出现之前,我没有对代码或命令进行任何更改,并且在谷歌搜索后我没有找到任何可行的解决方案。

如果有人可以指导我找到问题所在,或者如何找到问题,或者更好地解决问题,我将不胜感激。

提前致谢!

最佳答案

HiveServer2(Hive JDBC 服务) 是一个非常不稳定的软件。在我们的 Prod 集群中,我们有一个 CRON 作业每天重新启动每个实例,即使如此,有时它也会出现 OutOfMemory 错误,然后挂起并显示 Connectionrejected 就像你所展示的那样。向您的 Hadoop 管理员开一张票,以便他/她重新启动该死的服务。

另一方面,org.apache.hadoop.log.metrics.EventCounter 消息闻起来像是有人试图在某处更改共享配置(或尝试升级一些 JAR),现在 Hive 认为它运行在非常非常旧的 Hadoop 版本上

=> 例如评论 Hive-4133或者那个MapR support post

关于hadoop - 固件 Cosmos Hive 授权问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/32120317/

相关文章:

hadoop - 无法运行start-all.sh hadoop ubuntu

java - HBase代码无法在Intellij中成功运行

hadoop - Hive 中的 UpdateInputAccessTimeHook 没有实现 Hook 接口(interface),所以它不能从 Hive 中使用吗?

sql - 语法错误 JMeter DB2

select - 如何在 HIVE 的 CASE 语句中使用 SET 列表变量

hadoop - Hive外表数据是不是和内表一样分布到数据节点?

java - JDBC重新读取ResultSet中的数据

java - Tomcat + Jersey + MySQL 连接关闭后不允许操作

mysql - Hive Metastore 服务器 (CDH) 启动失败

Hive 不在查询中使用分区