当前位置: 首页 > ops >正文

解决SparkSQL创建出来的数据库hive中无法识别的问题

废话不多说,在我们启动Hive的metastore、hiveserver2和spark的thriftserver 服务后,使用datagrip连接spark发现连接正常。

在控制台,创建数据库后发现Hive无法识别:

我们去查看Hive的元数据库的DBS表,发现abc 这个数据库创建的地址错误,创建在了本地,没有创建在我们的HDFS路径下:

 这个原因是:

Spark未成功关联Hive Metastore,Spark对Hive表的支持依赖于Hive的元数据服务,如果Spark无法读取Hive的元数据配置,会默认使用内置的Derby数据库作为本地元数据存储,导致创建的库表只存在于Spark本地的Derby中,Hive自然无法识别。

解决方案:

1.在hive的conf中修改hive-site.xml

<property><name>hive.metastore.schema.verification</name><value>false</value>
</property>

2.将hive-site.xml 复制到 spark的conf 下 

cp /opt/installs/hive/conf/hive-site.xml /opt/installs/spark/conf

 3.修改spark下的hive-site.xml

<property><name>hive.server2.thrift.port</name><value>10001</value><description>Port number of HiveServer2 Thrift interface when hive.server2.transport.mode is 'binary'.</description></property>

4.不要忘了分发: 

xsync.sh /opt/installs/spark/conf/hive-site.xml

5.重启thrift服务:

/opt/installs/spark/sbin/stop-thriftserver.sh/opt/installs/spark/sbin/start-thriftserver.sh --hiveconf hive.server2.thrift.port=10001 --hiveconf hive.server2.thrift.bind.host=bigdata01 --master yarn --conf spark.sql.shuffle.partitions=2

使用datagrip 重新连接一下,记得刷新一下连接。

测试一下:

 至此,成功!

http://www.xdnf.cn/news/16711.html

相关文章:

  • #Datawhale 组队学习#7月-强化学习Task6
  • C语言复习记录
  • OracleJDK和OpenJDK​区别,为什么Spring官方推荐使用OpenJDK?
  • 微服务 02
  • 2025虚幻5光明之魂开发思考1——借鉴软件工程
  • 初始sklearn 数据集获取、分类、划分与特征工程
  • 元素定位常见问题
  • Redis线程模型讨论
  • Flutter兼容的iOS的最低版本号
  • Java 大视界 -- Java 大数据在智能医疗远程健康监测与疾病预防预警中的应用(374)
  • 【IQA技术专题】DISTS代码讲解
  • Git 详细安装配置教程(Windows版)
  • 【每日一错】mysql账户及权限删除
  • 计数组合学7.9( 标量积)
  • vk框架或者普通函数封装的一些函数可以拿取使用【会持续更新】
  • [特殊字符] 数据可视化结合 three.js:让 3D 呈现更精准,3 个优化经验谈
  • 2025年物联网新趋势:格行随身WiFi的模块化架构与低延迟优化
  • 【09】大恒相机SDK C#开发 ——库函数 IntPtr ConvertToRGB24详细解释 及 示例
  • 【烧脑算法】Dijkstra 算法:解决最短路问题
  • Unity_数据持久化_PlayerPrefs存储各数据类型
  • 【爬虫实战】使用Python和JS逆向基于webpack的游戏平台
  • 【Java安全】CC1链
  • 计算机网络:什么是光猫
  • 安卓脱壳指南
  • 5G毫米波射频前端设计:从GaN功放到混合信号集成方案
  • TDengine 中 TDgp 中添加算法模型(预测分析)
  • 通过 Docker Compose 快速部署RocketMQ 服务
  • openKylin 2.0 SP2揭秘 - 磐石架构:不变的核心,更好的体验
  • 从 MySQL 迁移到 TiDB:使用 SQL-Replay 工具进行真实线上流量回放测试 SOP
  • Video_1920×1080i 1920_1080p