当前位置: 首页 > ops >正文

Hive3.1.3加载paimon-hive-connector-3.1-1.1.1.jar报错UnsatisfiedLinkError

mkdir /app/apache-hive-3.1.3-sqg-bin/auxlib

cp paimon-hive-connector-3.1-1.1.1.jar /app/apache-hive-3.1.3-sqg-bin/auxlib/

查询paimon表时报错

Exception in thread "main" java.lang.UnsatisfiedLinkError: com.github.luben.zstd.ZstdInputStreamNoFinalizer.recommendedDInSize()J
        at com.github.luben.zstd.ZstdInputStreamNoFinalizer.recommendedDInSize(Native Method)
        at com.github.luben.zstd.ZstdInputStreamNoFinalizer.<clinit>(ZstdInputStreamNoFinalizer.java:35)
        at org.apache.paimon.shade.org.apache.avro.file.ZstandardLoader.input(ZstandardLoader.java:38)
        at org.apache.paimon.shade.org.apache.avro.file.ZstandardCodec.decompress(ZstandardCodec.java:84)
        at org.apache.paimon.shade.org.apache.avro.file.DataFileStream$DataBlock.decompressUsing(DataFileStream.java:392)
        at org.apache.paimon.shade.org.apache.avro.file.DataFileStream.hasNext(DataFileStream.java:226)
        at org.apache.paimon.format.avro.AvroBulkFormat.replaceAvroRuntimeException(AvroBulkFormat.java:156)
        at org.apache.paimon.format.avro.AvroBulkFormat.access$200(AvroBulkFormat.java:43)
        at org.apache.paimon.format.avro.AvroBulkFormat$AvroReader.readNextBlock(AvroBulkFormat.java:119)
        at org.apache.paimon.format.avro.AvroBulkFormat$AvroReader.readBatch(AvroBulkFormat.java:103)
        at org.apache.paimon.format.avro.AvroBulkFormat$AvroReader.readBatch(AvroBulkFormat.java:57)
        at org.apache.paimon.reader.RecordReaderIterator.<init>(RecordReaderIterator.java:37)
        at org.apache.paimon.reader.RecordReader.toCloseableIterator(RecordReader.java:210)
        at org.apache.paimon.utils.ObjectsFile.createIterator(ObjectsFile.java:186)
        at org.apache.paimon.utils.ObjectsFile.readWithIOException(ObjectsFile.java:153)
        at org.apache.paimon.utils.ObjectsFile.read(ObjectsFile.java:134)
        at org.apache.paimon.utils.ObjectsFile.read(ObjectsFile.java:105)
        at org.apache.paimon.manifest.ManifestList.readDataManifests(ManifestList.java:90)
        at org.apache.paimon.operation.ManifestsReader.readManifests(ManifestsReader.java:128)
        at org.apache.paimon.operation.ManifestsReader.read(ManifestsReader.java:114)
        at org.apache.paimon.operation.AbstractFileStoreScan.readManifests(AbstractFileStoreScan.java:417)
        at org.apache.paimon.operation.AbstractFileStoreScan.plan(AbstractFileStoreScan.java:257)
        at org.apache.paimon.table.source.snapshot.SnapshotReaderImpl.read(SnapshotReaderImpl.java:318)
        at org.apache.paimon.table.source.snapshot.ReadPlanStartingScanner.scan(ReadPlanStartingScanner.java:45)
        at org.apache.paimon.table.source.DataTableBatchScan.plan(DataTableBatchScan.java:77)
        at org.apache.paimon.hive.utils.HiveSplitGenerator.generateSplits(HiveSplitGenerator.java:100)
        at org.apache.paimon.hive.mapred.PaimonInputFormat.getSplits(PaimonInputFormat.java:45)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.generateWrappedSplits(FetchOperator.java:425)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.getNextSplits(FetchOperator.java:395)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.getRecordReader(FetchOperator.java:314)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.getNextRow(FetchOperator.java:540)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.pushRow(FetchOperator.java:509)
        at org.apache.hadoop.hive.ql.exec.FetchTask.fetch(FetchTask.java:146)
        at org.apache.hadoop.hive.ql.Driver.getResults(Driver.java:2691)
        at org.apache.hadoop.hive.ql.reexec.ReExecDriver.getResults(ReExecDriver.java:229)
        at org.apache.hadoop.hive.cli.CliDriver.processLocalCmd(CliDriver.java:259)
        at org.apache.hadoop.hive.cli.CliDriver.processCmd(CliDriver.java:188)
        at org.apache.hadoop.hive.cli.CliDriver.processLine(CliDriver.java:402)
        at org.apache.hadoop.hive.cli.CliDriver.executeDriver(CliDriver.java:821)
        at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:759)
        at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:683)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:498)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:323)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:236)

解决办法:
由于paimon-hive-connector-3.1-1.1.1.jar中zstd版本冲突,需要将zstd-jni-1.3.2-2.jar移出hive lib目录

mv /app/apache-hive-3.1.3-sqg-bin/lib/zstd-jni-1.3.2-2.jar /app/apache-hive-3.1.3-sqg-bin/ 

如果还报错要检查是否安装zstd

http://www.xdnf.cn/news/14642.html

相关文章:

  • 解决uniapp vue3版本封装组件后:deep()样式穿透不生效的问题
  • 【攻防篇】解决:阿里云docker 容器中自动启动xmrig挖矿
  • 超实用AI工具分享——ViiTor AI视频配音功能教程(附图文)
  • php项目部署----------酒店项目
  • 知攻善防应急靶机 Windows web 3
  • LVS-DR负载均衡群集深度实践:高性能架构设计与排障指南
  • 笔记02:布线-差分对的设置与添加
  • Liunx操作系统笔记2
  • 《解锁前端潜力:自动化流程搭建秘籍》
  • Boosting:从理论到实践——集成学习中的偏差征服者
  • linux-修改文件命令(补充)
  • Jenkins Pipeline 与 Python 脚本之间使用环境变量通信
  • 数的三次方根
  • 【深度学习新浪潮】空间计算的医疗应用技术分析(简要版)
  • TCP/UDP协议深度解析(二):TCP连接管理全解,三次握手四次挥手的完整流程
  • Linux docker拉取镜像报错解决
  • 空间理解模型 SpatialLM 正式发布首份技术报告
  • 数据结构 顺序表与链表
  • 一步部署APache编译安装脚本
  • 基于SSM框架+mysql实现的监考安排管理系统[含源码+数据库+项目开发技术手册]
  • 使用VIVADO合并FPGA bit文件和Microblaze elf
  • SQL学习笔记2
  • 【大厂机试题解法笔记】可以组成网络的服务器
  • 使用亮数据网页抓取API自动获取Tiktok数据
  • Windows下安装zookeeper
  • 使用OpenCV实现中文字体渲染与特效处理
  • 单片机常用通信外设特点及通信方式对比表
  • 入门级STM32F103C8T6无人机遥控(原理图)
  • window显示驱动开发—支持 DXGI DDI(二)
  • 具身智能新突破:Gemini Robotics On-Device,让机器人拥有“本地大脑”