当前位置: 首页 > news >正文

RK3588 + Ubuntu24.04 部署 rknn 模型——不用[特殊字符]版全流程教程

假定你拿到了一块联网但没挂🪜的 rk3588 板子,配置 Ubuntu24.04,要部署 rknn 模型

一般来讲模型要先转换成 onnx,onnx 再转换成 rknn,详见链接的文章。如何转 onnx 有空再写

目录

1. 配置 miniconda

 2. 配置 rknn 环境

3. 部署模型


1. 配置 miniconda

打开 anaconda 官网,下载。亲测下载 anaconda 非常慢,所以选择了 miniconda

图省事也可以直接运行我的命令来下载:

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-aarch64.sh

下载好后得到一个 .sh 文件,运行:

chmod 777 Miniconda3-latest-Linux-aarch64.sh
bash Miniconda3-latest-Linux-aarch64.sh

接下来是 miniconda 的安装过程,依次输入:yes -> enter -> no,完成安装

配图是 anaconda 安装过程,别管

最后一步的安装路径要记住,默认是 /root/miniconda3

anaconda 最后一步要选 yes,miniconda 要选 no,很反人类。如果你不幸选错,恭喜你需要手动激活环境:

source /root/miniconda/bin/activate

激活后,命令行提示符应变为 (base),表示 base 环境已激活。这时你可以正常使用 conda 命令

还可以让 miniconda 修改 shell 文件,这样每次新打开一个窗口都直接进入 base 环境:

conda init
source ~/.bashrc

装好后,就可以启动一个虚拟环境啦:

conda create -n rknn python=3.12 -y
conda activate rknn

注意用 python 3.12,后面都会用这个版本 

 2. 配置 rknn 环境

如果只能连国内网,下载官方 rknn toolkit 会慢到怀疑人生。建议下载 gitee 的仓库:rknn-toolkit: github迁移版本

而 gitee 仓库不支持 arm 架构,3588 板子是 arm,所以要再从官方仓库下载两个文件:rknn-toolkit: github迁移版本

下载里面的 arm64_requirements_cp312.txt 和 rknn_toolkit2-2.3.2-cp312....whl 到本机,再用 scp 传到 3588。如果不会 scp,问一下 ai

接下来用这两个文件来配置环境依赖,下面一个文件名用 tab 补全,懒得打

pip install -r arm64_requirements_cp312.txt
pip install rknn_toolkit2-2.3.2-cp312....whl

出现这个 warning 是正常的:

 

安装完成后就可以 infer 模型

3. 部署模型

由于我的 rknn 模型是 qwen2 转化过来的,所以还要装 transformers:

pip install transformers

接下来自己写一个 infer 的脚本,然后运行就可以啦

http://www.xdnf.cn/news/998191.html

相关文章:

  • 管家婆软件下载中心-管家婆软件辉煌安装包下载、应用程序、最新版软件
  • STL难记忆却常用的用法集合(持续更新中)
  • 自动驾驶系统研发系列—AI大模型驱动的智能座舱:从概念到落地的工程解析
  • MonkeyOCR: 基于结构-识别-关系三元组范式的文档解析
  • 客户端登录not foud的问题解决
  • PostgreSQL 用户名大小写处理规则
  • 黑龙江亿林网络启盛裸金属服务器评测:24 核 32G + 联通千兆共享,高负载业务的新利器
  • ​​​​​​​《TCP/IP协议卷1》第9章 IP选路
  • 鸟类识别与分类相关数据集(猫脸码客第252期)
  • 医疗行业网络安全的综合防护策略
  • 大模型在关键社会领域的应用研究:金融、医疗和法律
  • 一种安全实用、准确率高的Text2Sql方案
  • element 跨页选中,回显el-table选中数据
  • 《linux2.4内存管理》第3章 页表管理
  • 《TCP/IP协议卷1》 TCP的坚持和保活定时器
  • vue2为什么不能检查数组的的变化,改怎样解决
  • io_uring的异步IO机制
  • LatentSync V8版 - 音频驱动视频生成数字人说话视频 更新V1.6版模型 支持50系显卡 支持批量 一键整合包下载
  • 集装箱残损识别系统如何检测残损?它的识别率能达到多少?
  • adb 查看android 设备的硬盘及存储空间
  • 积分商城拼团系统框架设计
  • 【ffmpeg】将多段ts视频片段合成一个mp4
  • Django框架认证系统默认在登录成功后尝试重定向到/accounts/profile/
  • 爱普特APT-LINK PROG带电烧录器!STM32/SPI Flash高性能在线编程器详细解析
  • 图像处理控件Aspose.Imaging教程:用Java将 CMX 转换为 PNG
  • 夸克AI高效学习法,打造你的个性化学习引擎
  • 用MATLAB打造智能温度监测系统:从实时绘图到预测分析
  • 【hadoop】实时计算词频案例
  • 商业智能中的地图可视化模板:助力数据高效呈现
  • 55、错误处理-【源码流程】几种异常处理原理