当前位置: 首页 > ops >正文

windows上tensorrt国内镜像下载和安装教程

tensorrt安装步骤在windows上安装步骤大同小异,以下是在Windows 10上安装TensorRT 10.9.0.34(配合CUDA 11.8和cuDNN 8.9.7)的完整步骤,可以参考安装这个流程,做到举一反三:


检查显卡配置,查询可支持的cuda版本
win左下角搜索cmd打开命令行窗口,输入nvidia-smi
在这里插入图片描述
可以看到显卡最高支持到cuda12.9,我们在后续的cuda版本中要选择12.9以下的。

1. 安装CUDA 11.8

  1. 下载CUDA 11.8
    访问NVIDIA CUDA Toolkit Archive,选择版本11.8.0,下载Windows平台的安装包(如cuda_11.8.0_522.06_windows.exe)。如果下载不下来可以尝试国内镜像下载地址github.com/futureflsl/cuda_cudnn_mirror,里面包含常见的cuda和cudnn版本可供选择,一般都是百度云盘下载即可。

  2. 运行安装程序

    • 双击安装包,选择“自定义”安装(推荐)。
    • 确保勾选以下组件:
      • CUDA Toolkit 11.8
      • CUDA Demo Suite(可选)
      • CUDA Documentation(可选)
    • 其他组件(如NVIDIA驱动)若已安装可跳过。
  3. 验证安装
    打开命令提示符,运行:

    nvcc --version
    

    应输出类似:

    nvcc: NVIDIA (R) Cuda compiler version 11.8
    

在这里插入图片描述


2. 安装cuDNN 8.9.7

  1. 下载cuDNN
    访问NVIDIA cuDNN Archive,注册并登录后下载对应CUDA 11.8的cuDNN 8.9.7(如cudnn-windows-x86_64-8.9.7.29_cuda11-archive.zip)。

在这里插入图片描述

  1. 解压并复制文件

    • 解压zip文件,将以下文件夹内容复制到CUDA安装目录(默认C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8):
      • bin\ → 复制到CUDA的bin\
      • include\ → 复制到CUDA的include\
      • lib\ → 复制到CUDA的lib\x64\
  2. 添加环境变量(可选)
    确保CUDA的bin目录已添加到系统PATH。默认安装cuda后会自动加入环境变量因此这个步骤可以省略:

    C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin
    

3. 安装TensorRT 10.9.0.34

  1. 下载TensorRT
    从NVIDIA TensorRT下载页获取TensorRT-10.9.0.34.Windows.win10.cuda-11.8.zip。如果下载不下来可以尝试国内镜像地github.com/futureflsl/tensorrt_cn_mirror进行下载,当然需要自己对应安装好的cuda版本和cudnn版本,否则下载下来是无法正常使用的。因此要根据自己操作系统和cuda版本进行确认下载。如果您是RTX30-40系列显卡,可以使用cuda11以上版本,如果您是使用最新RTX50系列显卡则需要最新的tensorrt版本比如10.10版本。

  2. 解压TensorRT
    将zip解压到目标目录(如C:\TensorRT-10.9.0.34)。

  3. 设置环境变量

    • 添加TensorRT的lib目录到系统PATH
      C:\TensorRT-10.9.0.34\lib
      
    • 创建环境变量TENSORRT_PATH指向TensorRT根目录:
      TENSORRT_PATH = C:\TensorRT-10.9.0.34
      
  4. 安装Python Wheel(可选)
    如需Python支持,安装对应的wheel文件:

    pip install C:\TensorRT-10.9.0.34\python\tensorrt-10.9.0-cp3x-none-win_amd64.whl
    

    (将cp3x替换为你的Python版本,如cp38对应Python 3.8)

  5. 验证安装

    • C++验证:检查lib目录是否被正确链接。在cmd上输入trtexec有显示则表示正常

    • 在这里插入图片描述

    • Python验证

      import tensorrt
      print(tensorrt.__version__)  # 应输出10.9.0
      

4. 测试示例(可选)

运行TensorRT自带的示例(如sample_mnist):

  1. 进入C:\TensorRT-10.9.0.34\samples\sample_mnist
  2. 按照README编译并运行,确保无报错。

常见问题

  1. 版本冲突:确保CUDA、cuDNN、TensorRT版本严格匹配。
  2. PATH问题:重启系统使环境变量生效。
  3. 依赖缺失:安装Visual Studio 2019/2022的C++工具链(MSVC)。

完成以上步骤后,TensorRT环境即可正常使用。

http://www.xdnf.cn/news/13138.html

相关文章:

  • 金融科技的数字底座
  • Linux 信号机制深度解析:从基础概念到实战应用
  • 小程序的工具库-miniprogram-licia
  • 状态管理详解:Context API、Redux、Recoil 和 Zustand 在 React Native 中的应用
  • Stable Diffusion WebUI 本地部署指南(Windows 11 + RTX 4060 Ti)
  • 西电计组第六章-CPU
  • Flask RESTful 示例
  • 增加Label Verified
  • 《Qt C++ 与 OpenCV:解锁视频播放程序设计的奥秘》
  • 机器学习sklearn |(逻辑回归)求解器(Solver) :优化算法的实现,用于寻找模型参数的最优解
  • Spring boot应用监控集成
  • 鹰盾播放器:安全与用户体验的精妙平衡
  • 互联网大数据求职面试:从Zookeeper到数据挖掘的技术探讨
  • 基于服务器使用 apt 安装、配置 Nginx
  • 熵最小化Entropy Minimization (二): 案例实施
  • 使用 VSCode 开发 FastAPI 项目(1)
  • 从零实现富文本编辑器#5-编辑器选区模型的状态结构表达
  • 云打包生成的ipa上传构建版本经验分享
  • 游戏测试面试八股汇总(持续更新版)
  • dbeaver 查询clickhouse,数据库时间差了8小时
  • UDP(Echoserver)
  • linux之kylin系统nginx的安装
  • 第二部分-IP及子网划分
  • BERT 位置嵌入机制与代码解析
  • Ubuntu 24.04 LTS 长期支持版发布:对服务器用户意味着什么?新特性、升级建议与性能影响初探
  • AWS S3 SDK FOR JAVA 基本使用及如何兼容七牛云
  • [Java基础] stream流中Collectors.toMap报空指针异常情况
  • CppCon 2015 学习:Time Programming Fundamentals
  • Shooter–System Performance Variability as a Function of Recoil Dynamics
  • 一般视频剪辑的硬盘配置是什么