目录

1.下载

2. 安装


配置目标:cuda10.2, cudnn8.0.3,onnxruntime-gpu1.6.0,opencv4.2

其他版本对应关系:

CUDA - onnxruntimeInstructions to execute ONNX Runtime applications with CUDAhttps://onnxruntime.ai/docs/execution-providers/CUDA-ExecutionProvider.html 

如果cudnn8.3.2会报错:

 Could not load library cudnn_cnn_infer64_8.dll.Error code 126 Please make sure cudnn_cnn_infer64_8.dll

预备安装cuda10.2

CUDA Toolkit 11.6 Downloads | NVIDIA Developerhttps://developer.nvidia.com/cuda-downloads?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local

 安装cudnn8.0.3

cuDNN Archive | NVIDIA DeveloperNVIDIA cuDNN is a GPU-accelerated library of primitives for deep neural networks.https://developer.nvidia.com/rdp/cudnn-archive

 这部分不赘述,可参考windows如何安装并切换不同版本的cuda,更新cuda版本_一千零一夜的博客-CSDN博客_cuda更新不同论文用的cuda版本经常不一样,如何在不同的cuda版本之间自由切换。重新配置配置太麻烦了,所以需要同时安装多个cuda,但window安装一个版本后,安装另一个过程中会自动删除前面版本。下面是最简单的切换方式1. 查看当前使用的cuda版本,之前安装好的,没有安装的话,就先安装好一个版本,我的是cuda9.02. 开始安装另一个版本,我的是cuda7.5,安装方法和cuda...https://blog.csdn.net/jizhidexiaoming/article/details/81324733?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522164489389416781685320223%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=164489389416781685320223&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~rank_v31_ecpm-1-81324733.nonecase&utm_term=window%E5%AE%89%E8%A3%85cuda&spm=1018.2226.3001.4450

1.下载

NuGet Gallery | Microsoft.ML.OnnxRuntime.Gpu 1.6.0https://www.nuget.org/packages/Microsoft.ML.OnnxRuntime.Gpu/1.6.0

下载opencv4.2

https://www.nuget.org/api/v2/package/opencv4.2/2020.5.26https://www.nuget.org/api/v2/package/opencv4.2/2020.5.26

2. 安装

 在vs2019,点击工具-》nuGet包管理器-》程序包管理器控制台,输入以下命令进行安装。

# 安装下载好的Microsoft.ML.OnnxRuntime.Gpu
Install-Package Microsoft.ML.OnnxRuntime.Gpu -Source E:\bk\win10-onnxruntime

# 安装opencv4

Install-Package opencv4.2 -Source E:\bk\win10-onnxruntime

安装完成


onnxruntime使用说明文档:

ONNX Runtime (ORT) - onnxruntimeONNX Runtime: cross-platform, high performance ML inferencing and training acceleratorhttps://onnxruntime.ai/docs/

GitHub 加速计划 / on / onnxruntime
13.76 K
2.79 K
下载
microsoft/onnxruntime: 是一个用于运行各种机器学习模型的开源库。适合对机器学习和深度学习有兴趣的人,特别是在开发和部署机器学习模型时需要处理各种不同框架和算子的人。特点是支持多种机器学习框架和算子,包括 TensorFlow、PyTorch、Caffe 等,具有高性能和广泛的兼容性。
最近提交(Master分支:2 个月前 )
120cb5a8 ### Description Add I/O binding example using onnx data type in python API summary. The API is available since 1.20 release. ### Motivation and Context Follow up of https://github.com/microsoft/onnxruntime/pull/22306 to add some documentation. 5 天前
4ffc1ff3 ### Description Fixes: (1) cpu kernel: applying scale before bias and mask like other MHA ops (2) cpu kernel: correct offset during appending past to present. (3) cuda kernel: apply mask if provided; fix output_qk offset. Add DMMHA unit tests 6 天前
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐