window通过nuget安装onnxruntime-gpu(c++版)
onnxruntime
microsoft/onnxruntime: 是一个用于运行各种机器学习模型的开源库。适合对机器学习和深度学习有兴趣的人,特别是在开发和部署机器学习模型时需要处理各种不同框架和算子的人。特点是支持多种机器学习框架和算子,包括 TensorFlow、PyTorch、Caffe 等,具有高性能和广泛的兼容性。
项目地址:https://gitcode.com/gh_mirrors/on/onnxruntime
免费下载资源
·
目录
配置目标:cuda10.2, cudnn8.0.3,onnxruntime-gpu1.6.0,opencv4.2
其他版本对应关系:
如果cudnn8.3.2会报错:
Could not load library cudnn_cnn_infer64_8.dll.Error code 126 Please make sure cudnn_cnn_infer64_8.dll
预备安装cuda10.2
安装cudnn8.0.3
1.下载
下载opencv4.2
2. 安装
在vs2019,点击工具-》nuGet包管理器-》程序包管理器控制台,输入以下命令进行安装。
# 安装下载好的Microsoft.ML.OnnxRuntime.Gpu
Install-Package Microsoft.ML.OnnxRuntime.Gpu -Source E:\bk\win10-onnxruntime
# 安装opencv4
Install-Package opencv4.2 -Source E:\bk\win10-onnxruntime
安装完成
onnxruntime使用说明文档:
GitHub 加速计划 / on / onnxruntime
13.76 K
2.79 K
下载
microsoft/onnxruntime: 是一个用于运行各种机器学习模型的开源库。适合对机器学习和深度学习有兴趣的人,特别是在开发和部署机器学习模型时需要处理各种不同框架和算子的人。特点是支持多种机器学习框架和算子,包括 TensorFlow、PyTorch、Caffe 等,具有高性能和广泛的兼容性。
最近提交(Master分支:2 个月前 )
120cb5a8
### Description
Add I/O binding example using onnx data type in python API summary. The
API is available since 1.20 release.
### Motivation and Context
Follow up of https://github.com/microsoft/onnxruntime/pull/22306 to add
some documentation. 5 天前
4ffc1ff3
### Description
Fixes:
(1) cpu kernel: applying scale before bias and mask like other MHA ops
(2) cpu kernel: correct offset during appending past to present.
(3) cuda kernel: apply mask if provided; fix output_qk offset.
Add DMMHA unit tests 6 天前
更多推荐
已为社区贡献13条内容
所有评论(0)