0. onnx模型准备以及测试图

1. c++使用onnxruntime进行推理

结果:
在这里插入图片描述
current image classification : French bulldog, possible : 16.17

2. c++使用opencv进行推理

对两张图片同时进行推理

在这里插入图片描述
current image classification : French bulldog, possible : 16.17
在这里插入图片描述
current image class ification : hare, possible : 8.47

3. 完整代码

https://download.csdn.net/download/qq_44747572/87810859

4. c++调用tensorRT的模型

https://blog.csdn.net/qq_44747572/article/details/131631153

GitHub 加速计划 / on / onnxruntime
13.76 K
2.79 K
下载
microsoft/onnxruntime: 是一个用于运行各种机器学习模型的开源库。适合对机器学习和深度学习有兴趣的人,特别是在开发和部署机器学习模型时需要处理各种不同框架和算子的人。特点是支持多种机器学习框架和算子,包括 TensorFlow、PyTorch、Caffe 等,具有高性能和广泛的兼容性。
最近提交(Master分支:2 个月前 )
120cb5a8 ### Description Add I/O binding example using onnx data type in python API summary. The API is available since 1.20 release. ### Motivation and Context Follow up of https://github.com/microsoft/onnxruntime/pull/22306 to add some documentation. 12 天前
4ffc1ff3 ### Description Fixes: (1) cpu kernel: applying scale before bias and mask like other MHA ops (2) cpu kernel: correct offset during appending past to present. (3) cuda kernel: apply mask if provided; fix output_qk offset. Add DMMHA unit tests 12 天前
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐