OpenVINO™ Toolkit 安装与配置

简介

​ OPENVINO是英特尔Intel推出的一款全面的工具套件，用于快速部署应用和解决方案，支持计算机视觉的CNN网络结构超过150余种。

​ 对于AI工作负载来说，OpenVINO提供了深度学习推理套件（DLDT)，该套件可以将各种开源框架训练好的模型进行线上部署，除此之外，还包含了图片处理工具包OpenCV，视频处理工具包Media SDK，用于处理图像视频解码，前处理和推理结果后处理等。

​ 在做推理的时候，大多数情况需要前处理和后处理：

• 前处理：如图像矩阵通道变换，Resize，取均值，归一化，等

• 后处理：推理后，将检测框等特征叠加至原图等

都可以使用OpenVINO工具套件里的API接口完成。

原理

核心组件

下载OpenVINO™ Toolkit

安装

本人环境：Ubuntu20.04 LTS，因此选择Linux操作系统，离线下载方式

填上邮箱地址与国家地区，便会下载文件。

终端键入到下载组件的目录，解压.tgz文件并进入解压后的文件夹

tar -xvzf l_openvino_toolkit_p_<version>.tgz

cd l_openvino_toolkit_p_<version>

​ 选择安装选项并以 root 身份运行相关脚本，以使用图形用户界面 (GUI) 安装向导或命令行指令 (CLI)。
注意：需要以根权限运行安装脚本，才能将openvino安装至根目录的opt文件夹下

选项 1: GUI 安装向导:

sudo ./install_GUI.sh

选项 2: 命令行安装向导:

sudo ./install.sh

选项 3: 命令行静默指令安装:

sudo sed -i 's/decline/accept/g' silent.cfg
sudo ./install.sh -s silent.cfg

本人选择GUI窗口安装方式，一直点击Next默认安装即可。

依赖项

接着在安装包或安装路径的install_dependencies 文件夹中运行

cd <installation_DIR>/intel/openvino_2021/install_dependencies 
# 运行脚本以下载并安装外部软件依赖项
sudo -E ./install_openvino_dependencies.sh

环境

vi  ~ /.bashrc 
[or]
gedit ~/.bashrc

将此行添加到文件末尾：

source <installation_path>/openvino_2021/bin/setupvars.sh

这样便可以永久设置环境变量，之后卸载openvino时删除该行即可
每次打开终端时都会出现OPENVINO环境初始化

[setupvars.sh] OpenVINO environment initialized

模型优化器

模型优化器是一个基于 Python* 的命令行工具，用于从流行的深度学习框架（例如 Caffe*、TensorFlow*、Apache MXNet*、ONNX* 和 Kaldi*）导入经过训练的模型。

cd <installation_path>/openvino_2021/deployment_tools/model_optimizer/install_prerequisites
# 运行脚本为 Caffe、TensorFlow 2.x、MXNet、Kaldi 和 ONNX 配置模型优化器：
sudo ./install_prerequisites.sh 

(Optional)非 CPU 设备上配置推理

仅当要启用工具包组件以在系统上使用处理器图形 (GPU) 时，才需要执行本节中的步骤

cd  <installation_path>/intel/openvino_2021/install_dependencies / 

sudo -E ./install_NEO_OCL_driver.sh

参考资料

OpenVINO推理简介

OpenVINO™_使用指南