1. 车牌识别检测简介

EAI-LPR是一个高性能中文车牌识别框架，识别速度快。准确率高，在出入口场景下，准确率可达98%；支持多种车牌类型，包括单行蓝牌、单行黄牌、新能源车牌、教练车牌等，还可有限支持白色警用车牌、使馆/港澳车牌、双层黄牌、武警车牌等；采用端到端识别，无需字符分割，直接输出识别结果。

使用轻量级卷积神经网络定位图像中的车牌区域，对倾斜的车牌进行仿射变换矫正，使其水平，再采用端到端的OCR模型直接输出车牌号码。广泛应用于智能交通、安防监控、智慧城市、移动应用等领域，如车辆出入口管理、停车场系统、车辆轨迹追踪、异常行为检测、交通流量统计、违章抓拍以及手机APP车牌识别功能等。

本教程针对EAI-LPR车牌识别算法部署到EASY-EAI-Nano-TB(RV1126B)进行说明。

本车牌识别算法在数据集表现如下所示：

基于EASY-EAI-Nano-TB硬件主板的运行效率：

2. 快速上手

2.1 开发环境准备

如果您初次阅读此文档，请阅读《入门指南/开发环境准备/Easy-Eai编译环境准备与更新》，并按照其相关的操作，进行编译环境的部署。

在PC端Ubuntu系统中执行run脚本，进入EASY-EAI编译环境，具体如下所示。

cd ~/develop_environment 
./run.sh 2204

2.2 源码下载

在EASY-EAI编译环境下创建存放源码仓库的管理目录：

cd /opt 
mkdir EASY-EAI-Toolkit 
cd EASY-EAI-Toolkit 

通过git工具，在管理目录内克隆远程仓库

git clone https://github.com/EASY-EAI/EASY-EAI-Toolkit-1126B.git

注：

* 此处可能会因网络原因造成卡顿，请耐心等待。

* 如果实在要在gitHub网页上下载，也要把整个仓库下载下来，不能单独下载本实例对应的目录。

2.3 模型部署

要完成算法Demo的执行，需要先下载车牌识别算法模型。

百度网盘链接为：https://pan.baidu.com/s/1y-NIDZjIZCEqZLxlYgU8Vw?pwd=1234 （提取码：1234 ）。

同时需要把下载的车牌识别算法模型复制粘贴到Release/目录：

2.4 例程编译

进入到对应的例程目录执行编译操作，具体命令如下所示：

cd EASY-EAI-Toolkit-1126B/Demos/algorithm-lpr/ 
./build.sh cpres 

注：

* 由于依赖库部署在板卡上，因此交叉编译过程中必须保持/mnt挂载。

* 若build.sh脚本带有cpres参数，则会把Release/目录下的所有资源都拷贝到开发板上。

2.5 例程运行及效果

通过串口调试或ssh调试，进入板卡后台，定位到例程部署的位置，如下所示：

cd /userdata/Demo/algorithm-lpr/

运行例程命令如下所示：

sudo ./test-lpr lpr_det.model lpr_cls.model lpr_rec.model 2.jpg

在EASY-EAI编译环境可以取回测试图片:

cp /mnt/userdata/Demo/algorithm-lpr/dst.jpg .

结果图片如下所示：

API的详细说明，以及API的调用（本例程源码），详细信息见下方说明。

3. 车牌识别API说明

3.1 引用方式

为方便客户在本地工程中直接调用我们的EASY EAI api库，此处列出工程中需要链接的库以及头文件等，方便用户直接添加。

3.2 车牌识别初始化函数

车牌识别初始化函数原型如下所示。

 int lpr_init(const char *p_det_model, const char *p_cls_model, const char *p_rec_model, rknn_lpr_t *p_lpr)

具体介绍如下所示。

3.3 车牌识别运行函数

车牌识别运行函数lpr_run原型如下所示。

std::vector<rknn_lpr_result_t> lpr_run(cv::Mat image, rknn_lpr_t *p_lpr, float conf_thresh, float nms_thresh);

具体介绍如下所示。

3.4 车牌识别释放函数

车牌识别释放函数原型如下所示。

int lpr_release(rknn_lpr_t *p_lpr)

具体介绍如下所示。

4. 车辆识别算法例程

例程目录为Demos/algorithm-car/test-lpr.cpp，操作流程如下。

参考例程如下所示。

#include <stdint.h>
#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <locale>
#include <codecvt>
#include <string>
#include <sys/time.h>
#include <opencv2/opencv.hpp>
#include "lpr_detector.h"
#include "lpr_classifier.h"
#include "lpr_recognizer.h"
#include "lpr.h"
#include "put_text_zh.h"


/*******************************************
* 车牌识别demo
********************************************/
int lpr_demo(char *p_det_path, char *p_cls_path, char *p_rec_path, char *p_img_path)
{
	struct timeval start;
    struct timeval end;
	float time_use=0;

	std::vector<std::string> layers = { "单层", "双层"};
	std::vector<std::string> colors = { "蓝色", "绿色", "黄色" };

	PutTextZH put_text = PutTextZH("./simhei.ttf");
	cv::Scalar font_size{ 30, 0.5, 0.1, 0 };	// 字体大小/空白比例/间隔比例/旋转角度
	put_text.setFont(nullptr, &font_size, nullptr, nullptr);

	cv::Mat image = cv::imread(p_img_path);
	rknn_lpr_t lpr;
	
	// 车牌识别初始化
	int ret;
	ret = lpr_init(p_det_path, p_cls_path, p_rec_path, &lpr);

	// 车牌识别
	float conf_thresh = 0.35;
	float nms_thresh = 0.35;

	gettimeofday(&start,NULL); 

	std::vector<rknn_lpr_result_t> results = lpr_run(image, &lpr, conf_thresh, nms_thresh);

	gettimeofday(&end,NULL);
    time_use=(end.tv_sec-start.tv_sec)*1000000+(end.tv_usec-start.tv_usec);//微秒
	printf("车牌识别耗时： %f\n",time_use/1000);

	// 绘制结果
	int num = results.size();
	for (int i = 0; i < num; i++) {
		cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2);
		for (int j = 0; j < 4; j++) {
			cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3);
		}
		//char p_text[128] = "";
		//for (int j = 0; j < results[i].char_list.size(); j++) {
		//	sprintf(p_text, "%s%s", p_text, results[i].char_list[j].c_str());
		//}
		//sprintf(p_text, "%s score: %0.2f", p_text, results[i].det_score);
		//cv::putText(image, p_text, cv::Point(results[i].box.x, results[i].box.y - 5), 1, 2, CV_RGB(255, 0, 0), 3);

		std::string temp_str;
		int num = results[i].char_list.size();
		for (int j = 0; j < num; j++) {
			temp_str += results[i].char_list[j];
		}

		// 转换为宽字符字符串
		std::wstring_convert<std::codecvt_utf8<wchar_t>> converter;
		std::wstring wstr = converter.from_bytes(temp_str);

		// 如果需要 wchar_t 数组
		wchar_t w_text[256];
		wcsncpy(w_text, wstr.c_str(), sizeof(w_text) / sizeof(wchar_t));
		w_text[255] = L'\0'; 
		put_text.putText(image, w_text, cv::Point(results[i].box.x, results[i].box.y - 5), CV_RGB(255, 0, 0));
		printf("车牌%d：%s, 颜色: %s, 车牌层数: %s\n", i+1, temp_str.c_str(), colors[results[i].color].c_str(), layers[results[i].layer_num].c_str());
	}

	cv::imwrite("dst.jpg", image);

	// 车牌识别释放
	ret = lpr_release(&lpr);

	return ret;
}


/*******************************************
* 车牌检测demo
********************************************/
int lpr_detector_demo(char *p_det_path, char *p_img_path)
{
	cv::Mat image = cv::imread(p_img_path);

	rknn_lpr_detector_t lpr_det;

	// 车牌检测初始化
	int ret = rknn_lpr_detector_init(p_det_path, &lpr_det);

	// 车牌检测
	float conf_thresh = 0.35;
	float nms_thresh = 0.35;
	std::vector<rknn_lpr_det_result_t> results = rknn_lpr_detector_calc(image, &lpr_det, conf_thresh, nms_thresh);


	// 绘制结果
	int num = results.size();
	for (int i = 0; i < num; i++) {
		cv::rectangle(image, results[i].box, CV_RGB(255, 0, 0), 2);
		for (int j = 0; j < 4; j++) {
			cv::circle(image, results[i].key_pts[j], 2, CV_RGB(0, 255, 0), 3);
		}
		printf("Layer num = %d\n", results[i].layer_num);
	}
	
	cv::imwrite("det.jpg", image);

	// 车牌检测释放
	ret = rknn_lpr_detector_deinit(&lpr_det);

	return ret;
}


/*******************************************
* 车牌分类Demo
********************************************/
int lpr_classifer_demo(char *p_cls_path, char *p_img_path)
{
	int label = 0;
	float score;
	std::vector<std::string> colors = { "blue", "green", "yellow" };
		
	cv::Mat image = cv::imread(p_img_path);

	// 车牌分类初始化
	rknn_lpr_classifer_t lpr_cls;
	int ret = rknn_lpr_classifer_init(p_cls_path, &lpr_cls);

	// 车牌分类计算
	ret = rknn_lpr_classifer_calc(image, &lpr_cls, label, score);
	
	// 车牌分类释放
	ret = rknn_lpr_classifer_deinit(&lpr_cls);
	
	return ret;
}


/*******************************************
* 车牌字符识别Demo
********************************************/
int lpr_recognizer_demo(char *p_rec_path, char *p_img_path)
{
	float score;
	 
	cv::Mat image = cv::imread(p_img_path);

	// 车牌字符识别初始化
	rknn_lpr_recognizer_t lpr_rec;
	int ret = rknn_lpr_recognizer_init(p_rec_path, &lpr_rec);

	//车牌字符识别计算 10ms
	std::vector<std::string> char_list;
	ret = rknn_lpr_recognizer_calc(image, &lpr_rec, char_list, score);

	/*
	char p_text[128] = "";
	int num = char_list.size();
	for (int j = 0; j < num; j++) {
		sprintf(p_text,"%s%s", p_text, char_list[j].c_str());
	}
	
	printf("车牌字符识别耗时：%0.2fms, 车牌号：%s, score = %0.2f\n", run_time, p_text, score);
	*/

	// 车牌字符识别释放
	ret = rknn_lpr_recognizer_deinit(&lpr_rec);

	return ret;
}


/*******************************************
* 主函数
********************************************/
int main(int argc, char **argv)
{
    if (argc != 5) {
        printf("%s <det_model_path> <cls_model_path> <rec_model_path> <image_path>\n", argv[0]);
        return -1;
    }

    char *p_det_path = argv[1];
	char *p_cls_path = argv[2];
	char *p_rec_path = argv[3];
    char *p_img_path = argv[4];

	// 车牌识别demo
	lpr_demo(p_det_path, p_cls_path, p_rec_path, p_img_path);

	//// 车牌检测demo
	//lpr_detector_demo(p_det_path, p_img_path);

	//// 车牌分类Demo
	//lpr_classifer_demo(p_cls_path, p_img_path);

	////// 车牌字符识别Demo
	//lpr_recognizer_demo(p_rec_path, p_img_path);

	return 0;

}