【嘉楠科技 CanMV K230测评】车牌识别检测
<p><strong>车牌识别</strong></p><p>车牌识别相比于其他的要进行检测外，还要多加的一个步骤就是要进行OCR的识别。就是将图片中的数字、汉字、字母等转换为机器可读文本的信息。目前在智能停车场、智慧交通等领域中，都有车牌识别的相关的应用。K230也提供了车牌识别的一个demo供我们学习使用。下面是官方提供的例程代码。（对最后的打印位置做出了一点修改，更改为只有检测到车牌才会开启打印，且不打印帧率信息。）</p>
<pre>
<code class="language-python">from libs.PipeLine import PipeLine, ScopedTiming
from libs.AIBase import AIBase
from libs.AI2D import Ai2d
import os
import ujson
from media.media import *
from time import *
import nncase_runtime as nn
import ulab.numpy as np
import time
import image
import aidemo
import random
import gc
import sys
# 自定义车牌检测类
class LicenceDetectionApp(AIBase):
# 初始化函数，设置车牌检测应用的参数
def __init__(self, kmodel_path, model_input_size, confidence_threshold=0.5, nms_threshold=0.2, rgb888p_size=, display_size=, debug_mode=0):
super().__init__(kmodel_path, model_input_size, rgb888p_size, debug_mode)# 调用基类的初始化函数
self.kmodel_path = kmodel_path# 模型路径
# 模型输入分辨率
self.model_input_size = model_input_size
# 分类阈值
self.confidence_threshold = confidence_threshold
self.nms_threshold = nms_threshold
# sensor给到AI的图像分辨率
self.rgb888p_size = , 16), rgb888p_size]
# 显示分辨率
self.display_size = , 16), display_size]
self.debug_mode = debug_mode
# Ai2d实例，用于实现模型预处理
self.ai2d = Ai2d(debug_mode)
# 设置Ai2d的输入输出格式和类型
self.ai2d.set_ai2d_dtype(nn.ai2d_format.NCHW_FMT, nn.ai2d_format.NCHW_FMT, np.uint8, np.uint8)
# 配置预处理操作，这里使用了pad和resize，Ai2d支持crop/shift/pad/resize/affine
def config_preprocess(self, input_image_size=None):
with ScopedTiming("set preprocess config", self.debug_mode > 0):
# 初始化ai2d预处理配置，默认为sensor给到AI的尺寸，可以通过设置input_image_size自行修改输入尺寸
ai2d_input_size = input_image_size if input_image_size else self.rgb888p_size
self.ai2d.resize(nn.interp_method.tf_bilinear, nn.interp_mode.half_pixel)
self.ai2d.build(,ai2d_input_size],,self.model_input_size])
# 自定义当前任务的后处理
def postprocess(self, results):
with ScopedTiming("postprocess", self.debug_mode > 0):
# 对检测结果进行后处理
det_res = aidemo.licence_det_postprocess(results, , self.rgb888p_size], self.model_input_size, self.confidence_threshold, self.nms_threshold)
return det_res
# 自定义车牌识别任务类
class LicenceRecognitionApp(AIBase):
def __init__(self,kmodel_path,model_input_size,rgb888p_size=,display_size=,debug_mode=0):
super().__init__(kmodel_path,model_input_size,rgb888p_size,debug_mode)
# kmodel路径
self.kmodel_path=kmodel_path
# 检测模型输入分辨率
self.model_input_size=model_input_size
# sensor给到AI的图像分辨率，宽16字节对齐
self.rgb888p_size=,16),rgb888p_size]
# 视频输出VO分辨率，宽16字节对齐
self.display_size=,16),display_size]
# debug模式
self.debug_mode=debug_mode
# 车牌字符字典
self.dict_rec = ["挂", "使", "领", "澳", "港", "皖", "沪", "津", "渝", "冀", "晋", "蒙", "辽", "吉", "黑", "苏", "浙", "京", "闽", "赣", "鲁", "豫", "鄂", "湘", "粤", "桂", "琼", "川", "贵", "云", "藏", "陕", "甘", "青", "宁", "新", "警", "学", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", "A", "B", "C", "D", "E", "F", "G", "H", "J", "K", "L", "M", "N", "P", "Q", "R", "S", "T", "U", "V", "W", "X", "Y", "Z", "_", "-"]
self.dict_size = len(self.dict_rec)
self.ai2d=Ai2d(debug_mode)
self.ai2d.set_ai2d_dtype(nn.ai2d_format.NCHW_FMT,nn.ai2d_format.NCHW_FMT,np.uint8, np.uint8)
# 配置预处理操作，这里使用了resize，Ai2d支持crop/shift/pad/resize/affine
def config_preprocess(self,input_image_size=None):
with ScopedTiming("set preprocess config",self.debug_mode > 0):
ai2d_input_size=input_image_size if input_image_size else self.rgb888p_size
self.ai2d.resize(nn.interp_method.tf_bilinear, nn.interp_mode.half_pixel)
self.ai2d.build(,ai2d_input_size],,self.model_input_size])
# 自定义后处理，results是模型输出的array列表
def postprocess(self,results):
with ScopedTiming("postprocess",self.debug_mode > 0):
output_data=results.reshape((-1,self.dict_size))
max_indices = np.argmax(output_data, axis=1)
result_str = ""
for i in range(max_indices.shape):
index = max_indices
if index > 0 and (i == 0 or index != max_indices):
result_str += self.dict_rec
return result_str
# 车牌识别任务类
class LicenceRec:
def __init__(self,licence_det_kmodel,licence_rec_kmodel,det_input_size,rec_input_size,confidence_threshold=0.25,nms_threshold=0.3,rgb888p_size=,display_size=,debug_mode=0):
# 车牌检测模型路径
self.licence_det_kmodel=licence_det_kmodel
# 车牌识别模型路径
self.licence_rec_kmodel=licence_rec_kmodel
# 人脸检测模型输入分辨率
self.det_input_size=det_input_size
# 人脸姿态模型输入分辨率
self.rec_input_size=rec_input_size
# 置信度阈值
self.confidence_threshold=confidence_threshold
# nms阈值
self.nms_threshold=nms_threshold
# sensor给到AI的图像分辨率，宽16字节对齐
self.rgb888p_size=,16),rgb888p_size]
# 视频输出VO分辨率，宽16字节对齐
self.display_size=,16),display_size]
# debug_mode模式
self.debug_mode=debug_mode
self.licence_det=LicenceDetectionApp(self.licence_det_kmodel,model_input_size=self.det_input_size,confidence_threshold=self.confidence_threshold,nms_threshold=self.nms_threshold,rgb888p_size=self.rgb888p_size,display_size=self.display_size,debug_mode=0)
self.licence_rec=LicenceRecognitionApp(self.licence_rec_kmodel,model_input_size=self.rec_input_size,rgb888p_size=self.rgb888p_size)
self.licence_det.config_preprocess()
# run函数
def run(self,input_np):
# 执行车牌检测
det_boxes=self.licence_det.run(input_np)
# 将车牌部分抠出来
imgs_array_boxes = aidemo.ocr_rec_preprocess(input_np,,self.rgb888p_size],det_boxes)
imgs_array = imgs_array_boxes
boxes = imgs_array_boxes
rec_res = []
for img_array in imgs_array:
# 对每一个检测到的车牌进行识别
self.licence_rec.config_preprocess(input_image_size=,img_array.shape])
licence_str=self.licence_rec.run(img_array)
rec_res.append(licence_str)
gc.collect()
return det_boxes,rec_res
# 绘制车牌检测识别效果
def draw_result(self,pl,det_res,rec_res):
pl.osd_img.clear()
if det_res:
point_8 = np.zeros((8),dtype=np.int16)
for det_index in range(len(det_res)):
for i in range(4):
x = det_res/self.rgb888p_size*self.display_size
y = det_res/self.rgb888p_size*self.display_size
point_8 = int(x)
point_8 = int(y)
for i in range(4):
pl.osd_img.draw_line(point_8,point_8,point_8[(i+1) % 4 * 2 + 0],point_8[(i+1) % 4 * 2 + 1],color=(255, 0, 255, 0),thickness=4)
pl.osd_img.draw_string_advanced( point_8, point_8 + 20, 40,rec_res , color=(255,255,153,18))
if __name__=="__main__":
# 显示模式，默认"hdmi",可以选择"hdmi"和"lcd"
display_mode="lcd"
if display_mode=="hdmi":
display_size=
else:
display_size=
# 车牌检测模型路径
licence_det_kmodel_path="/sdcard/app/tests/kmodel/LPD_640.kmodel"
# 车牌识别模型路径
licence_rec_kmodel_path="/sdcard/app/tests/kmodel/licence_reco.kmodel"
# 其它参数
rgb888p_size=
licence_det_input_size=
licence_rec_input_size=
confidence_threshold=0.2
nms_threshold=0.2
# 初始化PipeLine，只关注传给AI的图像分辨率，显示的分辨率
pl=PipeLine(rgb888p_size=rgb888p_size,display_size=display_size,display_mode=display_mode)
pl.create()
lr=LicenceRec(licence_det_kmodel_path,licence_rec_kmodel_path,det_input_size=licence_det_input_size,rec_input_size=licence_rec_input_size,confidence_threshold=confidence_threshold,nms_threshold=nms_threshold,rgb888p_size=rgb888p_size,display_size=display_size)
clock = time.clock()
try:
while True:
os.exitpoint()
clock.tick()
img=pl.get_frame() # 获取当前帧
det_res,rec_res=lr.run(img) # 推理当前帧
lr.draw_result(pl,det_res,rec_res)# 绘制当前帧推理结果
pl.show_image() # 展示推理结果
gc.collect()
if det_res:
print(det_res,rec_res) #打印结果
# print(clock.fps()) #打印帧率
except Exception as e:
sys.print_exception(e)
finally:
lr.licence_det.deinit()
lr.licence_rec.deinit()
pl.destroy()
</code></pre>
<p>在官方提供的代码中，可以看到，将车牌识别的过程大致分为了两个过程。第一个过程是车牌检测，第二个过程是车牌识别。这和大多数的机器视觉系统的处理过程是类似的，都是先进行检测，然后再进行。针对这两个过程，分别定义了两个基于AIBase的类，分别用于做检测和识别的工作。</p>
<p>用于车牌检测的类叫做LicenceDetectionApp，里面主要对图像进行了预处理和后处理的方法的定义，其中预处理中主要调用了AI2D中的resize方法，对图片进行了适当的尺寸变换。</p>
<p>用于车牌识别的类叫做LicenceRecognitionApp，里面主要对图像进行了预处理和后处理的方法的定义，其中预处理中主要调用了AI2D中的resize方法，对图片进行了适当的尺寸变换。</p>
<p>最后定义了一个用于车牌检测和识别的类，包含这上面定义的两个类，从而实现更加简单的使用的方法。这个类中，定义了两个方法一个是run，另一个是draw_result，分别用于运行模型和显示结果。</p>
<p>在run中，首先调用了LicenceDetectionApp中的父类AIBase的run方法，将采集到的图像进行了车牌检测，并将返回的列表存入了det_boxes变量中。然后使用aidemo中的ocr相关的函数，将列表中的车牌抠出来。然后开始进行循环，对列表中被抠出的车牌进行检测。最终返回det_boxes和rec_res。</p>
<p>在draw_result中，首先判断是否有有检测到的信息，如果有，就会开始围着检测到的车牌进行画框，并写上ocr得出的字符串信息。</p>
<p>在主函数中，首先调用pl获取当前的图像帧，然后对该帧进行run，来获取车牌的位置信息以及OCR后得到的字符串信息。再调用draw_result方法将获取的两个信息传入到pl中在图像上进行显示。并通过串行终端进行数据的打印显示。最终调用pl中的show_image方法，实现最终的显示效果。</p>
<p>这样就完成了一个完整的车牌检测和识别的完整过程。</p>
<p>下面是效果的演示。找了一个标准的北京号牌，可以实现非常完美的框选和识别的功能。</p>
<div style="text-align: center;"></div>
<p>可以利用这个车牌检测和识别的功能，做一个仿停车场的管理系统，可以实现车辆的出入管理，计时计费等功能。</p>
<p>车牌检测和识别的连个类run，和draw_result说的比较清楚了，谢谢分享</p>
页:
[1]