MindOCR的推理支持Ascend310/Ascend310P设备，采用MindSpore Lite和ACL两种推理后端， 集成了文本检测、角度分类和文字识别模块，实现了端到端的OCR推理过程，并采用流水并行化方式优化推理性能。
MindOCR Lite整体的推理流程如下：
graph LR;
A[MindOCR models] -- export --> B[MindIR] -- converter_lite --> C[MindSpore Lite MindIR];
D[ThirdParty models] -- xx2onnx --> E[ONNX] -- converter_lite --> C;
C --input --> F[MindOCR Infer] -- outputs --> G[Evaluation];
H[images] --input --> F[MindOCR Infer];
请参考运行环境准备，配置MindOCR的推理运行环境，注意结合模型的支持情况来选择ACL/Lite环境。
MindOCR除了支持自身训练端导出模型的推理外，还支持第三方模型的推理，列表见MindOCR原生模型离线推理和第三方模型离线推理（如PaddleOCR、MMOCR等）。
请参考模型转换教程，将其转换为MindOCR推理支持的模型格式。
进入到MindOCR推理侧目录下：cd deploy/py_infer.
-
检测+分类+识别
python infer.py \ --input_images_dir=/path/to/images \ --det_model_path=/path/to/mindir/dbnet_resnet50.mindir \ --det_model_name_or_config=../../configs/det/dbnet/db_r50_icdar15.yaml \ --cls_model_path=/path/to/mindir/cls_mv3.mindir \ --cls_model_name_or_config=ch_pp_mobile_cls_v2.0 \ --rec_model_path=/path/to/mindir/crnn_resnet34.mindir \ --rec_model_name_or_config=../../configs/rec/crnn/crnn_resnet34.yaml \ --res_save_dir=det_cls_rec \ --vis_pipeline_save_dir=det_cls_rec可视化图片存放在det_cls_rec中,如图所示：
文本检测识别结果可视化
结果保存在det_cls_rec/pipeline_results.txt，格式如下：
img_182.jpg [{"transcription": "cocoa", "points": [[14.0, 284.0], [222.0, 274.0], [225.0, 325.0], [17.0, 335.0]]}, {...}] -
检测+识别
不传入方向分类相关的参数，就会跳过方向分类流程，只执行检测+识别
python infer.py \ --input_images_dir=/path/to/images \ --det_model_path=/path/to/mindir/dbnet_resnet50.mindir \ --det_model_name_or_config=../../configs/det/dbnet/db_r50_icdar15.yaml \ --rec_model_path=/path/to/mindir/crnn_resnet34.mindir \ --rec_model_name_or_config=../../configs/rec/crnn/crnn_resnet34.yaml \ --res_save_dir=det_rec \ --vis_pipeline_save_dir=det_rec可视化结果存放在det_rec文件夹中，如图所示：
文本检测识别结果可视化
识别结果保存在det_rec/pipeline_results.txt，格式如下：
img_498.jpg [{"transcription": "keep", "points": [[819.0, 71.0], [888.0, 67.0], [891.0, 104.0], [822.0, 108.0]]}, {...}] -
检测
可以单独运行文本检测
python infer.py \ --input_images_dir=/path/to/images \ --det_model_path=/path/to/mindir/dbnet_resnet50.mindir \ --det_model_name_or_config=../../configs/det/dbnet/db_r50_icdar15.yaml \ --res_save_dir=det \ --vis_det_save_dir=det可视化结果存放在det中，如图所示：
文本检测结果可视化
检测结果保存在det/det_results.txt，格式如下：
img_108.jpg [[[226.0, 442.0], [402.0, 416.0], [404.0, 433.0], [228.0, 459.0]], [...]] -
分类
可以单独运行文本方向分类
# cls_mv3.mindir is converted from ppocr python infer.py \ --input_images_dir=/path/to/images \ --cls_model_path=/path/to/mindir/cls_mv3.mindir \ --cls_model_name_or_config=ch_pp_mobile_cls_v2.0 \ --res_save_dir=cls结果保存在cls/cls_results.txt，格式如下：
word_867.png ["180", 0.5176] word_1679.png ["180", 0.6226] word_1189.png ["0", 0.9360] -
识别
可以单独运行文字识别
python infer.py \ --input_images_dir=/path/to/images \ --backend=lite \ --rec_model_path=/path/to/mindir/crnn_resnet34.mindir \ --rec_model_name_or_config=../../configs/rec/crnn/crnn_resnet34.yaml \ --res_save_dir=rec结果保存在rec/rec_results.txt，格式如下：
word_421.png "under" word_1657.png "candy" word_1814.png "cathay"
-
基本设置
参数名称 类型 默认值 含义 input_images_dir str 无 单张图像或者图片文件夹 device str Ascend 推理设备名称，支持：Ascend device_id int 0 推理设备id backend str lite 推理后端，支持：acl, lite parallel_num int 1 推理流水线中每个节点并行数 precision_mode str 无 推理的精度模式，暂只支持在模型转换时设置，此处不生效 -
结果保存
参数名称 类型 默认值 含义 res_save_dir str inference_results 推理结果的保存路径 vis_det_save_dir str 无 绘制检测框的图片保存路径 vis_pipeline_save_dir str 无 绘制检测框和文本的图片保存路径 vis_font_path str 无 绘制文字时的字体路径 crop_save_dir str 无 文本检测后裁剪图片的保存路径 show_log bool False 是否打印日志 save_log_dir str 无 日志保存文件夹 -
文本检测
参数名称 类型 默认值 含义 det_model_path str 无 文本检测模型的文件路径 det_model_name_or_config str 无 文本检测模型的名称或配置文件路径 -
文本方向分类
参数名称 类型 默认值 含义 cls_model_path str 无 文本方向分类模型的文件路径 cls_model_name_or_config str 无 文本方向分类模型的名称或配置文件路径 -
文本识别
参数名称 类型 默认值 含义 rec_model_path str 无 文本识别模型的文件路径 rec_model_name_or_config str 无 文本识别模型的名称或配置文件路径 character_dict_path str 无 文本识别模型对应的词典文件路径，默认值只支持数字和英文小写
说明：
*_model_name_or_config可以填模型名或YAML配置文件路径，可参考MindOCR模型支持列表和第三方模型支持列表（如PaddleOCR、MMOCR等）。
目前暂时只支持pp-ocr系列的中文DBNET、CRNN、SVTR模型。
进入到MindOCR推理测目录下 cd deploy/cpp_infer,执行编译脚本 bash build.sh, 构建完成之后在当前路径dist目录下生成可执行文件infer。
-
检测+分类+识别
./dist/infer \ --input_images_dir /path/to/images \ --backend lite \ --det_model_path /path/to/mindir/dbnet_resnet50.mindir \ --cls_model_path /path/to/mindir/crnn \ --rec_model_path /path/to/mindir/crnn_resnet34.mindir \ --character_dict_path /path/to/ppocr_keys_v1.txt \ --res_save_dir det_cls_rec结果保存在det_cls_rec/pipeline_results.txt，格式如下：
img_478.jpg [{"transcription": "spa", "points": [[1114, 35], [1200, 0], [1234, 52], [1148, 97]]}, {...}] -
检测+识别
不传入方向分类相关的参数，就会跳过方向分类流程，只执行检测+识别
./dist/infer \ --input_images_dir /path/to/images \ --backend lite \ --det_model_path /path/to/mindir/dbnet_resnet50.mindir \ --rec_model_path /path/to/mindir/crnn_resnet34.mindir \ --character_dict_path /path/to/ppocr_keys_v1.txt \ --res_save_dir det_rec结果保存在det_rec/pipeline_results.txt，格式如下：
img_478.jpg [{"transcription": "spa", "points": [[1114, 35], [1200, 0], [1234, 52], [1148, 97]]}, {...}] -
检测
可以单独运行文本检测
./dist/infer \ --input_images_dir /path/to/images \ --backend lite \ --det_model_path /path/to/mindir/dbnet_resnet50.mindir \ --res_save_dir det结果保存在det/det_results.txt，格式如下：
img_478.jpg [[[1114, 35], [1200, 0], [1234, 52], [1148, 97]], [...]]] -
分类
可以单独运行文本方向分类
./dist/infer \ --input_images_dir /path/to/images \ --backend lite \ --cls_model_path /path/to/mindir/crnn \ --res_save_dir cls结果保存在cls/cls_results.txt，格式如下：
word_867.png ["180", 0.5176] word_1679.png ["180", 0.6226] word_1189.png ["0", 0.9360]
-
基本设置
参数名称 类型 默认值 含义 input_images_dir str 无 单张图像或者图片文件夹 device str Ascend 推理设备名称，支持：Ascend device_id int 0 推理设备id backend str acl 推理后端，支持：acl, lite parallel_num int 1 推理流水线中每个节点并行数 -
结果保存
参数名称 类型 默认值 含义 res_save_dir str inference_results 推理结果的保存路径 -
文本检测
参数名称 类型 默认值 含义 det_model_path str 无 文本检测模型的文件路径 -
文本方向分类
参数名称 类型 默认值 含义 cls_model_path str 无 文本方向分类模型的文件路径 -
文本识别
参数名称 类型 默认值 含义 rec_model_path str 无 文本识别模型的文件路径 character_dict_path str 无 文本识别模型对应的词典文件路径，默认值只支持数字和英文小写