基于HubServing的PaddleOCR部署

前提要求

• 服务器的部署需要鉴于先前安装配置的docker环境，因此相关步骤查看我之前的博客    参考链接

服务部署

先前介绍

• 参考链接 官方推荐
• 本博客采用基于HubServing的部署，这种方式已经集成到PaddleOCR里面，在先前的docker镜像里面就可以看到
• 如果已经推出了镜像，请使用这个命令进入镜像    sudo docker container exec -it ppocr /bin/bash
• 其中ppocr为容器的名字 使用docker ps -a的names一列就可以看到这个字段

种类划分

• 检测

•  识别
• 2阶段串联

• 本博客以2阶段串联作为样例进行讲解，其余两个模块也是类似的

准备环境

• 安装paddlehub

pip3 install paddlehub --upgrade -i https://pypi.tuna.tsinghua.edu.cn/simple

• 安装paddlepaddle

pip3 install paddlepaddle --upgrade -i https://pypi.tuna.tsinghua.edu.cn/simple

• 在Linux下设置环境变量 

export PYTHONPATH=.

 安装服务模块

• 安装检测+识别串联服务模块
• 这条命令很麻烦，有时候会无缘无故的报错，我也是尝试了各种不同的安装版本才不错了，如果出现问题只能上GitHub的官方主页去找答案，会有解决的办法，祝你好运。

hub install deploy/hubserving/ocr_system/

• 这个过程会出现 缺失xxx模块的问题
• 先前配置docker的时候已经指定了使用python=3.7，因此安装缺失模块的时候使用命令 pip3 install  

启动服务

• 命令行命令启动（仅支持CPU）

$ hub serving start --modules [Module1==Version1, Module2==Version2, ...] \
                    --port XXXX \
                    --use_multiprocess \
                    --workers \

• 参数

参数	用途
--modules/-m	PaddleHub Serving预安装模型，以多个Module==Version键值对的形式列出 当不指定Version时，默认选择最新版本
--port/-p	服务端口，默认为8866
--use_multiprocess	是否启用并发方式，默认为单进程方式，推荐多核CPU机器使用此方式 Windows操作系统只支持单进程方式
--workers	在并发方式下指定的并发任务数，默认为2*cpu_count-1，其中cpu_count为CPU核数

• 如启动串联服务： hub serving start -m ocr_system   这样就完成了一个服务化API的部署，使用默认端口号8866

发送预测请求

• 配置好服务端，可使用以下命令发送预测请求，获取预测结果:
• python tools/test_hubserving.py server_url image_path

  参数

• server_url：服务地址，格式为

http://[ip_address]:[port]/predict/[module_name]
例如，如果使用配置文件启动检测、识别、检测+识别2阶段服务，那么发送请求的url将分别是：
http://127.0.0.1:8866/predict/ocr_det
http://127.0.0.1:8867/predict/ocr_rec
http://127.0.0.1:8868/predict/ocr_system

• image_path：测试图像路径，可以是单张图片路径，也可以是图像集合目录路径
• 访问示例 python tools/test_hubserving.py http://127.0.0.1:8866/predict/ocr_system ./doc/imgs/

返回结果格式说明

• 返回结果为列表（list），列表中的每一项为词典（dict），词典一共可能包含3种字段，信息如下：

字段名称	数据类型	意义
text	str	文本内容
confidence	float	文本识别置信度
text_region	list	文本位置坐标

修改模块

• 参考链接