开放能力
开发平台
行业应用
生态合作
开发与教学
资讯 社区 控制台
技术能力
语音技术
文字识别
人脸与人体
图像技术
语言与知识
视频技术
AR与VR
数据智能
场景方案
部署方案
行业应用
智能教育
智能医疗
智能零售
智能工业
企业服务
智能政务
信息服务
智能园区

EdgeBoard人体关键点软硬一体方案说明

1 简介
 1.1 人体关键点识别说明
 1.2 开发管理平台功能说明
 1.3 硬件接口说明
2 使用步骤
 2.1 连接设备
 2.2 登录管理平台
 2.3 查看预置模型
 2.4 添加摄像头
 2.5 添加任务
3 系统设置
4 HTTP结果回调
5 HTTP模型推理服务接口

简介

EdgeBoard软硬一体方案,是以EdgeBoard边缘AI计算盒为底座,WEB开发管理平台为控制中心,专项适配百度自研算法,并深度兼容AI开发平台EasyDL和开源深度学习平台PaddlePaddle,支持模型在线效果验证,外接显示器实时显示渲染结果,同时,支持HTTP回调和HTTP模型推理服务,可接入USB摄像头和RTSP网络摄像头,硬件接口丰富,支持二次开发。

人体关键点软硬一体方案,预置人体关键点算法,可离线本地化部署,可用于行为分析,检测图像中的人体并返回人体矩形框位置,精准定位21个核心关键点,包含头顶、五官、颈部、四肢主要关节部位,支持多人检测、大动作等复杂场景。

img

人体关键点识别说明

对于输入的一张图片(可正常解码,且长宽比适宜),检测图片中的所有人体,输出每个人体的21个主要关键点,包含头顶、五官、脖颈、四肢等部位,同时输出人体的坐标信息和数量

21个主要关键点的位置:头顶、左眼、右眼、左耳、右耳、左嘴角、右嘴角、鼻子、脖子、左肩、右肩、左手肘、右手肘、左手腕、右手腕、左髋部、右髋部、左膝、右膝、左脚踝、右脚踝。

支持多人检测、人体位置重叠、遮挡、背面、侧面、中低空俯拍、大动作等复杂场景。

软硬一体方案的算法精度可参考云端接口,人体关键点功能体验: https://ai.baidu.com/tech/body/pose

开发管理平台功能说明

Edgeboard内置可视化开发管理平台,支持web页面进行总览、摄像头管理、模型管理、任务管理、系统设置等操作。

功能 描述
总览 支持实时查看设备内存、CPU和存储空间的资源剩余情况,以及当前添加的模型、摄像头和任务情况。
模型管理 支持PaddlePaddle模型、Easydl的图像分类和物体检测模型以及其他Edgeboard模型的添加和管理,支持在线效果验证
摄像头管理 支持USB摄像头、RTSP网络摄像头的添加和管理,在线校验视频流地址,支持画面预览
任务管理 支持添加数据采集任务、Paddle模型视频分析、EasyDL模型视频分析和EdgeBoard SDK视频分析等任务,支持画面预览,支持任务的开启和关闭。
系统设置 支持设备信息的显示、系统时间的修改、软件版本升级、以太网设置和Wi-Fi网络设置、恢复出厂设置、重启等功能。
HTTP回调 支持将视频流任务或者采集任务结果通过HTTP协议推送到指定地址,方便客户进行二次开发。
HTTP模型推理服务 支持调用HTTP服务接口传入图片,EdgeBoard再将分析结果回传至HTTP客户端。

硬件接口说明

更多硬件介绍请参考EdgeBoard基础硬件使用说明

使用步骤

以下仅以人体关键点软硬一体方案的常规操作进行演示,更多使用方式请参考EdgeBoard开发管理平台使用说明

人体关键点软硬一体方案,预置了人体检测模型以及人体关键点模型,可以直接添加摄像头和任务,开启AI识别,大体操作流程如下:【连接软硬一体设备】----> 【登录开发管理平台】----> 【查看预置模型】----> 【添加摄像头】----> 【添加任务】----> 【开始预测】

连接设备

将设备通过网线连接电脑(直连电脑或者通过路由器),设备的网络参数为:ip=192.168.1.254,子网掩码=255.255.255.0,网关=192.168.1.1。保证设备和电脑在同一网段,如果是直连电脑可以将电脑设置成固定IP。

电脑端网络配置可参考网络配置

登录管理平台

在浏览器中输入开发管理平台首页地址,即可显示登录页面,登录完成后进入管理页面。

开发管理平台首页地址:http://ip:9876/ 出厂默认:http://192.168.1.254:9876/

开发管理平台账号:admin,初始密码:admin

进入系统

查看预置模型

查看模型管理页面,人体关键点软硬一体设备中,包含人体检测模型和人体关键点模型。

image-20220622104717736

注意:模型管理页面的【效果验证】仅提供单模型的推理效果

添加摄像头

EdgeBoard开发管理平台支持USB摄像头和RTSP摄像头两种类型,用户可根据使用场景进行选择。

添加USB摄像头

先将USB摄像头插到EdgeBoard上再在页面中添加对应的摄像头,此时,点击【选择摄像头】右边框的箭头,下拉框会自动弹出当前设备上已插入的USB摄像头节点,并采集一张当前图片,点击待添加的摄像头,确定。

添加网络摄像头

保证EdgeBoard和网络摄像头的网络互通的状态下,添加网络摄像头,摄像头类型选择网络摄像头,输入视频流地址后,点击右侧的【校验】按钮,如果出现对勾,证明视频流地址(RTSP流地址)填写正确,并能够正常采集到图片。校验成功后点击确定,在管理页面就可以看到已添加的摄像头。

SN码为您的摄像头设备唯一ID(选填)。

添加任务

EdgeBoard开发管理平台支持添加不同功能的任务,例如可以添加数据采集任务,视频分析任务等。以视频任务为例

选择任务类型

选择任务类型选择EdgeBoard算法,关键点检测

image-20220622145102641

任务配置

配置与paddle模型类似,带“*”为必填项,确定需要部署的模型和对应的摄像头,以及模型推理的帧率,其余按需填写即可。

画面框定

画面框定是指在检测区域中框定一个闭合区域,后续只识别框定区域内的物体。在人体关键点软硬一体设备中,画面框定功能可选。不需要画面框定时,直接确认即可。

注:画面框定最多可以绘制10个分析区域

启动任务

pose_task

画面预览

image-20220622144830624

外接显示器

EdgeBoard提供视频输出接口miniDP,可以外接显示器(如果是HDMI接口的显示器,需要使用主动式miniDP转HDMI转换线,接口输出参考链接),在上电状态下插入显示器时,首次点击【外接显示器】的开关按钮后,需要重启设备。

一般情况下,显示器显示的视频帧率为创建任务时设置的帧率,当设置的帧率大于设备实际能够处理的帧率时,设备会以最大处理速率显示,渲染画面和系统中【画面预览】相同。

更多任务管理设置请参考EdgeBoard开发管理平台使用说明

系统设置

系统设置请参考EdgeBoard开发管理平台使用说明-系统设置

HTTP结果回调

说明

当用户需要获取EdgeBoard的分析结果时,EdgeBoard开发管理平台支持将视频流任务结果通过HTTP协议推送到指定地址,方便客户进行二次开发。

HTTP回调方式:EdgeBoard ----- post -----> 用户服务器

​ EdgeBoard <------ response---- 用户服务器

HTTP回调接口:http://ip:port/xxxxxxx 。该接口由用户定义,不做固定格式要求。

回调功能设置

添加任务时,可设置回调功能

回调状态:勾选【启用】会开启回调功能;勾选【禁用】会关掉回调功能;

回调地址:用户实际回调服务地址(图中地址仅作展示),开启回调后,设备会将结果数据发送至该地址;

回调条件:回调结果支持基于模型标签(label)进行条件筛选,增加回调条件后,服务器就会得到筛选后的数据;

回调图片:回调图片仅指回调参数中“background”的返回值,【原图】指返回的background为不带渲染的base64图片,【原图+渲染】指返回的background为不带渲染的base64图片,【无图片】则回调结果中不返回background参数。由于回调中返回图片会占用大量的资源和带宽,实际使用时推荐选择【无图片】选项。

人体关键点数据返回格式

//人体关键点
{
    "background":"",
    "camera_id":3,
    "camera_name":"10",
    "camera_sn":"",
    "fence_data":[
        {
            "coordinates":[
                [
                    0.33603707995365,
                    0.0323805845242693
                ],
                [
                    0.32792584009269987,
                    0.9696794129007338
                ],
                [
                    0.9826187717265353,
                    0.9882193897257627
                ],
                [
                    0.9687137891077636,
                    0.013840607699240337
                ]
            ],
            "id":5,
            "name":"area"
        }
    ],
    "height":1080,
    "models_id":[
        5
    ],
    "result_data":[
        {
            "extended":{
                "left_ankle":{
                    "lable":"left_ankle",
                    "score":8.4041109085083,
                    "x":1568.7294921875,
                    "y":989.484375
                },
                "left_ear":{
                    "lable":"left_ear",
                    "score":52.639060974121094,
                    "x":1848.4658203125,
                    "y":859.4892578125
                },
                "left_elbow":{
                    "lable":"left_elbow",
                    "score":50.125,
                    "x":1627.9677734375,
                    "y":810.1240234375
                },
                "left_eye":{
                    "lable":"left_eye",
                    "score":23.13203239440918,
                    "x":1894.5400390625,
                    "y":866.0712890625
                },
                "left_hip":{
                    "lable":"left_hip",
                    "score":131.25938415527344,
                    "x":1884.6669921875,
                    "y":1027.3310546875
                },
                "left_knee":{
                    "lable":"left_knee",
                    "score":115.63125610351562,
                    "x":1700.3701171875,
                    "y":1037.2041015625
                },
                "left_mouth_corner":{
                    "lable":"left_mouth_corner",
                    "score":15.035351753234863,
                    "x":1894.5400390625,
                    "y":951.6376953125
                },
                "left_shoulder":{
                    "lable":"left_shoulder",
                    "score":17.87299919128418,
                    "x":1674.0419921875,
                    "y":708.1025390625
                },
                "left_wrist":{
                    "lable":"left_wrist",
                    "score":11.080322265625,
                    "x":1670.7509765625,
                    "y":918.7275390625
                },
                "neck":{
                    "lable":"neck",
                    "score":38.607810974121094,
                    "x":1910.9951171875,
                    "y":869.3623046875
                },
                "nose":{
                    "lable":"nose",
                    "score":27.00547218322754,
                    "x":1851.7568359375,
                    "y":898.9814453125
                },
                "right_ankle":{
                    "lable":"right_ankle",
                    "score":15.68470573425293,
                    "x":1920,
                    "y":777.2138671875
                },
                "right_ear":{
                    "lable":"right_ear",
                    "score":55.51250076293945,
                    "x":1845.1748046875,
                    "y":872.6533203125
                },
                "right_elbow":{
                    "lable":"right_elbow",
                    "score":26.020702362060547,
                    "x":1841.8837890625,
                    "y":810.1240234375
                },
                "right_eye":{
                    "lable":"right_eye",
                    "score":23.848634719848633,
                    "x":1910.9951171875,
                    "y":997.7119140625
                },
                "right_hip":{
                    "lable":"right_hip",
                    "score":109.59062194824219,
                    "x":1851.7568359375,
                    "y":1010.8759765625
                },
                "right_knee":{
                    "lable":"right_knee",
                    "score":59.338279724121094,
                    "x":1713.5341796875,
                    "y":1040.4951171875
                },
                "right_mouth_corner":{
                    "lable":"right_mouth_corner",
                    "score":15.80195426940918,
                    "x":1858.3388671875,
                    "y":945.0556640625
                },
                "right_shoulder":{
                    "lable":"right_shoulder",
                    "score":43.55937576293945,
                    "x":1772.7724609375,
                    "y":708.1025390625
                },
                "right_wrist":{
                    "lable":"right_wrist",
                    "score":38.95429992675781,
                    "x":1855.0478515625,
                    "y":875.9443359375
                },
                "top_head":{
                    "lable":"top_head",
                    "score":9.510705947875977,
                    "x":1904.4130859375,
                    "y":800.2509765625
                }
            },
            "image_data":"",
            "score":0.3517540991306305,
            "x0":0.8561185598373413,
            "x1":0.9994791746139526,
            "y0":0.6872234344482422,
            "y1":0.9990741014480591
        },
        {
            "extended":{
                "left_ankle":{
                    "lable":"left_ankle",
                    "score":8.658203125,
                    "x":1686.310546875,
                    "y":993.197265625
                },
                "left_ear":{
                    "lable":"left_ear",
                    "score":265.3000183105469,
                    "x":1681.955078125,
                    "y":736.224609375
                },
                "left_elbow":{
                    "lable":"left_elbow",
                    "score":211.63125610351562,
                    "x":1472.892578125,
                    "y":967.064453125
                },
                "left_eye":{
                    "lable":"left_eye",
                    "score":73.33906555175781,
                    "x":1668.888671875,
                    "y":718.802734375
                },
                "left_hip":{
                    "lable":"left_hip",
                    "score":43.66719055175781,
                    "x":1721.154296875,
                    "y":919.154296875
                },
                "left_knee":{
                    "lable":"left_knee",
                    "score":89.99687957763672,
                    "x":1468.537109375,
                    "y":967.064453125
                },
                "left_mouth_corner":{
                    "lable":"left_mouth_corner",
                    "score":38.50410461425781,
                    "x":1638.400390625,
                    "y":779.779296875
                },
                "left_shoulder":{
                    "lable":"left_shoulder",
                    "score":118.64688110351562,
                    "x":1655.822265625,
                    "y":853.822265625
                },
                "left_wrist":{
                    "lable":"left_wrist",
                    "score":34.13984680175781,
                    "x":1594.845703125,
                    "y":949.642578125
                },
                "neck":{
                    "lable":"neck",
                    "score":151.09376525878906,
                    "x":1747.287109375,
                    "y":818.978515625
                },
                "nose":{
                    "lable":"nose",
                    "score":64.234375,
                    "x":1668.888671875,
                    "y":736.224609375
                },
                "right_ankle":{
                    "lable":"right_ankle",
                    "score":10.692383766174316,
                    "x":1490.314453125,
                    "y":940.931640625
                },
                "right_ear":{
                    "lable":"right_ear",
                    "score":197.01876831054688,
                    "x":1764.708984375,
                    "y":723.158203125
                },
                "right_elbow":{
                    "lable":"right_elbow",
                    "score":60.609375,
                    "x":1843.107421875,
                    "y":797.201171875
                },
                "right_eye":{
                    "lable":"right_eye",
                    "score":57.22187423706055,
                    "x":1668.888671875,
                    "y":731.869140625
                },
                "right_hip":{
                    "lable":"right_hip",
                    "score":30.068750381469727,
                    "x":1577.423828125,
                    "y":847.2890625
                },
                "right_knee":{
                    "lable":"right_knee",
                    "score":32.05547332763672,
                    "x":1477.248046875,
                    "y":967.064453125
                },
                "right_mouth_corner":{
                    "lable":"right_mouth_corner",
                    "score":44.23788833618164,
                    "x":1638.400390625,
                    "y":779.779296875
                },
                "right_shoulder":{
                    "lable":"right_shoulder",
                    "score":26.766407012939453,
                    "x":1843.107421875,
                    "y":797.201171875
                },
                "right_wrist":{
                    "lable":"right_wrist",
                    "score":15.72343635559082,
                    "x":1725.509765625,
                    "y":919.154296875
                },
                "top_head":{
                    "lable":"top_head",
                    "score":258.20001220703125,
                    "x":1721.154296875,
                    "y":640.404296875
                }
            },
            "image_data":"",
            "score":0.20987997949123383,
            "x0":0.7509458661079407,
            "x1":0.9768182635307312,
            "y0":0.5868204236030579,
            "y1":0.9990741014480591
        }
    ],
    "task_id":5,
    "task_name":"关键点",
    "task_type":"eb::humanpose",
    "time":1652951298068,
    "width":1920
}

HTTP模型推理服务接口

人体关键点的模型推理服务接口与开发管理平台接口使用方法相同,推理结果与可视化页面模型管理中的效果验证结果相同。

HTTP模型推理服务接口使用请参考EdgeBoard开发管理平台使用说明-HTTP模型推理服务接口

上一篇
EdgeBoard开发管理平台使用说明
下一篇
EdgeBoard人体检测软硬一体方案说明