ReID
在执法部门的工作中,目标的识别和定位是及其关键的一步,然而现有的监控部署下,这个关键步骤几乎是靠着人力完成的。在这个讲究数据和效率的时代,通过人工观察监控录像查找结果显然存在着很大的资源浪费以及效率的低下。另外,由于摄像头的分辨率等硬件缺陷,很难得到清晰的人身和车牌图像,因此,已经大力推广的人脸识别和车牌识别技术已不再适用此场景。由于传统人工查询的不便性以及人脸和车牌识别的无法应用,研究者思考如何发明一项更合适的技术来取代人脸和车牌识别,能在监控领域以机器代替人力分析呢?故此,重识别(Re-identification,ReID)的研究也随之展开。
大白话,在监控拍不到人脸和车牌的情况下,ReID 来替补,它可以识别人车外形特征(衣着、颜色、型号、姿态等)。
什么是ReID?
ReID,也就是 Re-identification,其定义是利用算法,在图像库中找到要搜索的目标的技术。
在现代智能安防和视频监控系统中,行人重识别(Person Re-identification)和车辆重识别(Vehicle Re-identification)技术扮演着至关重要的角色,在 Frigate 中使用 ReID 可以从抓拍帧中提取出有效的特征(车辆:车型、颜色等,人员:衣着、年龄段、体态等)以便快速检索和跟踪可疑人员和车辆,为刑事侦查、公共安全、企业内部调查等提供强有力的技术支持。
ONNX
开放神经网络交换 ONNX(Open Neural Network Exchange)是一套表示深度神经网络模型的开放格式,由微软和 Facebook 于 2017 推出,然后迅速得到了各大厂商和框架的支持。
现在很多的深度学习框架提供的功能都是类似的,但是在 API、计算图和 runtime 方面却是独立的,这就给 AI 开发者在不同平台部署不同模型带来了很多困难和挑战,ONNX 的目的在于提供一个跨框架的模型中间表达框架,用于模型转换和部署。ONNX 提供的计算图是通用的,格式也是开源的。
Frigate 中的 ReID 使用 ONNX 模型推理每个人/车检测事件的抓拍图像,不是检测每一帧,以使用很少的计算资源提取有效的外形特征。
ReID 设置示例:
# 行人 ReID 参数配置
preid:
# 启用或关闭行人 ReID,默认为 false
enabled: false
# 抓拍帧目标检测截图长或宽的值(较长的),默认为:60
longer_size: 60
# 抓拍帧目标检测截图长或宽的值(较短的),默认为:30
shorter_size: 30
# 行人 ReID 的最小得分
min_score: 0.65
# 模型路径
model_path: /config/model_cache/onnx/preid_c4s.onnx
# 启用行人正方形抓拍,默认为:false
square_snap_enabled: true
# 保存子标签或描述的语言,有Simplified Chinese和English两种可选,默认为:English
lang: English
# 模型使用 CPU 推理时使用的线程数,默认为:2
thread_num: 2
# 车辆 ReID 参数配置
vreid:
# 启用或关闭车辆 ReID,默认为 false
enabled: false
# 抓拍帧目标检测截图长或宽的值(较长的),默认为:60
longer_size: 60
# 抓拍帧目标检测截图长或宽的值(较短的),默认为:30
shorter_size: 30
# 车辆 ReID 的最小得分
min_score: 0.65
# 模型路径
model_path: /config/model_cache/onnx/vreid_c4s.onnx
# 保存子标签或描述的语言,有Simplified Chinese和English两种可选,默认为:English
lang: English
# 模型使用 CPU 推理时使用的线程数,默认为:2
thread_num: 2
onnx模型在容器中默认存放于 /config/model_cache/onnx/
,人车 ReID 模型分别命名为:preid.onnx、vreid.onnx。
如果使用 GPU 推理(无论nVidia或Intel Arc),开启 ReID 对算力相关硬件资源的占用很小,如果只有 CPU 可用,要确定线程数够用,不会对其它任务造成严重影响。如果启用了 GPU 语义搜索,可以关闭行人 ReID,因为 Jina AI 向量搜索模型对人的描述足够一般用途,但建议开启车辆 ReID 因为Jina 向量模型车辆识别能力有限,很多国产品牌或新款车型没有训练过,ReID 能识别的车辆类型如下已列出。更高精度和更广泛场景覆盖的模型有赖于用户的共同努力,模型更新流程:
%%{init: {"themeVariables": {"edgeLabelBackground": "transparent"}}}%%
flowchart LR
opration(日常运行) --> upload(上传无法正确识别属性的人车图像)
upload --> labelimg(图像标注)
labelimg --> model_trainning(模型训练)
model_trainning --> model_deploy(模型部署)
model_deploy --> opration
行人 ReID 模型
该模型同时用于智能搜人,可识别30多种行人外形属性:
- 头部:帽子、眼镜
- 上身服装颜色:白色、黑色、红色、橙色、黄色、粉色、深蓝色、蓝色、绿色、灰色、紫色
- 上身穿着特征:短袖、长袖、条纹、图案、撞色/多色、格子
- 下身穿着特征:条纹、图案、长外套、长裤、短裤、裙子、靴子
- 包裹携带特征:手提包、肩包、背包、手持物品
- 年龄特征:老年、成年、未成年
- 姿态特征:正身、侧身、背面
- 性别:男性、女性
车辆 ReID 模型
摄像机的安装高度应尽量保持与人眼相近,以获取更准确的属性识别率。
当前模型主要用于识别家用轿车,同时用于智能搜车。
可识别300多种车辆属性:
- 颜色: 金色、棕色、绿色、黄色、浅灰色、灰色、浅蓝色、黑色、白色、蓝色、红色、粉色、橙色、紫色
- 品牌:特斯拉、大众、本田、丰田、奥迪、日产、宝马、广汽、奔驰、长安、别克、吉利、领克、福特、沃尔沃、奇瑞、五菱、标致、雪佛兰、马自达、雷克萨斯、凯迪拉克、名爵、现代
- 车型:
- 秦L
- 秦Plus-EV
- 秦Plus-DM-i
- 海豚
- 腾势D9
- 宋Plus-DM-i_2021
- 宋Plus-DM-i_2023-2024
- 宋Plus-EV_2023-2024
- 宋Pro-DM-i_2023-2024
- 驱逐舰05_2022-2024
- 唐EV_2022-2024
- 唐DM-i_2021-2024
- 唐DM-p_2022-2024
- 汉DM、Q8、5系_2014-2017
- 元Plus
- 元UP
- 海豹06DM-i
- 海鸥
- Model-3|Model-Y
- Model-S
- 速腾_2019-2022
- 速腾_2023
- 迈腾_2012-2016
- 迈腾_2017-2019
- 迈腾_2020
- 朗逸_2015-2017
- 朗逸_2018-2022
- 朗逸_星空版_2023
- 朗逸_2023
- 途观
- 途观L_2017-2021
- 途观L_2022-2024
- 探歌_2018-2022
- 探歌_2023-2024
- 探岳-两驱_2019-2022
- 探岳-Plus_2023-2024
- 探岳-R-Line_2019-2022
- 探岳-R-Line_2023-2024
- 途安_2011-2015
- CC_2013-2018
- 帕萨特_2016-2017
- 帕萨特_2019-2021
- 帕萨特_2022-2024
- ID3_2021-2023
- 宝来_2019-2021
- 捷达VS7_2020-2021
- 逍客_2021-2022
- 轩逸_经典_2012-2016-2019_2014_2009
- 轩逸_经典XE-XV-XL_2021-2024-XE-XV-XL_2016-2019
- 轩逸_XE-XL_2020-2022
- 轩逸_超混电驱_2023
- 轩逸_CVT_2023
- 玛驰
- CRV_2021
- CRV_2023
- 雅阁_2018
- 雅阁_2022
- 思域_2023
- 赛那_2021-2023
- 型格_2022-2023
- 皓影_2020-2021
- 飞度
- 凯美瑞_2015-2016
- 凯美瑞_2018-2019
- 凯美瑞_锋尚版_2018-2019
- 凯美瑞_2021-2023
- 亚洲龙_2019-2021
- 亚洲龙_2022-2023
- 雷凌_2014-2017
- 雷凌_2019-2022
- 锋兰达_2022
- 锋兰达_2023
- 威兰达_2022-2023
- RAV4荣放_2016-2019
- RAV4荣放_2020-2023
- 汉兰达_2012-2013
- 汉兰达_2015-2017
- 汉兰达_2018-2021
- 汉兰达_2022-2023
- YARiS-L-致炫_2016-2022
- 卡罗拉_2014-2017
- 卡罗拉_2019-2023
- 卡罗拉_1.2T_2017改-2018
- 卡罗拉锐放_2022-2023
- 威飒_2022-2023
- ES_2023
- A3-Sportback
- A6L_2023
- A6L_动感型_2023
- A4L_动感版_2023-2024
- A4L_致雅型_2023-2024
- Q5_2013-2018
- Q5L_动感版_2021-2024
- 3系_2020-2022
- 3系_2023-2024
- 3系-M_2013-2019
- 3系GT-M_2017-2020
- 3系GT_2017-2019
- 5系_豪华套装_2021-2023
- 5系_运动套装_2021-2023
- 5系_豪华套装_2024
- 5系_2018-2020
- 5系-M_2024
- 5系-M_2018-2020
- X1_2016-2019
- X1_2020-2022
- X1-X_2023
- X1-M_2023
- X3-M_2022-2023
- X3-M_2018-2021
- X3_豪华套装_2018-2021
- X5-M_2019-2022
- X5-M_2017-2018
- X5-M_2023
- X5-X_2019-2021
- X5_2015-2018
- Mini
- 理想L7|L8|l9
- MEGA
- 问界M5
- 问界M7
- 问界M9
- 小鹏P7
- 小鹏G6
- 蔚来ES6
- 蔚来ET5T
- C180L|C200L|C260L|C300L_运动版_2019-2021
- C200L|C260L-运动版_2022-2024
- C260L_2022-2024
- C260L_2019-2021
- C260_2019-2020
- E级_2021-2023
- E级-运动型_2021-2023
- E级_2016-2020
- E级-运动型_2016-2020
- E级-运动型_2024
- E级_2024
- GLC260L-动感型_2020-2022
- GLC260L豪华型|GLC300L_2020-2022
- GLC260L豪华型|GLC300L_2023-2024
- GLB_2020-2023
- AION-S
- AION-S-MAX
- AION-Y
- 传祺M8_宗师_2023-2024
- 传祺M8_大师_2020-2023
- 传祺M8_领秀_2021-2023
- CS75-Plus_2020-2021
- CS75-Plus_第二代_2022
- CS75-Plus_经典款_2022
- 逸动_2020-2021
- 逸动_蓝鲸NE_2022-2023
- UNI-V_2023-2024
- 君越_2022
- 威朗_2022
- GL8_2017-2018
- GL8_陆上公务舱_2023
- GL8_陆上公务舱_2020-2022
- GL8_ES陆尊_2020-2022
- GL8_艾维亚_2020-2022
- GL8_ES陆尊|艾维亚_2023
- 探界者_2021-2023
- 科鲁兹_2023-2024
- 畅巡_2021-2022
- 迈锐宝XL_2019-2023
- 创酷_2019-2023
- CT5_2023-2024
- 福克斯
- 蒙迪欧
- 锐界
- Taycan
- Macan
- S60
- C40
- XC60
- 哈弗M6
- 哈弗H6
- 坦克300
- 大狗_2024
- 欧拉闪电猫
- 领克03_2023
- 领克03_2020-2022
- 领克06_2020-2023
- 领克06_EM-P_2023
- 领克08_EM-P_2023
- 星越L
- 帝豪
- 几何E萤火虫
- 几何M6
- ICON
- 艾瑞泽8
- 瑞虎8
- 宏光
- 缤果
- 宝骏510_2017
- 红旗H5
- 红旗HS5
- MG5_2021-2023
- MG7_2023
- 阿特兹_2020-2021
- 阿特兹_2017-2018
- cx-30_2020-2022
- cx-5_2022-2024
- 昂克赛拉_2020-2023
- 408_2019-2020
- 508_2019-2022
- 4008_2021-2022
- 5008_2021
- 福田_奥铃M卡
- 福田_祥菱M2
- 跃进_福星S80
- 伊兰特_2023
- 伊兰特_2022
- ix35_2021
- ix35_2023
- 自由侠
- 牧马人