PPYOLO训练行人检测模型
该内容为软件杯百度行人跟踪赛题中行人检测模型训练项目说明,介绍借助PaddleDetection工具的实现过程。包括解压MOT20、CrowdHuman数据集,克隆PaddleDetection仓库,处理数据集格式,训练模型,以及模型导出和推理等步骤,还提及版本差异及注意事项。

前言:
该项目是在准备今年软件杯百度行人跟踪赛题的其中一个项目:行人检测模型的训练。借助PaddleDetection这一工具可以很大程度的减小工作量,完成最终项目。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
说废话之前,先强调一点,由于在生成新版本的时候,上传有限制。所以,不能把整个项目一起上传,因此,下面在运行的时候可能会有些小问题,多加小心哦~下面我想说点“废话”。AI项目的落地其实是一个挺复杂的过程的,需要数据集的准备、网络模型的搭建、模型的训练、最后是模型的部署,虽然罗列起来大体就只有这四个步骤,但其实每个步骤都是有很多的工作要做的,或者说在学术界都是有很多研究的。如果不是偏向于学术,而仅仅只关注于项目的落地、创意的实现,其实AI Studio是一个很不错的平台,百度飞桨推出的一些库也是很不错的,因为它们大大减小了项目部署的工作量。当然,偏向于学术,用飞桨也不错哦!咳咳咳~~~,我没在推销,我很严肃的在说。嘿嘿~~再插一嘴:软件杯最终的项目,再过会就公开哦!登录后复制
emmmmmm,还是再贴一张图片吧。
一、准备数据集(MOT20、CrowdHuman):
In [ ]#!unzip -oq /home/aistudio/data/data77171/MOT20.zip!unzip -oq /home/aistudio/data/data78673/CrowedHuman.zip登录后复制
把PaddleDetection从gitee的仓库里clone下来。不过,现在不建议git clone了。因为,我们当时使用的PaddleDetection默认使用的是静态图版,现在PaddleDetection已经更新了,默认使用的是PaddleDetection动态图版。(如果要用动态图版的,只需要在解压数据集的时候,把数据集放到dataset下面,然后后边在处理数据集的时候,路径稍微有一点点的不同)当然你也可以尝试使用该版本,不过下面的一些操作会有所一点点不同。如果你只是想安安静静的运行完该项目,得到最终训练好的网络模型的话,建议在解压好MOT20与CrowdHuman数据集之后,再使用我公开的数据集PaddleDetection_软件杯。登录后复制 In [ ]
!git clone https://gitee.com/paddlepaddle/PaddleDetection.git -b release/2.0登录后复制
1、CrowdHuman数据集的处理:
下面这个脚本任务是用来处理CrowdHuman数据集的。CrowdHuman中的标签信息是.odgt文件,我们需要把该数据集格式进行转换,转换成VOC格式数据集或者json格式,下面只是展示转换成VOC格式。感兴趣的小伙伴也可以尝试将其转换成json格式。(运行下面的脚本之前需要先创建一个文件夹“CrowdHuman_VOC"文件夹,并在该文件夹下创建名为“ImageSets”的文件夹。)登录后复制 In [ ]
"""参数:roadimages CrowdHuman数据集中图片数据所在的根目录。xml_save_path .odgt文件转换成xml文件后保存的位置。感兴趣的小伙伴也可以进行尝试。fpath 需要转换的.odgt文件。"""from xml.dom import minidomimport cv2import osimport jsonfrom PIL import Imageroadimages = 'Images/'xml_save_path = "CrowdHuman_VOC/Annotations/train/"img_save_path = ''root_img_save = 'CrowdHuman_VOC/JPEGImages/train/'if not os.path.exists(xml_save_path): os.makedirs(xml_save_path)if not os.path.exists(root_img_save): os.makedirs(root_img_save) fpath = "annotation_train.odgt" def load_func(fpath): assert os.path.exists(fpath) with open(fpath, 'r') as fid: lines = fid.readlines() records = [json.loads(line.strip('\n')) for line in lines] return recordstrain_txt = open('CrowdHuman_VOC/ImageSets/train.txt', 'w')bbox = load_func(fpath)for i0, item0 in enumerate(bbox): print(i0) # 建立i0的xml tree ID = item0['ID'] # 得到当前图片的名字 imagename = roadimages + ID + '.webp' # 当前图片的完整路径 img_save_path = root_img_save + ID + '.webp' savexml = xml_save_path + ID + '.xml' # 生成的.xml注释的名字 train_txt.write('{} {}\n'.format(img_save_path, savexml)) print(img_save_path, savexml) gtboxes = item0['gtboxes'] img_name = ID floder = 'CrowdHuman' im = cv2.imread(imagename) cv2.imwrite(img_save_path, im) w = im.shape[1] h = im.shape[0] d = im.shape[2] doc = minidom.Document() # 创建DOM树对象 annotation = doc.createElement('annotation') # 创建子节点 doc.appendChild(annotation) # annotation作为doc树的子节点 folder = doc.createElement('folder') folder.appendChild(doc.createTextNode(floder)) # 文本节点作为floder的子节点 annotation.appendChild(folder) # folder作为annotation的子节点 filename = doc.createElement('filename') filename.appendChild(doc.createTextNode(img_name + '.webp')) annotation.appendChild(filename) size = doc.createElement('size') width = doc.createElement('width') width.appendChild(doc.createTextNode("%d" % w)) size.appendChild(width) height = doc.createElement('height') height.appendChild(doc.createTextNode("%d" % h)) size.appendChild(height) depth = doc.createElement('depth') depth.appendChild(doc.createTextNode("%d" % d)) size.appendChild(depth) annotation.appendChild(size) segmented = doc.createElement('segmented') segmented.appendChild(doc.createTextNode("0")) annotation.appendChild(segmented) for i1, item1 in enumerate(gtboxes): # 提取全身框(full box)的标注 boxs = [int(a) for a in item1['fbox']] # 左上点长宽--->左上右下 minx = str(boxs[0]) miny = str(boxs[1]) maxx = str(boxs[2] + boxs[0]) maxy = str(boxs[3] + boxs[1]) # print(box) object = doc.createElement('object') nm = doc.createElement('name') nm.appendChild(doc.createTextNode('fbox')) # 类名: fbox object.appendChild(nm) pose = doc.createElement('pose') pose.appendChild(doc.createTextNode("Unspecified")) object.appendChild(pose) truncated = doc.createElement('truncated') truncated.appendChild(doc.createTextNode("1")) object.appendChild(truncated) difficult = doc.createElement('difficult') difficult.appendChild(doc.createTextNode("0")) object.appendChild(difficult) bndbox = doc.createElement('bndbox') xmin = doc.createElement('xmin') xmin.appendChild(doc.createTextNode(minx)) bndbox.appendChild(xmin) ymin = doc.createElement('ymin') ymin.appendChild(doc.createTextNode(miny)) bndbox.appendChild(ymin) xmax = doc.createElement('xmax') xmax.appendChild(doc.createTextNode(maxx)) bndbox.appendChild(xmax) ymax = doc.createElement('ymax') ymax.appendChild(doc.createTextNode(maxy)) bndbox.appendChild(ymax) object.appendChild(bndbox) annotation.appendChild(object) savefile = open(savexml, 'w') savefile.write(doc.toprettyxml()) savefile.close()登录后复制 In [ ]from xml.dom import minidomimport cv2import osimport jsonfrom PIL import Imageroadimages = 'Images/'xml_save_path = "CrowdHuman_VOC/Annotations/val/"img_save_path = ''root_img_save = 'CrowdHuman_VOC/JPEGImages/val/'if not os.path.exists(xml_save_path): os.makedirs(xml_save_path)if not os.path.exists(root_img_save): os.makedirs(root_img_save) fpath = "annotation_val.odgt" def load_func(fpath): assert os.path.exists(fpath) with open(fpath, 'r') as fid: lines = fid.readlines() records = [json.loads(line.strip('\n')) for line in lines] return recordsval_txt = open('CrowdHuman_VOC/ImageSets/val.txt', 'w')bbox = load_func(fpath) for i0, item0 in enumerate(bbox): print(i0) # 建立i0的xml tree ID = item0['ID'] # 得到当前图片的名字 imagename = roadimages + ID + '.webp' # 当前图片的完整路径 img_save_path = root_img_save + ID + '.webp' savexml = xml_save_path + ID + '.xml' # 生成的.xml注释的名字 val_txt.write('{} {}\n'.format(img_save_path, savexml)) print(img_save_path, savexml) gtboxes = item0['gtboxes'] img_name = ID floder = 'CrowdHuman' im = cv2.imread(imagename) cv2.imwrite(img_save_path, im) w = im.shape[1] h = im.shape[0] d = im.shape[2] doc = minidom.Document() # 创建DOM树对象 annotation = doc.createElement('annotation') # 创建子节点 doc.appendChild(annotation) # annotation作为doc树的子节点 folder = doc.createElement('folder') folder.appendChild(doc.createTextNode(floder)) # 文本节点作为floder的子节点 annotation.appendChild(folder) # folder作为annotation的子节点 filename = doc.createElement('filename') filename.appendChild(doc.createTextNode(img_name + '.webp')) annotation.appendChild(filename) size = doc.createElement('size') width = doc.createElement('width') width.appendChild(doc.createTextNode("%d" % w)) size.appendChild(width) height = doc.createElement('height') height.appendChild(doc.createTextNode("%d" % h)) size.appendChild(height) depth = doc.createElement('depth') depth.appendChild(doc.createTextNode("%d" % d)) size.appendChild(depth) annotation.appendChild(size) segmented = doc.createElement('segmented') segmented.appendChild(doc.createTextNode("0")) annotation.appendChild(segmented) for i1, item1 in enumerate(gtboxes): # 提取全身框(full box)的标注 boxs = [int(a) for a in item1['fbox']] # 左上点长宽--->左上右下 minx = str(boxs[0]) miny = str(boxs[1]) maxx = str(boxs[2] + boxs[0]) maxy = str(boxs[3] + boxs[1]) # print(box) object = doc.createElement('object') nm = doc.createElement('name') nm.appendChild(doc.createTextNode('fbox')) # 类名: fbox object.appendChild(nm) pose = doc.createElement('pose') pose.appendChild(doc.createTextNode("Unspecified")) object.appendChild(pose) truncated = doc.createElement('truncated') truncated.appendChild(doc.createTextNode("1")) object.appendChild(truncated) difficult = doc.createElement('difficult') difficult.appendChild(doc.createTextNode("0")) object.appendChild(difficult) bndbox = doc.createElement('bndbox') xmin = doc.createElement('xmin') xmin.appendChild(doc.createTextNode(minx)) bndbox.appendChild(xmin) ymin = doc.createElement('ymin') ymin.appendChild(doc.createTextNode(miny)) bndbox.appendChild(ymin) xmax = doc.createElement('xmax') xmax.appendChild(doc.createTextNode(maxx)) bndbox.appendChild(xmax) ymax = doc.createElement('ymax') ymax.appendChild(doc.createTextNode(maxy)) bndbox.appendChild(ymax) object.appendChild(bndbox) annotation.appendChild(object) savefile = open(savexml, 'w') savefile.write(doc.toprettyxml()) savefile.close()登录后复制 In [ ]!mv CrowdHuman_VOC PaddleDetection/dataset登录后复制 In [ ]
train_new = open('dataset/CrowdHuman_VOC/ImageSets/train_new.txt', 'w')with open('dataset/CrowdHuman_VOC/ImageSets/train.txt', 'r') as f: for info in f.readlines(): info_ = info.strip().split(' ') for file_ in info_: result = file_.strip().split('/') train_new.write('{}/{}/{} '.format(result[1], result[2], result[3])) train_new.write('\n')登录后复制 2、MOT20数据集的处理:
下面这个脚本是用来将MOT20数据集进行转换,转换成VOC格式的数据集。登录后复制 In [ ]
import cv2import osimport numpy as npimport timeimport argparseimport shutilimport codecsimport progressbartrain_20 = ['MOT20/train/MOT20-01/', 'MOT20/train/MOT20-02/', 'MOT20/train/MOT20-03/', 'MOT20/train/MOT20-05/']test_20 = ['MOT20/test/MOT20-04/', 'MOT20/test/MOT20-06/', 'MOT20/test/MOT20-07/', 'MOT20/test/MOT20-08/']def parse_ini(dir): ini_fp = open(dir + 'seqinfo.ini','r') seq_info = ini_fp.readlines() seqLenth = int(seq_info[4][10:]) imWidth = int(seq_info[5][8:]) imHeight = int(seq_info[6][9:]) return seqLenth,imWidth,imHeightdef gennerate_gt(gt,Annotation,frame,filename,width,height): fp_gt = open(gt) gt_lines = fp_gt.readlines() gt_fram = [] for line in gt_lines: fram_id = int(line.split(',')[0]) if fram_id == frame: visible = float(line.split(',')[8]) label_class = line.split(',')[7] if (label_class == '1' or label_class == '2' or label_class == '7') and visible > 0.3: gt_fram.append(line) with codecs.open(Annotation + filename + '.xml', 'w') as xml: xml.write('\n') xml.write('\n') xml.write('\t' + 'voc' + ' \n') xml.write('\t' + filename + '.webp' + ' \n') # xml.write('\t' + path + "/" + info1 + ' \n') xml.write('\t\n') xml.write('\t\t The MOT-Det \n') xml.write('\t \n') xml.write('\t\n') xml.write('\t\t' + str(width) + ' \n') xml.write('\t\t' + str(height) + ' \n') xml.write('\t\t' + '3' + ' \n') xml.write('\t \n') xml.write('\t\t0 \n') for bbox in gt_fram: x1 = int(bbox.split(',')[2]) y1 = int(bbox.split(',')[3]) x2 = int(bbox.split(',')[4]) y2 = int(bbox.split(',')[5]) xml.write('\t\n') xml.write(' ')#用于校验图片数量和标注数量是否一致def check_num(data_dir, JPEGImage_dir,Annotations_dir=None,ori_num = 0): num = 0 for folder in data_dir: folder_len,_,_ = parse_ini(folder) num += folder_len img_list = os.listdir(JPEGImage_dir) if ori_num==0: img_num = len(img_list) else: img_num = len(img_list)-ori_num # print('img_num:',img_num) if Annotations_dir: ann_list = os.listdir(Annotations_dir) ann_num = len(ann_list) assert ann_num == num assert img_num == num,'if it is the second time run this demo, please delete the JPEGImages folder and retry' # print('num:', num) print('folders {} have been succeed checked'.format(data_dir)) return numdef main(): """train_dirs = train_20""" test_dirs = test_20 motyear = '20' folder = 'MOT' + motyear + 'Det'+'/VOC/' Annotations = folder+'Annotations/'+'val/' ImageSets = folder + 'ImageSets/' JPEGImages = folder + 'JPEGImages/'+'val/' Main = ImageSets + 'Main/' if not os.path.exists(Annotations): os.makedirs(Annotations) if not os.path.exists(ImageSets): os.makedirs(ImageSets) if not os.path.exists(JPEGImages): os.makedirs(JPEGImages) if not os.path.exists(Main): os.makedirs(Main) #fp_txt = open(ImageSets + 'train_all.txt', 'w') fp_test = open(ImageSets + 'test_all.txt', 'w') for test_ in test_dirs: img2 = test_ + 'img1/' folder_id = test_[-3:-1] test_list = os.listdir(img2) test_seqLen,_,_ = parse_ini(test_) assert test_seqLen==len(test_list) bar = progressbar.ProgressBar(maxval=len(test_list)).start() count = 0 for img in test_list: count += 1 bar.update(count) format_name = folder_id + img fp_test.writelines(format_name[:-4] + '\n') # 将生成的新的文件名写入train_all.txt,用于后续数据集拆分 shutil.copy(img2 + img, JPEGImages + '/' + format_name) # 将文件移动到指定文件夹并重新命名 fp_test.close()if __name__ == '__main__': main()登录后复制 In [1]!pip install pycocotools登录后复制 In [ ]
#也可以尝试把转换后的VOC格式数据集转换成coco数据集格式后再进行训练!python PaddleDetection/tools/x2coco.py \ --dataset_type voc \ --voc_anno_dir MOT20Det/voc/Annotations \ --voc_anno_list MOT20Det/voc/ImageSets/valid_all.txt \ --voc_label_list MOT20Det/voc/label_list.txt \ --voc_out_name voc_valid.json登录后复制
Start converting !100%|███████████████████████████████████████| 893/893 [00:00<00:00, 2474.32it/s]登录后复制
二、模型的训练:
In [ ]%cd PaddleDetection/!pip install paddledet登录后复制
由于生成VOC数据集的脚本文件有一点小问题,所以在训练之前要先把train.txt文件最后一行删除然后再保存进行训练。登录后复制 In [2]
#mot20!python PaddleDetection/tools/train.py \ -c ppyolo.yml \ --vdl_log_dir ~/log_crowdhuman/ppyolo_voc \ --use_vdl True登录后复制 In [ ]
!python tools/export_model.py \ -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml\ #-o output/ppyolov2_r50vd_dcn_365e_coco/model_final.pdparams\ --output_dir inference_model登录后复制
三、进行推理:
In [ ]!python tools/infer.py \ -c configs/ppyolo/ppyolov2_r50vd_dcn_365e_coco.yml \ -o weights=output/ppyolov2_r50vd_dcn_365e_coco/model_final.pdparams \ --infer_img=/home/aistudio/infer_img/00016.webp \ --draw_threshold=0.15登录后复制
这里我只是把PaddleDetection里的相关代码提取出来,放到文件夹里。这种方式便于部署,用起来很舒服。嘿嘿~~。登录后复制 In [ ]
import cv2from Detector_ppyolo import Detectorimg = cv2.imread('MOT20Det/VOC/JPEGImages/train/01000313.webp')model_dir = 'inference_model/ppyolo'config = Config(model_dir)detector = Detector( config, model_dir, use_gpu=False, run_mode='fluid')result, detections = detector.predict(img, 0.15)print(detections)登录后复制 相关攻略
Pywinrm 通过Windows远程管理(WinRM)协议,让Python能够像操作本地一样执行远程Windows命令,真正打通了跨平台管理的最后一公里。 在混合IT环境中,Linux机器管理Wi
早些时候,聊过 Python 领域那场惊心动魄的供应链攻击。当时我就感叹,虽然我们 JavaScript 开发者对这类套路烂熟于心,但亲眼目睹这种规模的“投毒”还是头一次。 早些时候,聊过 Pyth
Toga 是 BeeWare 家族的核心成员,号称“写一次,跑遍所有平台”,而且用的是系统原生控件,不是那种一看就是网页套壳的界面 。 写了这么多年 Python,你是不是也想过:要是能一套代码跑
异常处理的核心:让错误在正确的地方被有效处理。正确的地方,就是别在底层就把异常吞了,也别在顶层还抛裸奔的 Exception。 异常处理写得好,半夜不用起来改 bug。1 你是不是也这么干过?tr
1 Skills机制概述 提起OpenClaw的Skills机制,不少人可能会把它想象成传统意义上的可执行插件。其实,它的内涵要更精妙一些。 简单说,Skills本质上是一套基于提示驱动的能力扩展机制。它并不是一个可以独立“跑”起来的程序模块,而是通过一份结构化描述文件(核心就是那个SKILL m
热门专题
热门推荐
清明节假期期间,A 股和港股休市,但比特币行情永不停歇。 4月6日,当多数市场还在假期中沉睡时,比特币已经悄然启动。价格从亚洲早盘的低点67400美元出发,一路向上试探,盘中最高涨破70300美元,不仅刷新了3月26日以来的高位,较日内低点的涨幅也超过了4%。以太坊的表现同样不俗,从2050美元附近
4月5日消息,日前,REDMI K90至尊版通过3C认证,预计将于本月发布。今日,小米中国区市场部总经理魏思琪用小米新机发布微博,不出意外,这正是即将登场的REDMI K90至尊版,这将是小米首款配
WPS演示中图表不随数据更新时,可通过四种方法实现自动同步:一、用OFFSET+COUNTA定义动态名称绑定图表;二、用组合框控件联动VLOOKUP提取数据;三、用数据透视图配合切
聚焦数字技术,释放创新动能。为集中展示静安区区块链技术从“实验室”走向“应用场”的丰硕成果,挖掘一批可复制、可推广的行业解决方案,加速构建区块链产业生态闭环,静安区数据局特推出“静安区区块链创新应用
太空中的马桶堵了,边飞边修还能勉强用。但中东被点燃的火药桶,美国怎么来扑灭?靠一再延期的“最后通牒”?还是靠无底线的轰炸?2300万美元的马桶美国航空航天局4名宇航员1日搭乘“猎户座”飞船升空,执行





