当前位置：首页 > news >正文

RT-DETR实战TT100K中国交通标志识别

news 2024/11/14 13:43:48

在这里插入图片描述

本文采用RT-DETR作为核心算法框架，结合PyQt5构建用户界面，使用Python3进行开发。RT-DETR以其高效的实时检测能力，在多个目标检测任务中展现出卓越性能。本研究针对TT100K交通标志数据集进行训练和优化，该数据集包含丰富的TT100K交通标志图像样本，为模型的准确性和泛化能力提供了有力保障。通过深度学习技术，模型能够自动提取TT100K交通标志的特征并进行分类识别。PyQt5界面设计简洁直观，便于用户操作和实时查看检测结果。本研究不仅提高了TT100K交通标志识别的自动化水平，还为智能交通系统的构建提供了有力支持，具有重要的理论应用价值。

RT-DETR实战tt100k交通标志识别

文章目录

研究背景
1.前言
- 1.1 RT-DETR系列：目标检测领域的璀璨明星
- 1.2 Transformer与注意力机制：为目标检测注入新活力
- 1.3 TT100K交通标志检测技术：迎接挑战，砥砺前行
- 1.4 RT-DETR算法在TT100K交通标志检测系统中的精彩演绎
2.TT100K交通标志数据集介绍
3.界面效果演示
- 3.1 图像测试
- 3.2 视频测试
- 3.3 摄像头测试
4. RT-DETR 原理
- 4.1.RT-DETR整体网络结构
- 4.2. backbone模块
- 4.3. encode模块
- 4.4. decode模块
5 模型训练
- 5.1 Conda环境构建
- 5.2 基础环境构建
- 5.3 安装RT-DETR环境
- 5.4 构建TT100K交通标志检测模型
6 系统实现
- 6.1架构设计
- 6.2 系统流程
- 6.3 代码实现
安装与资源说明
总结与展望
结束语

研究背景

1.前言

1.1 RT-DETR系列：目标检测领域的璀璨明星

在实时目标检测的算法星空中，RT-DETR 系列无疑是最为耀眼的星座之一。在性能、速度与准确度上实现了跨越式的提升。RT-DETR，作为这一系列的最新杰作，凭借其更为深邃复杂的网络架构以及精妙绝伦的训练技巧，将检测的准确性与速度推向了新的高峰。尤其在应对动态视频流中的TT100K交通标志检测任务时，它宛如一位技艺精湛的舞者，展现出了令人赞叹的卓越性能。这些显著的改进，如同强大的引力，使得 RT-DETR系列在TT100K交通标志检测领域的应用版图不断拓展，愈发完美地契合了实时性与准确性的双重严苛要求。
多元算法共筑TT100K交通标志标志检测的坚实堡垒
除了光芒四射的RT-DETR系列，其他深度学习算法，诸如 Faster R - CNN、SSD 以及基于 Transformer 的 DETR 等，也纷纷在TT100K交通标志佩戴检测的舞台上崭露头角。它们各具独特的优势，恰似一群才华横溢的艺术家，在不同的领域绽放光彩。Faster R - CNN 以其在检测精度上的非凡表现，犹如一位精雕细琢的工匠，刻画着每一个细节；而 SSD 则在速度方面具备明显优势，恰似一阵疾风，迅速而敏捷。最新的研究恰似一场永不停歇的探索之旅，不断挖掘这些算法的改进版本，力求在速度与准确性之间找到那最为完美的平衡点，如同在钢丝上寻找平衡的舞者，追求极致的和谐。

1.2 Transformer与注意力机制：为目标检测注入新活力

Transformer 在视觉任务中的应用，犹如一颗璀璨的新星划破夜空，吸引了广泛的关注，其中视觉 Transformer（ViT）更是备受瞩目。ViT 通过巧妙引入自注意力机制，仿佛为模型赋予了一双敏锐的眼睛，能够精准捕捉图像中的长距离依赖关系，这在中国TT100K交通标志形态复杂多样且背景纷繁复杂的情况下，显得尤为关键。相较于传统的卷积神经网络（CNN），ViT 在处理图像全局信息时展现出了更为卓越的能力，如同一位宏观把控的大师，为中国TT100K交通标志检测开辟了一片崭新的天地，提供了全新的解决思路。
注意力机制，作为 Transformer 的核心瑰宝，已如同星星之火，在各种深度学习模型中形成燎原之势，在中国TT100K交通标志检测领域更是大放异彩。它赋予了模型对图像特定部分的 “专注” 能力，如同为模型戴上了一副神奇的眼镜，使其能够在复杂的背景或多变的中国TT100K交通标志形态中，依然清晰地定位并准确识别目标，即便在干扰信息如潮水般涌来的环境中，也能稳如泰山，保持较高的检测准确率。

1.3 TT100K交通标志检测技术：迎接挑战，砥砺前行

当前，中国TT100K交通标志检测技术正置身于充满挑战的浪潮之中，亟待提高检测的实时性、准确性以及在多变环境下的适应性，如同在波涛汹涌的大海中航行的船只，需要不断调整航向，迎接风浪的挑战。为了跨越这些难关，研究人员们宛如勇敢的探险家，不断探索新的算法和技术。例如，通过深度学习模型的轻量化设计，如同为船只减轻负重，提高算法的运行效率，使其在复杂的环境中更加灵活敏捷；利用创新的数据增强技术和自适应学习方法，仿佛为船只加固船身，提升模型的泛化能力和鲁棒性，使其能够在各种未知的海域中稳健前行。

1.4 RT-DETR算法在TT100K交通标志检测系统中的精彩演绎

本博客致力于基于 RT-DETR 算法构建一个TT100K交通标志检测系统，并全方位展示其魅力。我们将呈现系统精致的界面效果，如同揭开一幅美丽画卷，让您领略其独特风采；深入阐述其算法原理，恰似探秘一座神秘城堡，为您揭示其中的奥秘；毫无保留地提供代码实现，仿佛为您递上一把开启知识宝库的钥匙；详细分享该系统的实现过程，如同陪伴您走过一段精彩旅程，让您亲身体验其中的艰辛与喜悦。希望本博客的倾心分享能如同一盏明灯，为读者照亮前行的道路，给予您深刻的启示，进而推动更多相关研究的蓬勃发展。本文的核心内容主要涵盖以下几个方面：

RT-DETR 算法的卓越应用与性能对比
本文不仅详细介绍了基于 RT-DETR 算法的中国TT100K交通标志检测系统的构建历程，如同讲述一个精彩的创业故事，而且还深入细致地比较了 YOLOv7、YOLOv6、YOLOv5 等早期版本的性能差异，仿佛展开一场激烈的武林高手对决。这一全面深入的比较研究，恰似一本权威的指南，为中国TT100K交通标志检测技术的选型提供了坚实有力的参考依据。特别是 RT-DETR 算法在效率和精准度方面所展现出的显著优势，犹如一座明亮的灯塔，为 TT100K交通标志检测指明了一条更为高效、更为准确的技术路径。
PyQt5 打造的友好用户界面
通过 Python 的 PyQt5 库精心打造的TT100K交通标志检测系统，不仅具备高效卓越的检测能力，如同一位内功深厚的武林高手，更提供了直观便捷、令人赏心悦目的用户操作界面，仿佛为用户搭建了一座温馨的家园。这种贴心的设计，使得TT100K交通标志检测变得更加亲切友好，如同一位热情好客的主人，有助于广泛推广 RT-DETR 算法的应用，同时也为TT100K交通标志检测技术的普及和实用化注入了强大的动力，如同春风化雨，滋润着这片技术的田野。
RT-DETR 模型的深度研究与性能剖析

RT-DETR（Real-Time Detection Transformer）是一种目标检测模型，具有高效、准确的特点，以下是对它的详细介绍：
核心设计理念：
- 高效的混合编码器：设计了一个高效的混合编码器（Hybrid Encoder），它通过解耦尺度内特征交互（AIFI）和跨尺度特征融合（CCFM）来高效处理多尺度特征。这种设计能够在保持较高检测精度的同时，降低模型的计算复杂度，提高模型的运行速度。
- IOU感知的查询选择：提出了IOU感知的查询选择机制（IOU-Aware Query Selection），用于优化解码器查询的初始化。该机制考虑了预测框与真实框之间的IOU信息，使得模型能够选择更优质的查询，从而提高检测的准确性，尤其是对于那些分类分数和IOU不一致的情况，该机制能够提供更高质量的解码器特征。
- 灵活的推理速度调整：支持使用不同的解码器层来灵活调整推理速度，而不需要重新训练。这使得模型可以根据不同的硬件设备和应用场景，在保证一定检测精度的前提下，选择合适的推理速度，方便了模型的实际应用。
  模型结构：
- Backbone：采用了经典的ResNet和百度自研的HGNet-V2两种骨干网络，并且骨干网络是可缩放的，有不同的版本以适应不同的需求。与其他DETR类检测器使用最后4个阶段输出不同，RT-DETR为了提速只使用最后3个阶段的输出。
- Neck：即上述的混合编码器，相当于DETR中的编码器，类似于经典检测模型常用的FPN（Feature Pyramid Network）结构。通过对编码器的改进，减少了计算量的冗余，提高了特征提取的效率。
- Transformer：名为RT-DETR Transformer，是基于Dino Transformer中的解码器改动而来，改动相对不大。
- Head和Loss：与Dino Head基本一样，整个模型的颈部（Neck）、Transformer和检测头（Head）构成了一个完整的Transformer结构。
  性能表现：
- 在速度方面，RT-DETR表现出色，例如RT-DETR-L在COCO val2017数据集上能够达到114FPS的速度，而RT-DETR-X则能达到74FPS的速度。
- 在精度方面，RT-DETR也具有较高的检测精度，如RT-DETR-L在COCO val2017上实现了53.0%的AP（Average Precision），RT-DETR-X实现了54.8%的AP，在速度和精度的综合表现上优于相同规模的YOLO检测器。

总的来说，RT-DETR是一种创新的目标检测模型，在实时目标检测任务中具有很大的优势，为目标检测领域提供了一种新的思路和方法。

2.TT100K交通标志数据集介绍

TT100K交通标志数据集包含50种常见的中国交通标志类别，在数据预处理阶段，采取了几项关键步骤以确保数据集的质量。首先，所有图像都经过了自动方向校正。接着，所有图像都被统一调整至640x640像素，通过拉伸的方式来适配这一分辨率。
在这里插入图片描述

在这里插入图片描述

3.界面效果演示

3.1 图像测试

在这里插入图片描述

3.2 视频测试

在这里插入图片描述

3.3 摄像头测试

在这里插入图片描述

4. RT-DETR 原理

4.1.RT-DETR整体网络结构

在这里插入图片描述

4.2. backbone模块

backbone之一是对ResNet的魔改，命名为presnet，其主要修改包含两个方向:

第一，把开始阶段的7x7卷积改为三组3x3卷积，通过调整步长使得输出shape与原来的7x7保持一致，这样可以更好地提取特征。
第二，把resnetblock中1x1，步长为2的池化模块替换为步长为2的全局池化，然后1x1调整通道数，这样做的目的是原来的下采样方式会丢失信息，修改后更多地保留信息。

4.3. encode模块

encode对应结构图中efficient hybrid encoder
AIFI编码器TransformerEncoderLayer
CCFM可以认为就是个PAFPN。
Fusion模块

4.4. decode模块

decode部分比encode复杂很多，整合多种detr相关技术
解析get_decoder_input() : IOU-aware+decode输入，解决类别置信度与位置置信度表现不一样的问题.
decoder模块模块来自Deformable DETR.
– memory_mask: 哪写memory中的query是pading出来的.
– score_head: ModuleList, 对每个docoder层输出进行类别预测
– bbox_head: ModuleList, 对每个docoder层输出进行坐标预测
解析layer层主要模块Multi-scale Deformable-Attention

5 模型训练

模型训练主要分为如下几步：

5.1 Conda环境构建

新人安装Anaconda环境可以参考博主写的文章Anaconda3与PyCharm安装配置保姆教程

5.2 基础环境构建

新人安装PyTorch GPU版本可以参考博主写的文章基于conda的PyTorch深度学习框架GPU安装教程

5.3 安装RT-DETR环境

conda create -n RT-DETR python=3.8
conda activate RT-DETR

5.4 构建TT100K交通标志检测模型

TT100K交通标志检测系统，分别为

names: ['pl80', 'p6', 'ph', 'w', 'pa', 'p27', 'i5', 'p1', 'il70', 'p5', 'pm', 'p19', 'ip', 'p11', 'p13', 'p26', 'i2', 'pn', 'p10', 'p23', 'pbp', 'p3', 'p12', 'pne', 'i4', 'pb', 'pg', 'pr','pl5','pl10', 'pl15','pl20','pl25','pl30','pl35','pl40','pl50','pl60','pl65','pl70','pl90','pl100','pl110','pl120','il50','il60','il80','il90','il100','il110']

TT100K交通标志数据集训练集一共15,887左右，验证集4,641张，标注格式采用yolo格式组织

	imagestrainimage1.jpgimage2.jpg...valimage11.jpgimage22.jpg...labelstrainimage1.txtimage2.txt...valimage11.txtimage22.txt...

我们开启训练之旅的第一步是导入一系列不可或缺的模块，其中涵盖了 os 模块，它犹如一把万能钥匙，为我们处理各种文件路径相关的操作提供了便利；torch 模块恰似一台强大的引擎，助力我们高效地执行各类数值计算任务；yaml 模块则如同一位精准的翻译官，能够帮助我们轻松解析配置文件中的各种信息；还有专门的 RTDETR类，它是我们构建模型的关键基石，为实例化模型奠定了基础。
紧接着，我们着手确定训练过程所依托的计算设备。在这个环节中，我们秉持优先选择的策略，将目光聚焦于 GPU（cuda:0），因为它具备强大的并行计算能力，能够极大地加速训练过程。然而，若 GPU（cuda:0）不可用，我们也做好了充分的应对准备，即退而求其次，选择使用 CPU 来继续我们的训练任务。尽管 CPU 的计算速度相对较慢，但它依然能够确保训练工作的顺利进行，为我们的研究提供持续的支持。

import os
import torch
import yaml
from models import RTDETR# 导入RTDETR模型
device = "cuda:0" if torch.cuda.is_available() else "cpu"

接下来，我们对一些基本的训练参数进行了设定，其中包括工作进程数以及批次大小。随后，明确了数据集的名称与路径，并且借助 abs_path 函数获取到了配置文件的绝对路径。这样做能够保证在不同的运行环境下路径具有一致性，同时也提升了代码的可移植性。

workers = 1
batch = 8data_name = "TT100K"
data_path = abs_path(f'datasets/{data_name}/{data_name}.yaml', path_type='current')  # 数据集的yaml的绝对路径
unix_style_path = data_path.replace(os.sep, '/')# 获取目录路径
directory_path = os.path.dirname(unix_style_path)')

在加载数据配置文件之前，必须先读取并解析 YAML 格式的配置文件。这一环节极为重要，原因在于该配置文件中涵盖了训练过程所需的关键信息，例如类别标签以及数据集路径等等。我们对配置文件中的“path”键值进行修改，以此确保模型能够准确无误地找到训练和验证数据。

# 读取YAML文件，保持原有顺序
with open(data_path, 'r') as file:data = yaml.load(file, Loader=yaml.FullLoader)
# 修改path项
if 'path' in data:data['path'] = directory_path# 将修改后的数据写回YAML文件with open(data_path, 'w') as file:yaml.safe_dump(data, file, sort_keys=False)

接着，我们加载了预先训练好的 RT-DETR 模型，进而开启了训练进程。RTDETR类的 train 方法接纳了众多参数，其中有数据路径、设备、工作进程数、输入图像的尺寸、训练周期以及批次大小。在此处，name参数为训练任务赋予了标识，便于后续进行追踪与分析。


model = RTDETR(abs_path('./weights/pre.pt'), task='detect')  # 加载预训练的RT-DETR模型
results = model.train(  # 开始训练模型data=data_path,  # 指定训练数据的配置文件路径workers=0,  imgsz=640,  # 指定输入图像的大小为640x640epochs=100,  # 指定训练100个epochbatch=batch,  # 指定每个批次的大小为8name='train_rtdetr_' + data_name  # 指定训练任务的名称
)

训练30个epoch输出如下

在这里插入图片描述

在性能指标这一方面，metrics/precision、metrics/recall、metrics/mAP50 以及 metrics/mAP50 - 95 的图表展现出了模型性能的稳步上升。准确率（Precision）与召回率（Recall）随着训练周期的增加而不断增长，这就意味着模型在识别正样本方面变得更为精确，同时也能够回收更多的正样本。mAP（mean Average Precision）属于目标检测中极为重要的评估指标之一，metrics/mAP50 和 metrics/mAP50 - 95 的提升表明模型针对不同 IoU 阈值的检测性能均在提高。mAP50 是指在 IoU 为 0.5 时的平均精度，而 mAP50 - 95 则表示在 IoU 从 0.5 到 0.95 不同阈值下的平均精度，它能够更为全面地反映出模型在各种重叠度下的表现。观察到这些指标的稳步提升，便可以说明模型在整个训练过程中的表现是在持续优化的。

在机器学习领域当中，F1 分数是一个极为关键的性能指标，它对模型的准确率和召回率进行了综合考虑，为我们提供了有关模型分类性能的全面视角。这个指标尤其适用于正负样本分布不平衡的情况，能够助力我们理解模型在检测难以区分的类别时的具体表现。
在这里插入图片描述

在这里插入图片描述

6 系统实现

6.1架构设计

MainWindow 类的核心目标是打造一个用户友好的交互式中国TT100K交通标志检测系统。为了达成这一目标，采用了将界面、媒体处理与模型进行集成的设计理念。通过对象组合的手段，把不同的处理器和模型整合在一起，使得每个功能模块都可以独立运作。与此同时，还运用信号和槽机制来实现模块之间的交互以及数据的传递。
我们的系统设计理念以三层架构作为核心，分别是处理层、界面层以及控制层。在系统设计过程中，我们将重点置于确保各个组件能够协同运作的同时，保持充分的模块独立性，以便于未来进行维护和升级。
在这里插入图片描述

处理层（Processing Layer）：通过运用模块化的处理层，我们对 RT-DETRDetector 类所实现的深度学习模型予以封装。如此一来，图像处理与目标检测的复杂性对于其他系统组件而言是不可见的。这种封装不但提升了系统的可靠性，还使得未来替换或升级模型变得更为容易。

界面层（UI Layer）：在界面层方面，我们借助 PyQt5 库构建出一套完整的用户界面，提供了直观的操作按钮、状态标签以及实时的图像显示。该界面不但能够对用户的操作做出响应，还能实时反馈模型的检测结果，进而提高用户的操作便利性与系统的交互性。界面的设计目标在于降低用户的学习曲线，即便是没有技术背景的用户也能够轻松掌握。

控制层（Control Layer）：控制层是连接用户界面与后端处理模块的桥梁。在这一层中，MainWindow 类肩负着响应用户交互、控制视频流处理以及展示模型预测结果的重任。通过信号和槽机制，我们能够将用户的操作转化为系统的响应，例如启动和停止视频流、调整检测设置等。这样的设计不仅提高了系统反应的及时性，还增强了用户的控制感。
在这里插入图片描述

6.2 系统流程

在这里插入图片描述
当用户启动我们的应用程序时，系统会首先对 MainWindow 类进行实例化。该类不但负责初始化用户界面，设定窗口大小以及展示区域，还会准备好后续处理所需的各类参数。用户界面作为与系统交互的重要桥梁，为用户提供了选择视频输入源的机会。输入源的灵活性可谓此系统的一大亮点，用户能够选择实时视频流、预录视频文件或者单张图片作为检测的媒介。

一旦输入源被用户选定，系统就会开始调用内置的媒体处理器来进行数据的读取与处理。这个过程涵盖了摄像头的实时捕获设置、视频文件的解码读取以及图像数据的加载至内存等环节。这些环节均是自动进行的，无需用户进行手动配置，充分彰显了智能化的设计理念。

接下来，系统将进入连续的处理循环，持续对实时获取的帧数据进行分析。在预处理阶段，系统会通过一系列的图像处理技术，例如缩放、色彩转换等，让每帧图像符合 RT-DETR 模型的输入标准。这一步骤对于提升模型的识别效率与准确度起着至关重要的作用。

紧接着，经过预处理的图像会被送入经过训练的 RT-DETR 模型进行实时检测。模型能够快速地在图像中定位中国TT100K交通标志，并对它们进行分类，其结果将用于后续的界面更新。我们的系统设计允许在用户界面上实时显示检测框，标注目标类别，并在界面上实时展示检测的统计数据。这种即时的反馈为用户提供了清晰的视觉指引，有助于他们了解当前环境的安全状况。

6.3 代码实现

在现代计算机视觉领域中，把深度学习模型应用于实时图像处理任务已然成为一项关键技术。在本博客里，我们会详细阐述如何运用 RT-DETR 算法，并结合 PyQt5 来创建一个实时目标检测系统。这个系统能够在视频流中识别并标注特定对象，比如 TT100K交通标志检测。

（1）引入必要的库：

首先，系统的构建从导入必要的 Python 模块开始。sys 模块是 Python 内置的模块，它提供了诸多与 Python 解释器紧密相关的功能。例如，sys.argv 可用于获取命令行参数，这在启动应用程序时非常重要。time 模块允许我们获取当前时间，这对于性能评估以及监控推理时间起着至关重要的作用。OpenCV 库（cv2）是图像处理的核心，它提供了一系列强大的功能来捕捉和处理图像数据。

import cv2
import numpy as np
from PyQt5.QtCore import QTimer, Qt, pyqtSignal, QThread
from PyQt5.QtGui import QImage, QPixmap, QPalette
from PyQt5.QtWidgets import QMainWindow, QFileDialog, QDesktopWidgetfrom ui_mainwindow import Ui_MainWindow
from utils import image_read_from_chinese_pathfrom models import RTDETR

（2）设置主窗口：

构建用户界面（UI）是实现系统的关键一步。我们借助 PyQt5 库构建了图形用户界面。QMainWindow 作为我们窗口的基类，为展示处理后的图像提供了一个画布。

class MyMainWindow(QMainWindow):def __init__(self, parent=None):# 调用父类构造函数，创建窗体super().__init__(parent)# 创建UI对象self.ui = Ui_MainWindow()# 构造UI界面self.ui.setupUi(self)self.set_centre()self.image_file_path = None

（3）初始化模型

self.model = RTDETR('./weights/best.pt')

（4）界面信号槽绑定

self.ui.comboBox_source.currentIndexChanged.connect(self.comboBox_source_slot)self.ui.toolButton_fileOpen.clicked.connect(self.toolButton_fileOpen_slot)
self.ui.pushButton_infer.clicked.connect(self.pushButton_infer_slot)
self.ui.pushButton_infer_stop.clicked.connect(self.pushButton_infer_stop_slot)
self.ui.doubleSpinBox_conf.valueChanged.connect(self.doubleSpinBox_conf_slot)
self.ui.horizontalSlider_conf.valueChanged.connect(self.horizontalSlider_conf_slot)self.ui.doubleSpinBox_iou.valueChanged.connect(self.doubleSpinBox_iou_slot)
self.ui.horizontalSlider_iou.valueChanged.connect(self.horizontalSlider_iou_slot)

（5）图像显示

@staticmethod
def show_image(img_src, label):try:# img_src = cv2.resize(img_src, None, fx=0.5, fy=0.5)ih, iw, _ = img_src.shapew = label.geometry().width()h = label.geometry().height()# 保持纵横比# 找出长边if iw > ih:scal = w / iwnw = wnh = int(scal * ih)img_src_ = cv2.resize(img_src, (nw, nh))else:scal = h / ihnw = int(scal * iw)nh = himg_src_ = cv2.resize(img_src, (nw, nh))frame = cv2.cvtColor(img_src_, cv2.COLOR_BGR2RGB)img = QImage(frame.data, frame.shape[1], frame.shape[0], frame.shape[2] * frame.shape[1],QImage.Format_RGB888)label.setPixmap(QPixmap.fromImage(img))except Exception as e:print(repr(e))