【人工智能】Transformers之Pipeline（九）：物体检测（object-detection）

一、引言

pipeline（管道）是huggingface transformers库中一种极简方式使用大模型推理的抽象，将所有大模型分为音频（Audio）、计算机视觉（Computer vision）、自然语言处理（NLP）、多模态（Multimodal）等4大类，28小类任务（tasks）。共计覆盖32万个模型

今天介绍CV计算机视觉的第五篇，物体检测（object-detection），在huggingface库内有2400个物体检测模型。

二、物体检测（object-detection）

2.1 概述

物体检测是计算机视觉中的经典问题之一，其任务是用框去标出图像中物体的位置，并给出物体的类别。从传统的人工设计特征加浅层分类器的框架，到基于深度学习的端到端的检测框架，物体检测一步步变得愈加成熟。

2.2 技术原理

物体检测（object-detection）的默认模型为facebook/detr-resnet-50，全称为：DEtection TRansformer(DETR)-resnet-50。其中有2个要素：

• DEtection TRansformer (DETR)：于2020年5月由Facebook AI发布于《End-to-End Object Detection with Transformers》，提出了一种基于transformer的端到端目标检测方法，相比于YOLO具有更高的准确性，但速度不及YOLO，可以应用于医疗影像等不追求实时性的目标检测场景，对于追求实时性的目标检测场景，还是得YOLO，关于YOLOv10，可以看我之前的文章。
• ResNet-50：ResNet-50是一种深度残差网络（Residual Network），是ResNet系列中的一种经典模型。它由微软研究院的Kaiming He等人于2015年提出，被广泛应用于计算机视觉任务，如图像分类、目标检测和图像分割等。ResNet-50是一种迁移学习模型，迁移学习的核心思想是将源领域的知识迁移到目标领域中，可以采用样本迁移、特征迁移、模型迁移、关系迁移等手段。

DEtection TRansformer(DETR)主体结构：

由三个主要部分组成：

• 用于特征提取的CNN后端（ResNet）
• transformer编码器-解码器
• 用于最终检测预测的前馈网络（FFN）。

后端处理输入图像并生成激活图。transformer编码器降低通道维度并应用多头自注意力和前馈网络。transformer解码器使用N个物体嵌入的并行解码，并独立预测箱子坐标和类别标签，使用物体查询。DETR利用成对关系，从整个图像上下文中受益，共同推理所有物体。

2.3 应用场景

• 安防监控：通过分析视频流，实时识别异常行为、入侵检测、人群密度控制等。
• 自动驾驶：识别道路中的车辆、行人、交通标志，确保行车安全。
• 零售业：库存管理，顾客行为分析，自动结账系统中的商品识别。
• 医疗影像分析：辅助医生识别病灶，如肿瘤、细胞结构等。
• 农业：作物健康监测，病虫害检测。
• 无人机应用：地形分析、目标追踪。
• 社交媒体和相机应用：人脸识别、物体标签生成，增强用户体验。

2.4 pipeline参数

2.4.1 pipeline对象实例化参数

• model（PreTrainedModel或TFPreTrainedModel）— 管道将使用其进行预测的模型。 对于 PyTorch，这需要从PreTrainedModel继承；对于 TensorFlow，这需要从TFPreTrainedModel继承。
• image_processor ( BaseImageProcessor ) — 管道将使用的图像处理器来为模型编码数据。此对象继承自 BaseImageProcessor。
• modelcard（str或ModelCard，可选） — 属于此管道模型的模型卡。
• framework（str，可选）— 要使用的框架，"pt"适用于 PyTorch 或"tf"TensorFlow。必须安装指定的框架。
• task（str，默认为""）— 管道的任务标识符。
• num_workers（int，可选，默认为 8）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的工作者数量。
• batch_size（int，可选，默认为 1）— 当管道将使用DataLoader（传递数据集时，在 Pytorch 模型的 GPU 上）时，要使用的批次的大小，对于推理来说，这并不总是有益的，请阅读使用管道进行批处理。
• args_parser（ArgumentHandler，可选） - 引用负责解析提供的管道参数的对象。
• device（int，可选，默认为 -1）— CPU/GPU 支持的设备序号。将其设置为 -1 将利用 CPU，设置为正数将在关联的 CUDA 设备 ID 上运行模型。您可以传递本机torch.device或str太
• torch_dtype（str或torch.dtype，可选） - 直接发送model_kwargs（只是一种更简单的快捷方式）以使用此模型的可用精度（torch.float16，，torch.bfloat16...或"auto"）
• binary_output（bool，可选，默认为False）——标志指示管道的输出是否应以序列化格式（即 pickle）或原始输出数据（例如文本）进行。

2.4.2 pipeline对象使用参数

• images（str、List[str]或PIL.Image）List[PIL.Image]——管道处理三种类型的图像： - 包含指向图像的 HTTP(S) 链接的字符串- 包含图像本地路径的字符串- 直接在 PIL 中加载的图像管道可以接受单张图片或一批图片。一批图片中的图片必须全部采用相同的格式：全部为 HTTP(S) 链接、全部为本地路径或全部为 PIL 图片。
• threshold（float，可选，默认为 0.9）— 用于过滤预测掩码的概率阈值。
• timeout（可选float，默认为 None）— 等待从网络获取图像的最长时间（以秒为单位）。如果为 None，则不设置超时，并且调用可能会永远阻塞。

2.4 pipeline实战

识别http链接中的物品

​

采用pipeline代码如下

import os
os.environ["HF_ENDPOINT"] = "https://hf-mirror.com"
os.environ["CUDA_VISIBLE_DEVICES"] = "2"

from transformers import pipeline
detector = pipeline(task="object-detection",model="facebook/detr-resnet-50")
output = detector("http://images.cocodataset.org/val2017/000000039769.jpg")
print(output)
"""
[{'score': 0.9982202649116516, 'label': 'remote', 'box': {'xmin': 40, 'ymin': 70, 'xmax': 175, 'ymax': 117}}, {'score': 0.9960021376609802, 'label': 'remote', 'box': {'xmin': 333, 'ymin': 72, 'xmax': 368, 'ymax': 187}}, {'score': 0.9954745173454285, 'label': 'couch', 'box': {'xmin': 0, 'ymin': 1, 'xmax': 639, 'ymax': 473}}, {'score': 0.99880051612854, 'label': 'cat', 'box': {'xmin': 13, 'ymin': 52, 'xmax': 314, 'ymax': 470}}, {'score': 0.9986782670021057, 'label': 'cat', 'box': {'xmin': 345, 'ymin': 23, 'xmax': 640, 'ymax': 368}}]
"""

执行后，自动下载模型文件，并生成score及物体检测的box坐标：

​

2.5 模型排名

在huggingface上，我们将物体检测（object-detection）模型按下载量从高到低排序，可以发现除了table表格相关的模型，排在第一的就是本文中介绍的detr-resnet-50和yolov10x，关于yolov10x，可以阅读我之前专门介绍yolov10的文章。

三、总结

本文对transformers之pipeline的物体检测（object-detection）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的2行代码极简的使用计算机视觉中的物体检测（object-detection）模型。

期待您的3连+关注，如何还有时间，欢迎阅读我的其他文章：

《Transformers-Pipeline概述》

【人工智能】Transformers之Pipeline（概述）：30w+大模型极简应用

《Transformers-Pipeline 第一章：音频（Audio）篇》

【人工智能】Transformers之Pipeline（一）：音频分类（audio-classification）

【人工智能】Transformers之Pipeline（二）：自动语音识别（automatic-speech-recognition）

【人工智能】Transformers之Pipeline（三）：文本转音频（text-to-audio/text-to-speech）

【人工智能】Transformers之Pipeline（四）：零样本音频分类（zero-shot-audio-classification）

《Transformers-Pipeline 第二章：计算机视觉（CV）篇》

【人工智能】Transformers之Pipeline（五）：深度估计（depth-estimation）​​​​​​​

【人工智能】Transformers之Pipeline（六）：图像分类（image-classification）

【人工智能】Transformers之Pipeline（七）：图像分割（image-segmentation）​​​​​​​

【人工智能】Transformers之Pipeline（八）：图生图（image-to-image）

【人工智能】Transformers之Pipeline（九）：物体检测（object-detection）

【人工智能】Transformers之Pipeline（十）：视频分类（video-classification）

【人工智能】Transformers之Pipeline（十一）：零样本图片分类（zero-shot-image-classification）

【人工智能】Transformers之Pipeline（十二）：零样本物体检测（zero-shot-object-detection）

《Transformers-Pipeline 第三章：自然语言处理（NLP）篇》

【人工智能】Transformers之Pipeline（十三）：填充蒙版（fill-mask）

【人工智能】Transformers之Pipeline（十四）：问答（question-answering）

【人工智能】Transformers之Pipeline（十五）：总结（summarization）

【人工智能】Transformers之Pipeline（十六）：表格问答（table-question-answering）

【人工智能】Transformers之Pipeline（十七）：文本分类（text-classification）

【人工智能】Transformers之Pipeline（十八）：文本生成（text-generation）

【人工智能】Transformers之Pipeline（十九）：文生文（text2text-generation）

【人工智能】Transformers之Pipeline（二十）：令牌分类（token-classification）

【人工智能】Transformers之Pipeline（二十一）：翻译（translation）

【人工智能】Transformers之Pipeline（二十二）：零样本文本分类（zero-shot-classification）

《Transformers-Pipeline 第四章：多模态（Multimodal）篇》

【人工智能】Transformers之Pipeline（二十三）：文档问答（document-question-answering）

【人工智能】Transformers之Pipeline（二十四）：特征抽取（feature-extraction）

【人工智能】Transformers之Pipeline（二十五）：图片特征抽取（image-feature-extraction）

【人工智能】Transformers之Pipeline（二十六）：图片转文本（image-to-text）

【人工智能】Transformers之Pipeline（二十七）：掩码生成（mask-generation）

【人工智能】Transformers之Pipeline（二十八）：视觉问答（visual-question-answering）