易语言YOLO8分类、检测、分割、动作、全兼容64位支持GPU加速

无敌小白

前言：2023-11-8
yolo作为目前机器视觉最先进的技术，已经逐步发展到第八个大版本，可我们易语言用户却始终无法追上步伐，很多人还在使用老旧的yolo3，yolo4。一些最新的GPU推理框架也不会再出32位的dll库，这意味着新技术与易语言越来越远。想使用最新的yolo，却需要透彻的学习yolo底层知识，并全部手撕代码才能部署到易语言中，今天我已经将这个坑彻底踩平，我搭建了易语言可用的最强yolo推理服务框架，该框架由C#编写，核心C++,进行了数月的优化后。它具备了以下的能力：
1、多版本：它不光支持yolov8，它还同时支持了yolov5和yolov6，模型导入即用，无需修改参数，yolov9出来后，也会第一时间兼容
2、多任务：它自动识别模型，并支持分类、检测、分割、动作等任务的推理
3、超级快：使用轻量级模型CPU下最快可达到150帧，单帧7毫秒。我们以yolov8x-oiv7超大模型为例，该模型是基于谷歌900万张图片和1600万标注的大型数据集，它在GPU下达到了稳定20帧，单帧50毫秒的速度。
4、超简单：你只需要3行代码，就可以得到推理结果数据，同时得到推理图片,你无需再编写绘制图像函数，你也无需设置张量，也不用管模型的输出维度，什么都不需要，全部自适应。
5、支持GPU：利用cuda开启GPU加速，在大型模型的推理速度上，可提速十倍有余，可实现对任何模型的实时推理。


分类：(基本类型分类任务,快速识别图像类别)

检测：(得到目标分类的同时,也得到目标的位置信息，是我们最常用的检测任务)

实例分割：(对目标更高精度的检测,精准识别每个物体的特征,可用作边缘触碰，或一些不规则物体的检测等)

语义分割：(可将同类使用相同颜色的掩膜,清晰的观察目标的分布，可用在工业瑕疵检测等)

取得点阵信息：(可以取得由0和1组成的mask数据,方便自由绘制和特殊用途)

动作检测：(对人类17个关键点动作预测,可以实现跌倒检测,抽烟、接打电话等行为检测)

目标追踪-卡尔曼滤波预测：(通过不断更新物体的真实位置来预测物体下一次出现的位置，可实现脚本预测敌人走位等)

为什么选择yolov8?
有人说,yolov8只是提高了些许精度,推理速度不如yolov5,这句话是错误不全面的
首先我们对模型的大小做一个排序 n-s-m-l-x 从左到右依次变大

由图可以看出
yolov8的最小模型n,与yolov5的最小模型n在推理速度上,几乎一致,在后续的同规格模型中,yolov8的速度明显低于yolov5
但是,yolov8的n模型精度已经达到yolov5的s模型精度,并且在推理速度上,远超yolov5的s模型
总结就是:
如果相同的推理时间下,yolov8的精度远高于yolov5
如果相同的精度下,yolov8的速度远高于yolov5


为什么不支持yolov7?
yolo系列并非由同一个团队推出
从yolov5开始是一个改革性的跨越,
之前版本基于Darknet框架由C语言编写,
从yolov5开始基于pytorch框架,由python编写,底层C++,其前身torch是lua写的,底层C
yolov5与yolov8出自同一个团队Ultralytics
yolov6是国内X团对yolov5的改进,虽然在速度上有一定提升,但实际精度并没有宣传中那样高,反而在某些情况出现了精度下降的问题,即便如此本程序依然支持了对yolov6模型的检测
yolov7是之前yolov4的团队推出,yolov7模型的输入输出结构相对于其他版本过于繁多,对它的全面兼容需要做大量的工作,况且昙花一现紧接着就yolov8就问世了,所以放弃了对yolov7的支持

输出维度对效率的影响：（解决yolov8后处理慢的问题。[1,8400,84]和[1,84,8400]的区别）


从yolov8开始，取消了置信度，取而代之的是标签可信度，与此同时，yolov8的默认输出维度也发生了改变，由原来yolov5的[1,8400,84]，变成了[1,84,8400]，如上图所示，yolov8默认的输出的数据在内存中展开是不连续的，我想取出一个数据的所有信息时，需要多次跨越8400个内存地址，寻址的时间极大的拖慢了后处理的速度。本框架服务不光提供输出维度修正，也同时兼容两种输出维度，程序自动识别输出维度。如果是默认维度，采用对内存数据块并行处理的方式，来极大的较少内存寻址，将后处理速度提高到1毫秒。所以使用本框架无论你使用了那种输出维度的模型，都有着最高的推理速度。


简易示例软件界面图：

模块示例图：

工作流程图：


本人提供对yolo相关的解答，从环境搭建、训练、预处理、到后处理等，也可承接yolo相关的小项目。
（QQ964477707）
本项目示例见下方网盘。


链接：https://pan.baidu.com/s/1XeKKA6IPExsleyVLHMxsrA?pwd=y7bz
提取码：y7bz

heike045

fsdafsedafdsafsdaf

heike045

模块要几百块钱，下次帖子要写清楚，哥们

一缕v阳光

楼主链接失效la

xz66

文件没有了！！！

antoni

取消下载了

凡起

看着不错。我是来学习的。听说要很贵，我先看看！

小辣椒不辣

来个FPS游戏预测提前量跟踪示例我给你拉十个客户

nenxifugebi

模块要几百块钱，下次帖子要写清楚，哥们

529008857

模块要几百块钱，下次帖子要写清楚，哥们