yolov8

1360892906

支持~！感谢分享~！

还得是我000

还得是我000 发表于 2024-2-25 18:18
17.其他语言调用
        理论上说onnx是一个开源协议，只要能调用opencv的高级语言都可以调用。
        问题：终端（ ...

这是优化过的python推理代码
电脑配置：i5-10200H GTX1650 4G 内存8g
库：onnxruntime（cpu版本，DML加速），opencv，numnp，mss，pillow
功能：图片推理（速度29ms左右），摄像头推理（速度84ms左右），窗口推理（速度148ms左右）
问题：现在python直接运行的速度已经是极限了!python代码加了易语言TCP调用的程序，但是上面那些功能的速度都翻了3倍，图片推理（速度127ms左右），摄像头推理（速度435ms左右），窗口推理（速度340ms左右），现在的问题是可以转换成c++的代码吗？转换成c++代码速度会有提升吗？c++封装成com库让易语言调用速度又是多少？速度又应该怎么优化？？？
本人声明：1.上诉所有的速度是本人在电脑上循环1000测试出的最慢速度
                 （第5-20次是运行速度最快的）
                2.最快速度：图片推理 18ms，摄像头推理70ms，窗口推理89ms
                3.本人可以保证这些数据在我电脑上是真实存在的！！！

python源码地址：https://wwt.lanzn.com/iXyeS1pnq16d

补充内容 (2024-3-1 15:19):
网吧测试pubg 3080ti显卡 i9的十代，窗口推理速度8ms左右，游戏30分钟，最后5分钟的时候速度只有20ms左右，图片推理速度一样，一定要模型优化才行

epwne

支持~！感谢分享~！

还得是我000

还得是我000 发表于 2024-2-26 21:00
我也在找 但是速度都太慢了 没法达到实时，基本上从截图到返回到坐标 至少要1s cpu推理
...

image 1/1 F:\python\yolotool\datasets\MoonCake_datasets\images\val\Cake280.jpg: 576x640 1 MoonCake, 20.6ms
Speed: 8.2ms preprocess, 20.6ms inference, 1.0ms postprocess per image at shape (1, 3, 576, 640)
Results saved to runs\detect\predict7
用时：335.0393毫秒

这是我python跑出来的效果 检测图片只要20.6ms，但是截图到返回坐标要300ms，这还是我gpu跑出来的结果（GTX 1650 4G）但是c++实现onnx模型推理（cpu推理 i5-10200H），也是一样的步骤吗，时间也要186ms，有没有大佬能说一下要怎么才能实现这个流程时间短一点！期望能在50ms内实现全屏推理（1980*1080）模型大小：64M

还得是我000

a475794156 发表于 2024-2-25 22:41
沙发没了!- -  看了下 很好的帖子 省去不少事 感谢分享!这个E调用的话 具体如何实现! ...

我也在找 但是速度都太慢了 没法达到实时，基本上从截图到返回到坐标 至少要1s cpu推理

李洛克

前来学习

a475794156

沙发没了!- -  看了下 很好的帖子 省去不少事 感谢分享!这个E调用的话 具体如何实现!

还得是我000

还得是我000 发表于 2024-2-25 18:17
16.保存模型
        命令行CLI命令：
                yolo export model=F:/python/YOLOX/ultralytics-main/runs/detect/trai ...

17.其他语言调用
        理论上说onnx是一个开源协议，只要能调用opencv的高级语言都可以调用。
        问题：终端（电脑，手机，手表，平板，树莓派，香橙派）上怎么实现调用模型？或者说能运行debian系统的终端是不是都可以推理模型？

还得是我000

还得是我000 发表于 2024-2-25 18:17
14.训练方式
        第一种：命令行CLI命令
                注意：命令行模式中workers=0如果报错，请使用workers=1。amp会禁 ...

16.保存模型
        命令行CLI命令：
                yolo export model=F:/python/YOLOX/ultralytics-main/runs/detect/train/weights/best.pt format=onnx
        python代码：
                from ultralytics import YOLO
                model = YOLO("F:/python/YOLOX/ultralytics-main/runs/detect/train/weights/best.pt")
                model.export(format='onnx')
        注意：导出的onnx模型自行改名

还得是我000

还得是我000 发表于 2024-2-25 18:17
12.推理参数设置
        save：是否保存推理图片（默认会保存，保存目录就是第10步说的目录）
                例如：result = ...

14.训练方式
        第一种：命令行CLI命令
                注意：命令行模式中workers=0如果报错，请使用workers=1。amp会禁止模型自动下载，从输入的model路劲中读取权重模型
                命令：yolo detect train data=F:/python/YOLOX/yaml/mooncake.yaml model=F:/python/YOLOX/models/yolov8n.pt workers=0 epochs=100 batch=8 amp=False
        第二种：python代码
                from ultralytics import YOLO
                model = YOLO(model="F:/python/YOLOX/models/yolov8n.pt")
                model.train(data="F:/python/YOLOX/yaml/mooncake.yaml", workers=0, epochs=5, batch=8, amp=False)

15.训练好的模型推理跟第9部一样
        注意：把model的路径改成你训料好的bast.pt的路径(bast.pt的路径会在你训练结束之后显示在终端)
        命令行CLI命令：
                yolo detect predict model=F:/python/YOLOX/ultralytics-main/runs/detect/train/weights/best.pt source='F:/python/YOLOX/datasets/MoonCake_datasets/images/val/Cake9.jpg'
        python代码：
                from ultralytics import YOLO
                yolo = YOLO("F:/python/YOLOX/ultralytics-main/runs/detect/train/weights/best.pt", task="detect")
                result = yolo(source="F:/python/YOLOX/datasets/MoonCake_datasets/images/val/Cake9.jpg")