2024寒假一起练(7)——基于Seeed XIAO ESP32实现沸羊羊识别
该项目使用了Seeed XIAO ESP32,实现了智能家具的设计,它的主要功能为:识别宠物进入厨房并警告。
标签
嵌入式系统
显示
开发板
MCCC
更新2024-03-28
南昌大学
252

本次我选择的寒假任务是基于Seeed XIAO ESP32做一个智能家居来检测宠物的活动。

首先介绍Seeed XIAO ESP32这块开发板,它属于小型开发板,集成了摄像头传感器,数字麦克风和SD卡支持。它

ESP32S3 32位,双核,Xtensa处理器芯片,最高运行240MHz,安装多个开发端口,支持Arduino,同时它具有高分辨率的摄像头,伟大的内存和出色的射频性能。结合嵌入式ML计算能力和摄影能力,它可以成为开发视觉语言和视觉AI的优秀工具。这些卓越的性能和优秀的产品品质为我的寒假任务的完成打下了坚实的基础。

结合本次寒假任务的智能宠物的主题,我简单设计了一个检测到家养宠物偷溜进厨房便会有灯光提示警告宠物的智

家具。设计思路主要分为三块,给出软件流程框图

1、通过roboflow训练出所需检测模型的数据集。因为我们要检测家养宠物就需要对应家养宠物的照片来训练出我们

的数据集,我获取家养宠物照片的途径有两种,第一种是通过Seeed XIAO ESP32结合Arduino自己抓取家养宠物的照片,并储存在SD卡中,具体的代码会在设计资源中给出,通过这一种方式获取的照片训练出的模型效果较好;另一种方法就是在网络找出各种品种的猫的照片来扩充我们的数据集,以保证有其它猫入侵我们的厨房之后有相同的报警效果。下面我将介绍如何通过roboflow来给出我们所需的数据集。首先是打开roboflow平台新建我们的项目.

第二步就是点击选择文件,上传我们需要使用的图片数据,点击右上角的保存并继续,等待文件上传成功.上传成功后就是选择分配图片开始标注。

标注完之后就是要下载我们已经标注完的数据集,复制好网址为下一步训练数据集做好准备。 2、后面就是登录AI Studio平台训练模型,在基于yolov5的ModelAssistant项目中训练我们的数据集在里面一步一步运行之后就可以得到我们所需要的目标文件啦3、最后一步就是在sensecraft平台上上传我们的目标文件,并观看检测效果了

主要代码:导入库,获取标注好的数据集,模型训练


!git clone https://github.com/Seeed-Studio/ModelAssistant.git  # currently we're using experimental 2.0 version branch
%cd ModelAssistant
//Clone the ModelAssistant source code from ModelAssistant GitHub repository, and enter the ModelAssistant project directory.
!unzip -n /home/aistudio/data/data256024/pytorch_mmalb.zip -d /home/aistudio/data/data256024/ 
!pip install /home/aistudio/data/data256024/env/* --user
//Install python third-party library
%env DATA_ROOT="https://universe.roboflow.com/ds/xWDd7bK0zI?key=mXa4sbof8U"
%env NUM_CLASSES=1
!python tools/train.py \
  configs/swift_yolo/swift_yolo_tiny_1xb16_300e_coco.py \
  --cfg-options \
    epochs=10 \
    num_classes=${NUM_CLASSES} \
    workers=1\
    imgsz=192,192 \
    data_root=${DATA_ROOT} \
    load_from=https://files.seeedstudio.com/sscma/model_zoo/detection/person/person_detection.pth

这次寒假任务我遇到的主要难题是对于一个陌生事物由学习慢慢深入的这样一个过程。这次寒假任务得益于官方

老师的直播教程并且提供的完整的百度云平台训练的完整学习教程,能让一个完全不懂的小白也能够跟着教程一步一步完成自己的模型训练,教程做的非常贴心和用心。

我遇到的主要问题有以下几点:1、对宠物识别算法的实时性要求。2、除了实时性要求外,我还面临着数据采集

和模型训练的挑战,获取足够的宠物数据样本并进行有效的标注是一个耗时且繁琐的过程。针对第一个问题,官方提供的sencecraft平台上传模型后的检测实时性效果非常好,能满足使用需求。针对第二个问题只能花费较多的时间去处理我们的数据集,这是不可省略且重要的一步。

在未来,我希望能够进一步完善这一智能家居宠物识别系统,引入更先进的算法和硬件,提升系统的性能和准确性

,同时探索更多智能化的功能,如对宠物的行为的分析和预测,甚至结合语音助手实现与宠物的交互。同时我希望能够将这一技术推广应用到更广泛的智能家居环境中,为用户打造智能、便携、人性化的生活体验。

附件下载
Seeed XIAO ESP32.rar
https://aistudio.baidu.com/bd-cpu-02/user/9718765/7508256/lab
团队介绍
来自南昌大学22级本科生王茂弛,参加过电赛,光电赛,蓝桥杯嵌入式,大学生集创赛,电赛荣获国奖,光电赛和其它比赛获省奖。 附上hacksters链接https://www.hackster.io/mcichi/recognition-of-boiling-sheep-based-on-seeed-xiao-esp32-7dc813
团队成员
MCCC
评论
0 / 100
查看更多
硬禾服务号
关注最新动态
0512-67862536
info@eetree.cn
江苏省苏州市苏州工业园区新平街388号腾飞创新园A2幢815室
苏州硬禾信息科技有限公司
Copyright © 2024 苏州硬禾信息科技有限公司 All Rights Reserved 苏ICP备19040198号