# WeChat-MiniProgram-AR-AI **Repository Path**: sam329/WeChat-MiniProgram-AR-AI ## Basic Information - **Project Name**: WeChat-MiniProgram-AR-AI - **Description**: No description available - **Primary Language**: Unknown - **License**: MIT - **Default Branch**: main - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 1 - **Created**: 2025-04-03 - **Last Updated**: 2025-04-03 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README ## 更新日志 | 日期   | 内容 | | -- | -- | | 2022-12-12 | 新增:AI人体检测、AI手部检测、AR图像跟踪等、AR地铁示意图。删除:AI目标分类的package_image_classify目录。旧版AI人脸检测的package_face_detect目录。 | | 2022-10-27 | 新增:AI人脸检测(新版)、AI文本检测等。 | | 2022-09-20 | 新增:单样本检测功能。更新:webglBusiness.js升级到官方最新版,也保留了Android深度冲突现象的修复代码。修复:1、在开发者工具预览时,提示超过2MB大小的问题。2、Three.PlaneGeometry、Three.BoxGeometry等的纹理贴图变为黑色,同时画面镜像和闪烁。 | | 2022-01-05 | 新增:1、AR空间化音频 2、AR+AI图像分类 3、AR玩具机器人增加录制视频功能。| | 2022-01-01 | 修复:Android手机画面深度冲突的第3种修改方法。 | | 2021-12-24 | 修复:使用顶部导航条,遮挡Android手机画面的深度冲突现象。 | | 2021-12-23夜晚 | 更新:1、平面跟踪的3D模型的默认大小可以自定义 2、3D模型从矩阵更新(matrixAutoUpdate=false)变为属性更新(matrixAutoUpdate=true),这样可以不用矩阵调整3D模型的姿态。 | | 2021-12-23下午 | 修复:Android手机画面左上角显示雪花的问题 | | 2021-11-30 | 新增:1、AR试戴眼镜 2、AR测量尺子 3、AR玩具机器人固定在平面上 | ## 介绍 本项目包含以下AR和AI示例。 1、AR+内容:用AR平面跟踪显示玩具机器人。目录package_world_track。 2、AR+效率:用AR测量平面上物体的长度。目录package_measure。 3、AR+游戏:用AR跟随用户位置变化的空间化音频。目录package_spatial_audio。 4、AI人脸检测(新版):根据AI检测的人脸姿态,将虚拟眼镜佩戴在人脸上。目录package_face_detect_v2。 5、AI文本检测:检测图片和摄像头画面中的文字。目录package_text_detect。 6、AR图像跟踪:用一张图像,检测平面图像的姿态。目录package_image_tracker。 7、AI单样本检测:只用一张图片,检测现实环境中目标物体的位置。目录package_oneshot_tracker。 8、AI人体关键点检测: 检测人体关键点和姿势。目录package_body_detect。 9、AI手部关键点检测:检测手部关键点和手势。目录package_hand_gesture。 10、上海地铁示意图:自然交互地方式查看地图。目录package_plane_track。 ## 删除的示例 AI人脸检测(旧版):根据AI检测的人脸姿态,将虚拟眼镜佩戴在人脸上。目录package_face_detect。(因为官方不再维护旧版API,所以删除。) AR+AI:用AI检测图像中的物体,将名称显示在物体上。目录package_image_classify。(因为小程序内存不足而经常退出,所以删除。) ## 参考文档 平面跟踪 https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/plane.html 人脸关键点检测(新版) https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/face.html 文本检测 https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/ocr.html 图像跟踪 https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/marker.html 单样本检测 https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/osd.html 人体关键点检测 https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/body.html 手部关键点和手势检测 https://developers.weixin.qq.com/miniprogram/dev/framework/open-ability/visionkit/hand.html 获取RGBA相机图像 https://developers.weixin.qq.com/miniprogram/dev/api/ai/visionkit/VKFrame.getCameraBuffer.html 首页 ![avatar](screenshot/0.jpg) ![avatar](screenshot/0-2.jpg) ## 1、AR+内容 玩具机器人站在房间地板上。 ![avatar](screenshot/3.jpg) ## 2、AR+效率 点击屏幕,开始测量。请将光标的位置,对准被测量物体的两端。 ![avatar](screenshot/2-1.jpg) 再次点击屏幕,结束测量。 ![avatar](screenshot/2-2.jpg) V1版测量结果不准确。若要准确测量,请用V2版。 ## 3、AR+游戏 用户拿着手机走动时,播放器的音量会随着用户的距离变化。在红色平面的后面,播放器的声音消失。 ![avatar](screenshot/5-1.jpg) ## 4、AI人脸检测 106个特征点的位置。本项目使用了索引值78(左眼)和79(右眼)两个特征点。 ![avatar](screenshot/1-1.jpg) 检测旋转的人脸 ![avatar](screenshot/1-2.jpg) ## 5、AI文本检测 实时地检测摄像头画面中的中文、英文、数字等。 ![avatar](screenshot/7.jpg) ## 6、AR图像跟踪 识别图 ![avatar](screenshot/9.jpg) 显示玩具机器人 ![avatar](screenshot/12.jpg) ## 7、AI单样本检测 显示方框 ![avatar](screenshot/13.jpg) ## 8、AI人体关键点检测 19个关键点 ![avatar](screenshot/10-0.jpg) 使用余弦距离,判断第八套广播体操的动作。 伸展运动 ![avatar](screenshot/10-1.jpg) 扩胸运动 ![avatar](screenshot/10-2.jpg) 体侧运动 ![avatar](screenshot/10-3.jpg) ## 9、AI手部关键点检测 21个关键点 ![avatar](screenshot/11-0.jpg) 使用欧式距离,判断石头剪刀布手势。 布手势 ![avatar](screenshot/11-1.jpg) 剪刀手势 ![avatar](screenshot/11-2.jpg) 石头手势 ![avatar](screenshot/11-3.jpg) ## 10、地铁示意图 将地铁示意图固定在桌面上,像看报纸一样查看地图。 ![avatar](screenshot/14.jpg) ## 如何使用 1、使用微信开发者工具,打开项目源代码,在手机上预览。 2、如果遇到模型不加载、图片不显示等状况,请打开小程序的调试模式。 ## 如果更换3D模型 在源代码中修改常量robotUrl。 ```javascript // 机器人模型 const robotUrl = 'https://m.sanyue.red/demo/gltf/robot.glb'; ```