一、跟进 AIoT 场景的产品测试
1.1. 7 - 8 月,完成 AIoT 场景的基本测试框架构建和基础指标测试。其中基础指标有:节点掉线重新加入后,节点恢复调度时间;节点异常断电后,重启恢复时间;故障发生后,系统与元数据对齐时间;元数据主库故障后切换时间等指标。
1.2. 9 月至今,随着 AIoT 产品的迭代升级,迭代更新测试方案,跟进产品的测试。其中测试指标有:设备连接器切换时长、系统不可用时长、设备数据本地丢失时长等指标,具体可参考 https://nvfx7ukt0yh.feishu.cn/docx/C600dhJJeoszCBxo7P6cwE3bnAg 文档。同时,已将测试的结果简单的记录在 http://172.27.231.36:29999/aiot.html 中。
二、式说插件分发的测试
2.1. 7-8 月进行了式说插件分发场景的建设和测试,测试结果在: https://nvfx7ukt0yh.feishu.cn/docx/Fa9RdBj5eovgr3x4ZtqcEotCnTa 文档中。
三、Copilot 软件操作助手的榜单建设
3.1. 8 月至今,完成了四个榜单的建设,为 Copilot 业务解决方案提供了自我评估的方案。当前四个榜单分别为:“软件操作助手自动 API 分发与参数抽取水平榜”、“软件操作助手自动 API 分发与参数抽取运营效率榜”、“软件操作助手端到端运营效率榜”、“软件操作助手微调训练榜”。具体参考: http://contest.4pd.io/competitions “软件操作助手”类别。
四、AutoML 榜单建设
4.1. 12 月完成了 “AutoML 二分类榜单” 建设。在该榜单中,通过将 HyperCycle ML 产品接入进来,并与算法同学的策略进行 PK,为 HyperCycle ML 提供了产品效果提升的可能。具体参考: http://contest.4pd.io/competitions “AutoML” 类别。
五、数据标注平台建设
1.1. 9 月至今,进行数据标注平台的建设,为算法竞赛场提供评估的数据集支撑。现已将后端的基础功能实现完成,并在 API 层面上完成了基本的流程(用户登陆 → 创建数据集 → 创建标注任务 → 绑定任务&数据集 → 绑定任务&标注人员 → 标注人员标注 → 自动生成待审核数据 → 审核人员审核 → 自动生成标注人员 Bad Case → 查看 Bad Case → 自动任务结束 → 获取任务标注结果)。待与前端串通整个流程。更详细的 API 见: http://172.27.231.36:8100/openapi/swagger#