English | 简体中文
目录
如要在您的工作中引用YMIR，请使用下面的Bibtex：
@inproceedings{huang2021ymir,
title={YMIR: A Rapid Data-centric Development Platform for Vision Applications},
author={Phoenix X. Huang and Wenze Hu and William Brendel and Manmohan Chandraker and Li-Jia Li and Xiaoyu Wang},
booktitle={Proceedings of the Data-Centric AI Workshop at NeurIPS},
year={2021},
}YMIR(You Mine In Recursion)是一个简化的模型开发产品，专注于AI SUITE开源系列中的数据集版本和模型迭代。
目前人工智能商业化在算力、算法和技术方面达到阶段性成熟。AI应用在产品落地过程中经常会遇到无法大规模扩展的瓶颈，例如人才紧缺、开发成本高、迭代周期长等问题。
在此基础上，为了降低企业利用AI技术的成本，加速推进AI赋能企业，YMIR系统为算法人员提供端到端的算法研发工具，围绕AI开发过程中所需要的数据处理、模型训练等业务需求提供一站式服务，推动算法技术应用。
YMIR主要以数据为中心，提供高效模型开发迭代能力，集成了主动学习方法、数据和模型版本控制，同时集成工作空间等概念，实现多个任务特定数据集的并行快速迭代。平台设计开放API来集成第三方工具，支持企业将有限的人力投入到应用的开发中，以更低成本实现AI到行业的落地。
在AI开发过程中，基本流程通常可以归纳为几个步骤：确定目的、准备数据、训练模型、评估模型、部署模型。
- 确定目的：在开始AI开发之前，必须明确要分析什么？要解决什么问题？商业目的是什么？基于商业的理解，整理AI开发框架和思路。例如，图像分类、物体检测等。不同的项目对数据的要求，使用的AI开发手段也是不一样的。
- 准备数据：数据准备主要是指收集和预处理数据的过程。按照确定的分析目的，有目的性的收集、整合相关数据，数据准备是AI开发的一个基础。此时最重要的是保证获取数据的真实可靠性。而事实上，不能一次性将所有数据都采集全，因此需要反复新增数据来调整优化。
- 训练模型：俗称“建模”，指通过分析手段、方法和技巧对准备好的数据进行探索分析，从中发现因果关系、内部联系和业务规律，为商业目的提供决策参考。训练模型的结果通常是一个或多个机器学习或深度学习模型，模型可以应用到新的数据中，得到预测、评价等结果。
- 评估模型：训练得到模型之后，整个开发过程还不算结束，需要对模型进行评估和考察。通过现有的数据往往不能一次性获得一个满意的模型，需要反复的调整算法参数，新增有效数据，不断地迭代和评估生成的模型。一些常用的指标，如mAP，能帮助您有效的评估，最终获得一个满意的模型。
- 部署模型：模型的开发训练，是基于之前的已有数据（有可能是测试数据），而在得到一个满意的模型之后，需要将其应用到正式的实际数据或新产生数据中，进行预测、评价、或以可视化和报表的形式把数据中的高价值信息以精辟易懂的形式提供给决策人员，帮助其制定更加正确的商业策略。
YMIR平台主要满足用户规模化生产模型的需求，为用户提供良好、易用的展示界面，便于数据和模型的管理与查看。平台包含主页、任务管理、数据集管理、模型管理四个功能模块，支持实现以下主要功能：
| 功能模块 | 一级功能 | 二级功能 | 功能说明 |
|---|---|---|---|
| 数据管理 | 数据集管理 | 导入数据集 | 支持用户通过复制公共数据集、url地址、路径导入以及本地导入等方式导入准备好的数据集 |
| 数据集管理 | 查看数据集 | 支持图片数据及标注的可视化查看、以及历史信息的查看 | |
| 数据集管理 | 编辑数据集 | 支持数据集的编辑、删除 | |
| 任务管理 | 筛选任务 | 支持根据标签对数据集进行筛选 | |
| 训练模型 | 任务管理 | 训练任务 | 支持自选数据集、标签，并根据需求调整训练参数来训练模型，完成后可查看对应的模型效果 |
| 模型验证 | 模型管理 | 模型验证 | 支持上传单张图片，通过可视化的方式查看模型在真实图片中的表现，以校验模型的精确度 |
| 数据挖掘 | 任务管理 | 挖掘任务 | 支持在海量数据集中找到对模型优化最有利的数据 |
| 数据标注 | 任务管理 | 标注任务 | 支持为图片数据添加标注 |
我们提供一个在线的体验版本，方便您试用，如有需要，请填写YMIR在线系统申请试用表，我们会将试用信息发送至您的邮箱。
用户如何选择安装GUI or CMD：
1.普通用户推荐安装GUI，支持模型的训练、优化完整流程；
2.如需要修改系统默认的配置，如自定义标签、更换镜像，推荐安装CMD；
本章节为YMIR-GUI的安装说明，如需使用CMD，请参考Ymir-CMD line使用指南。
-
需要GPU，并安装nvidia驱动: https://www.nvidia.cn/geforce/drivers/
-
需要安装docker：
- Docker & Docker Compose 安装： https://docs.docker.com/get-docker/
- NVIDIA Docker安装： https://github.com/NVIDIA/nvidia-docker
- 推荐服务器配置：
- NVIDIA GeForce RTX 2080 Ti 12G
- 显存最大值到达9974MiB
必须保证环境依赖中所有条件已满足才能部署，否则容易出现各种不可控问题。
YMIR-GUI项目包在DockerHub上，安装部署YMIR步骤如下：
将部署项目YMIR下拉到本地服务器，克隆仓库地址命令：
git clone [email protected]:IndustryEssentials/ymir.git
- 无需修改相应配置，使用默认配置情况下可以直接执行启动命令：
sh ymir.sh start
服务启动成功后，默认配置端口为12001，可以直接访问 http://localhost:12001/ 显示登录界面即安装成功。如果需要停止服务，运行命令为：sh ymir.sh stop
label studio为YMIR外接的标注系统，选择安装可以完成数据标注的操作流程。
- 在上一节的YMIR目录下，启动安装label studio命令如下：
docker-compose -f docker-compose-component.yml up -d
- 完成后查看label studio状态命令如下：
docker-compose -f docker-compose-component.yml ps（默认端口为12007）
可以登录默认地址 http://localhost:12007/ 显示登录界面即安装成功。
- 配置label studio授权token
注册登录label studio后，在页面右上角个人信息图标，选择"Account & Settings"获取Token值并复制，粘贴到YMIR项目的.env配置文件对应的位置（LABEL_STUDIO_TOKEN）。实例如下：
label studio env
LABEL_STUDIO_OPEN_HOST=http://xxx.xxx.xx.xxx
LABEL_STUDIO_OPEN_PORT=12007
LABEL_STUDIO_TOKEN="Token token_value"
LABEL_TASK_LOOP_SECONDS=60
配置好Host地址（LABEL_STUDIO_OPEN_HOST）和Token值（LABEL_STUDIO_TOKEN）后重启YMIR即可。
- 停止label studio服务命令如下：
docker-compose -f docker-compose-component.yml down
本次使用一次模型迭代的完整流程来说明YMIR平台的操作过程。
数据和标签是深度学习模型训练的必要条件，模型的训练需要大量带标签的数据。然而在实际情况下，现实中存在的是大量没有标签的数据，如果全部由标注人员手工打上标签，人力和时间成本过高。
因此，YMIR平台通过主动学习的方法，首先通过少量数据来训练出一个初始模型，使用该初始模型，从海量数据中挖掘出对模型能力提高最有利的数据。挖掘完成后，仅针对这部分数据进行标注，对原本的训练数据集进行高效扩充。
使用更新后的数据集再次训练模型，以此来提高模型能力。相比于对全部数据标注后再训练，YMIR平台提供的方法更高效，减少了对低质量数据的标注成本。通过挖掘，标注，训练的循环，扩充高质量数据，提升模型能力。
用户准备好带有训练目标的数据集（训练集，测试集），用于训练初始模型。针对本身带有标注文件的数据集，在导入之前，保证数据集的格式符合格式要求：
- 数据集为.zip格式，其中包含两个文件夹，需分别命名为images和annotations；
- images文件夹存放数据的图片信息，图像格式限为jpg、jpeg、png；
- annotations文件夹存放数据的标注信息，标注文件格式为pascal voc（当无标注文件时，该文件夹为空）；
- 当数据集带有标注文件时，标注类型必须属于平台内置的标签列表，详见标签列表 ；
- 如用户需要新增自定义标签，以便导入数据，请查看如何修改标签类别文件。
数据集导入支持四种形式：公共数据集导入、网络导入、本地导入和路径导入,如下图所示：
(1) 公共数据集复制：导入公共用户内置的数据集，该数据集存储在公共用户上，以复制的形式导入到当前的操作用户上。用户可以根据标签筛选对应的数据集，如下图所示：
选择符合条件的数据集，点击【确定】即可开始复制。
(2) 网络导入：输入数据集对应的url路径，如下图所示：
(3) 本地导入：上传本地数据集的压缩包，压缩包大小建议不超过200M。
用户可以下载示例Sample.zip作为参考，如下图所示：
(4)路径导入：输入数据集在服务器中的绝对路径。如下图所示：
通过在网络中下载开源数据集VOC2012(点击下载VOC2012)，解压并分出训练集（VOC2012_train）、测试集（VOC2012_val）和待挖掘数据集（VOC2012_mining），按要求修改文件夹名称，再分别压缩为符合导入要求的zip包，通过本地导入的方式导入。如下图所示：
如果导入的训练集或测试集没有标签，则需要进行标注。点击任务管理界面的【新建标注任务】按钮，跳转至创建数据标注任务界面，如下图所示：
输入任务名称（必填），选择数据集（必填），输入标注人员邮箱（需要提前去标注系统注册，点击最下方“注册标注平台账号”即可跳转到Label Studio标注平台注册标注账号），选择标注目标（person，car），如需自行到标注平台查看，请勾选“到标注平台查看”，填写自己的标注平台账号（同样需要提前注册），如对标注有更详细的要求，则可以上传标注说明文档供标注人员参考。点击创建任务，如下图所示：
创建成功后，跳转到任务管理界面，可以查看到相应的任务进度和信息，任务完成后，系统自动获取标注完成的结果，生成带有新标注的数据集。
点击任务管理界面的【新建训练任务】按钮，跳转至创建模型训练任务界面，如下图所示：
输入任务名称（必填），选择训练集（VOC2012_train），选择测试集（VOC2012_val），选择训练目标（person，car），选择训练类型、算法框架、骨干网络结构、GPU个数以及配置训练参数（训练参数提供默认值，默认参数中key值不可修改，value值可修改，如需添加参数可以自行添加），点击创建任务。如下图所示，训练初始模型：
创建成功后，跳转到任务管理界面，可以查看到相应的任务进度和信息，任务完成后可查看模型的效果（mAP值）。
由于在模型训练的初期，很难一次性找到大量的优质数据来进行训练，导致初始模型的精度不够。因此，寻找有利于模型训练的数据一直是人工智能算法开发的一大问题，在这个过程中，往往会对算法工程师的人力资源产生很大消耗。在此基础上，YMIR提供成熟的挖掘算法，支持百万级数据挖掘，在海量数据中快速寻找到对模型优化最有利的数据，降低标注成本，减少迭代时间，保障模型的持续迭代。
接下来使用初始训练得到的模型，对待挖掘的数据集进行数据挖掘。点击任务管理界面的【新建挖掘任务】按钮，跳转至创建数据挖掘任务界面，如下图所示：
输入任务名称（必填），选择数据集（VOC2012_mining），选择模型（上次训练出的初始模型），输入筛选测试TOPK=500（前500张成功挖掘的图像）和设定自定义参数（自定义参数提供默认值，默认参数中key值不可修改，value值可修改，如需添加参数可以自行添加）。
创建成功后，跳转到任务管理界面，可以查看到相应的任务进度和信息，任务完成后可查挖掘出的结果数据集。
挖掘任务完成后，从待挖掘的数据集（VOC2012_mining）中得到挖掘数据集（mine-voc, 500张），通过重复步骤【3.2 数据标注】，对挖掘到的数据集（mine-voc, 500张）进行标注，得到标注数据集（mine-voc-label, 500张）。如下图所示：
标注完成后，再次创建训练任务，将挖掘后标注完成的数据集（mine-voc-label, 500张）和原始数据集（VOC2012_train, 8815张）合并后再训练，如下图所示：
每次训练模型后，可以对模型结果进行验证，即通过可视化的方式查看模型在真实图片中的表现。在【模型管理】页面，点击对应模型的【验证】按钮，跳转到【模型验证】页面，如下图所示：
点击【上传图片】按钮，选择本地图片上传，显示结果如下：
用户可对达到预期的模型进行下载。或继续用该模型挖掘，进入下一轮数据挖掘-数据标注-模型训练，进一步优化模型。
在【模型列表】页面，点击【下载】按钮，下载文件格式为tar包，包含模型的网络结构、为网络权重、超参数配置文件、训练的环境参数及结果，如下图所示：
本章节为YMIR-CMD line的使用说明，如需安装和使用GUI，请参考GUI安装说明。
# Requires >= Python3.7
$ pip install ymir-cmd
$ mir --vesion
$ git clone --recursive [email protected]:IndustryEssentials/ymir-cmd.git
$ cd ymir-cmd
$ python setup.py clean --all install
$ mir --version
上图所示的是模型训练的一个典型流程：用户准备好外部数据，导入本系统，对数据进行适当筛选，开始训练得到一个（可能是粗精度的）模型，并依据这个模型，在一个待挖掘数据集中挑选适合进一步训练的图片，将这些图片进行标注，标注完成的结果与原训练集合并，用合并以后的结果再次执行训练过程，得到效果更好的模型。 在这一节里，我们需要使用命令行实现上图所示的流程，其他流程也可以类似实现。 以下所有命令前面都加入了$（它也是普通用户下Linux提示符），在实际向控制台输入命令时，$不需要一起输入。
本系统对外部数据有以下要求：
1.标注为VOC格式；
-
所有图片（本系统中统称为assets或medias）的路径需要统一写入index.tsv文件，同时，所有标注文件都需要位于同一个目录中；
-
运行命令行的用户需要index.tsv，所有图片文件和所有标注文件的读权限。
我们以 pascal 2017 test 数据集为例，描述一下外部数据集的准备过程。 在官网下载数据集VOC2012test.tar，使用以下命令解压：
$ tar -xvf VOC2012test.tar
解压以后，可以得到以下目录结构（假设VOCdevkit位于/data目录下）：
/data/VOCdevkit
`-- VOC2012
|-- Annotations
|-- ImageSets
| |-- Action
| |-- Layout
| |-- Main
| `-- Segmentation
`-- JPEGImages
其中，所有标注都位于annotations目录，而所有图片都位于JPEGImages目录。 使用下述命令生成index.tsv文件：
$ find /data/VOCdevkit/VOC2012/JPEGImages -type f > index.tsv
可以看到index.tsv中有如下内容：
/data/VOCdevkit/VOC2012/JPEGImages/2009_001200.jpg
/data/VOCdevkit/VOC2012/JPEGImages/2009_004006.jpg
/data/VOCdevkit/VOC2012/JPEGImages/2008_006022.jpg
/data/VOCdevkit/VOC2012/JPEGImages/2008_006931.jpg
/data/VOCdevkit/VOC2012/JPEGImages/2009_003016.jpg
...
这个index.tsv可用于下一步的数据导入。
另外，在Annotations文件夹中，每个标注都拥有和图片相同的主文件名。其中的xxx属性将被提取成为预定义关键字，被用于后面一步的数据筛选。
本系统的命令行采用和 git 类似的做法对用户的资源进行管理，用户建立自己的 mir repository，并在此 mir repo 中完成接下来的所有任务。
想要建立自己的 mir repo，用户只需要：
$ mkdir ~/mir-demo-repo && cd ~/mir-demo-repo # 建立目录并进入
$ mir init # 将此目录初始化成一个mir repo
$ mkdir ~/ymir-assets ~/ymir-models # 建立资源和模型存储目录，所有的图像资源都会保存在此目录中，而在mir repo中只会保留对这些资源的引用
用户需要事先准备三个数据集：
-
训练集 dataset-training，带标注，用于初始模型的训练；
-
验证集 dataset-val，带标注，用于训练过程中模型的验证；
-
挖掘集 dataset-mining，这是一个比较大的待挖掘的数据集。
用户通过下述命令导入这三个数据集：
$ cd ~/mir-demo-repo
$ mir import --index-file /path/to/training-dataset-index.tsv \ # 数据集index.tsv路径
--annotation-dir /path/to/training-dataset-annotation-dir \ # 标注路径
--gen-dir ~/ymir-assets \ # 资源存储路径
--dataset-name 'dataset-training' \ # 数据集名称
--dst-rev 'dataset-training@import' # 结果分支及操作任务名称
$ mir checkout master
$ mir import --index-file /path/to/val-dataset-index.tsv \
--annotation-dir /path/to/val-dataset-annotation-dir \
--gen-dir ~/ymir-assets \
--dataset-name 'dataset-val' \
--dst-rev 'dataset-val@import'
$ mir checkout master
$ mir import --index-file /path/to/mining-dataset-index.tsv \
--annotation-dir /path/to/mining-dataset-annotation-dir \
--gen-dir ~/ymir-assets \
--dataset-name 'dataset-mining' \
--dst-rev 'dataset-mining@import'
任务全部执行成功以后，可以通过以下命令：
$ mir branch
查看当前 mir repo 的分支情况，现在用户应该可以看到此 repo 有四个分支：master, dataset-training, dataset-val, dataset-mining，并且当前 repo 位于分支dataset-mining上。
用户也可以通过以下命令查看任何一个分支的情况：
$ mir show --src-rev dataset-mining
系统会有以下输出：
person;cat;car;airplane
metadatas.mir: 200 assets, tr: 0, va: 0, te: 0, unknown: 200
annotations.mir: hid: import, 113 assets
tasks.mir: hid: import
第一行和第二行分别是预定义关键字和用户自定义关键字（在这个输出中，用户自定义关键字为空），后面几行分别是当前分支下的资源数量，标注数量以及任务情况。
训练模型需要训练集和验证集，通过以下命令将 dataset-training 和 dataset-val 合成一个：
$ mir merge --src-revs tr:dataset-training@import;va:dataset-val@import \ # 待合并分支
--dst-rev tr-va@merged \ # 结果分支及操作任务名称
-s host # 策略：依据主体分支解决冲突
合并完成后，可以看到当前 repo 位于 tr-va 分支下，可以使用 mir show 命令查看合并以后的分支状态：
$ mir show --src-revs HEAD # HEAD指代当前分支，也可以用tr-va这个具体的分支名称代替
系统会有以下输出：
person;cat;car;airplane
metadatas.mir: 3510 assets, tr: 2000, va: 1510, te: 0, unknown: 0
annotations.mir: hid: merged, 1515 assets
tasks.mir: hid: merged
假设合并之前的 dataset-training 和 dataset-val 分别有2000和1510张图像，可以看到合并后的分支中有2000张图像作为训练集，1510张图像作为验证集。 假设我们只想训练识别人和猫的模型，我们首先从这个大数据集里面筛选出现人或猫的资源：
mir filter --src-revs tr-va@merged \
--dst-rev tr-va@filtered \
-p 'person;cat'
首先从 dockerhub 上拉取训练镜像和挖掘镜像：
docker pull industryessentials/executor-det-yolov4-training:release-0.1.2
docker pull industryessentials/executor-det-yolov4-mining:release-0.1.2
并使用以下命令开始训练过程：
mir train -w /tmp/ymir/training/train-0 \
--media-location ~/ymir-assets \ # import时的资源存储路径
--model-location ~/ymir-models \ # 训练完成后的模型存储路径
--config-file ~/training-config.yaml \ # 训练参数配置文件，到训练镜像中获取
--src-revs tr-va@filtered \
--dst-rev training-0@trained \
--executor industryessentials/executor-det-yolov4-training:release-0.1.2 # 训练镜像
模型训练完成后，系统会输出模型id，用户可以在~/ymir-models中看到本次训练好的模型打包文件。
上述模型是基于一个小批量数据集训练得到的，通过挖掘，可以从一个大数据集中得到对于下一步训练模型最为有效的资源。 用户使用下述命令完成挖掘过程：
mir mining --src-revs dataset-mining@import \ # 导入的挖掘分支
--dst-rev mining-0@mining \ # 挖掘的结果分支
-w /tmp/ymir/mining/mining-0 \ # 本次任务的临时工作目录
--topk 200 \ # 挖掘结果的图片数量
--model-location ~/ymir-models \
--media-location ~/ymir-assets \
--model-hash <hash> \ # 上一步训练出来的模型id
--cache /tmp/ymir/cache \ # 资源缓存
--config-file ~/mining-config.yaml \ # 挖掘参数配置文件，到挖掘镜像中获取
--executor industryessentials/executor-det-yolov4-mining:release-0.1.2
现在，系统已经挖掘出了对于模型训练最有效的200张图像，这些图像被保存在分支mining中，接下来的任务是将这些资源导出，送给标注人员进行标注。 用户可以通过下述命令完成导出过程：
mir export --asset-dir /tmp/ymir/export/export-0/assets \ # 资源导出目录
--annotation-dir /tmp/ymir/export/export-0/annotations \ # 导出标注目录
--media-location ~/ymir-assets \ # 资源存储目录
--src-revs mining-0@mining \
--format none # 不导出标注
find /tmp/ymir/export/export-0/assets > /tmp/ymir/export/export-0/index.tsv
导出完成后，可以在/tmp/ymir/export/export-0/assets位置看到导出的图片，用户可以将这些图片送去标注，标注需要按VOC格式保存，假设保存路径仍然为/tmp/ymir/export/export-0/annotations。 标注完成后，用户可以使用与4.2.2中的导入命令类似的方式导入数据：
$ mir import --index-file /tmp/ymir/export/export-0/index.tsv
--annotation-dir /tmp/ymir/export/export-0/annotations \ # 标注路径
--gen-dir ~/ymir-assets \ # 资源存储路径
--dataset-name 'dataset-mining' \ # 数据集名称
--dst-rev 'labeled-0@import' # 结果分支及操作任务名称
现在的工作空间的分支labeled-0中已经包含了挖掘出来的200张新的训练图像，可以通过前述的merge将其和原来的训练集合并在一起：
$ mir merge --src-revs tr-va@filtered;tr:labeled-0@import \ # 待合并分支
--dst-rev tr-va-1@merged \ # 结果分支及操作任务名称
-s host # 策略：依据主体分支解决冲突
现在在分支tr-va-1上，已经包含了前一次训练所用的训练集和验证集，也包含了后来通过数据挖掘得出的新的200张训练集加人工标注，可以通过以下命令在此集合上训练一个新的模型出来：
mir train -w /tmp/ymir/training/train-1 \ # 每个不同的训练和挖掘任务都用不同的工作目录
--media-location ~/ymir-assets \
--model-location ~/ymir-models \
--config-file ~/training-config.yaml \ # 训练参数配置文件，到训练镜像中获取
--src-revs tr-va-1@merged \ # 使用合成以后的分支
--dst-rev training-1@trained \
--executor industryessentials/executor-det-yolov4-training:release-0.1.2
Ymir-command-api.211028
通用参数格式与定义
| 参数名 | 变量名 | 类型与格式 | 定义 |
|---|---|---|---|
| --root / -r | mir_root | str | 需要初始化的路径，如果没有指定，则为当前路径 |
| --dst-rev | dst_rev | str | 1. 目标rev，仅限单个 |
| rev@tid | 2. 所有修改将保存在此rev的tid上 | ||
| 3. 如果是一个新的rev则先checkout到第一个src-revs再创建 | |||
| 4. tid必须，rev必须 | |||
| --src-revs | src_revs | str | 1. 数据来源rev，多个用分号隔开（仅merge支持，其他cmd仅支持单个） |
| typ:rev@bid | 2. typ可选，只在merge有效果，支持前置用途标识符（tr/va/te），为空，则表示使用原rev中的设置 | ||
| 3. bid可选，若为空则读head task id | |||
| 4. rev不能为空 | |||
| 注意：当出现多个revs，例如a1@b1;a2@b2，需要用引号将其括起来，因为分号是Linux命令分隔符。 |
mir init
| DESCRIPTION | ||
|---|---|---|
| mir init [--root <mir_root>] | ||
| 将当前路径，或者-root指定的路径初始化为一个mir root。 | ||
| ARGS（ARGS名称、run_with_args中的参数名称、类型、说明） | ||
| --root / -r | mir_root | str，可选 |
| RETURNS | ||
| 正常初始化：返回0 | ||
| 异常：其他error code |
mir branch
| DESCRIPTION | ||
|---|---|---|
| mir branch [--root <mir_root>] | ||
| 列出当前本地或远程的所有分支 | ||
| ARGS | ||
| --root / -r | mir_root | str，可选 |
| RETURNS |
YMIR项目由三部分组成:
-
后端 https://github.com/IndustryEssentials/ymir-backend，负责任务分发与管理
-
命令行 https://github.com/IndustryEssentials/ymir-cmd，CLI界面，管理底层标注与图像数据
YMIR repo中的任何代码都应遵循编码标准，并将在CI测试中进行检查。
-
功能性代码需要进行单元测试。
-
在提交前使用 flake8 或 black 来格式化代码。 这两者均遵循 PEP8 和 Google Python Style 风格指南。
-
mypy - Python必须经过静态类型检查。
也可以查看 MSFT编码风格 来获取更多的建议。
查看这篇文档获取更多细节。
数据集由Metadata（元数据）与媒体文件组成，元数据具有下述特征:
-
它拥有唯一ID，系统有一个初始的默认Metadata状态，为空；
-
它拥有一个资源列表，列表中每个元素都指向一个实际的资源，Metadata不实际保存资源，只维护此资源列表；
-
它拥有若干keywords，用户可以通过这些keywords搜索到某个特定的Metadata状态；
-
用户可以为某个metadata新开分支，并在新开的分支上进行操作，在新分支上的操作不影响原metadata的状态，且原metadata仍可以被用户追溯，这些操作包括但不限于：
(1)添加资源 (2)添加或修改标注 (3)添加或修改关键词 (4)过滤资源 (5)合并两个不同的metadatas
-
用户可以在不同metadata之间自由跳转；
-
用户可以查询metadata的历史；
-
用户可以将metadata打上自己的tag，便于通过tag精确查找；
-
用户也可以向metadata添加keywords，便于keywords模糊搜索；
-
用户可以通过某种方式读取一个metadata中所包含的资源，并将这些资源用于浏览、训练等。
从以上描述可以看出，对于metadata的管理，类似于VCS（版本管理系统），用户可以有下面几种完全不同的使用方式与场景：
场景一: 直接从最开始的metadata，进行筛选过程，选出并使用符合要求的数据，如下图所示：
每当用户需要开始一项新任务时：
- 用户从当前的主分支内签出一个新的feature分支，得到处于feature#1状态的metadata；
- 用户在此新分支的metadata上进行数据筛选和其他任务，得到处于feature#2状态的metadata；
- 当确认这个metadata适合自己的训练任务，则可以使用这个数据开始训练；
- 此时，其他用户对master分支的metadata进行更改，也不会影响到用户正在使用的训练数据。
场景二：通过tag或keywords搜索到某个metadata，并开始筛选过程，直到得出符合要求的数据，然后使用该数据，如下图所示：
此时，每当用户需要开展一项新任务时：
- 通过keywords和tag等方式，搜索到一个基本符合自己要求的metadata
- 在此基础上，签出一个新分支
- 在新分支上继续进行数据筛选或清洗，得到真正符合要求的数据
- 利用此数据进行训练
场景三：增量合并。假设用户已经使用某个metadata完成了模型的训练任务，此时资源库与主分支的metadata有更新，用户希望将这一部分更新合并到当前使用的metadata中：
假设用户现在在feature#2，用户需要进行如下操作：
- 切回主分支master
- 对master#2 - master#1这个增量部分，重复之前做过的任务，得到feature#2+
- 切回feature#2，合并feature#2+，得到feature#3
本节的论述基于以下假设：
- 用户数据以数据集为单位分批导入
- 每个数据集是一个独立分支；
- 对每个数据集的更改及维护都在本分支上进行；
- master分支始终为空。 这种管理方式如下图所示：
我们使用Git中代码版本控制的概念来管理我们的数据和模型。我们使用分支的概念创建新项目，以便同一组映像上的不同任务可以并行运行。数据集的增加、检索、更新和删除以及基本操作都创建提交到分支。从逻辑上讲，每次提交都存储数据集或新模型的更新版本，以及导致此更改的操作的元数据。最后，只有数据更改被合并到主分支，这在概念上，聚合了该平台上许多项目注释的所有数据。
- 为什么上传本地数据集的压缩包失败？
无论是否有标签，必须创建images文件夹和annotations文件夹。图像放入images文件夹下，格式限为jpg、jpeg、png。标注文件放入annotations文件夹下，格式为pascal（无标注文件，annotations文件夹为空）。将images，annotations放入同一文件夹下，并压缩为.zip压缩包（非.rar压缩格式）。
- 应该如何取得训练和挖掘的配置文件？
默认配置文件模板需要在镜像中提取。
训练镜像 industryessentials/executor-det-yolov4-training:release-0.1.2 的配置文件模板位于：/img-man/training-template.yaml
挖掘与推理镜像 industryessentials/executor-det-yolov4-mining:release-0.1.2 的配置文件模板位于：/img-man/mining-template.yaml（挖掘） 以及 /img-man/infer-template.yaml（推理）
- 如何在系统外部使用训练出来的模型？
成功完成训练后，系统会输出模型的 id，用户可以根据这个 id 到 --model-location 位置找到对应的文件，它事实上是一个 tar 文件，可以直接使用 tar 命令解压，得到 params 和 json 格式的 mxnet 模型文件。
- 如何查看及修改类别名称标签文件？
标签文件位于ymir-proto包的安装目录下的ymir/ids/type_id_names.csv，通过以下命令显示此文件中的内容：
cat `pip show ymir-proto | grep 'Location: ' | cut -d ' ' -f2`/ymir/ids/type_id_names.csv
可以看到里面的格式如下：
0,frisbee
1,car
2,person
3,surfboard
4,cat
5,bed
6,clock
7,pizza,pizza pie
8,skateboard
9,dining table,diningtable,board
可以看到文件的每一行都由英文逗号分隔，第一项是类别id，后面是类别名称。
值得注意的是id为7的行，它有三个数据项：7, pizza, pizza pie。当出现一行有两个以上的数据项的时候，第一个数据项是类别id，第二个数据项是类别主名，后续的都是类别别名。
在ymir-cmd的filter命令中，用户输入的-c和-C参数都由此文件映射到类别id，用户可以输入类别主名或类别别名，它们的作用相同。
可以使用vim，或其他类似的编辑工具对此文件进行编辑，用户可以添加类别的别名，也可以增加新的类别，但不建议更改已经有的类别的主名和id。
YMIR开源项目符合Apache 2.0证书许可。查看 LICENSE file for details.
当您有其他问题时，请联系我们：[email protected]
