git clone开启云上AI开发

摘要:相比于传统的软件开发,AI开发存在以下4个痛点:算法繁多;训练时间长;算力需求大;模型需手动管理,我们可以使用云上AI开发的方式来缓解以上4个痛点 。
本文分享自华为云社区《git clone开启云上AI开发》,作者:ModelArts开发者 。
已发布地址:https://developer.huaweicloud.com/develop/aigallery/article/detail?id=17052711-f3f5-4b53-bdbc-5d5c7cdc64fa
一、为什么需要云上AI开发?相比于传统的软件开发,AI开发存在以下4个痛点:
1)算法繁多;
【git clone开启云上AI开发】2)训练时间长;
3)算力需求大;
4)模型需手动管理
我们可以使用云上AI开发的方式来缓解以上4个痛点,云上AI开发的优势:
  1. 任意地点接入,在线开发;
  2. 云上环境预置多种主流深度学习框架,开“箱“即用;
  3. 云端充足算力、TB级数据存储,支持重型训练任务;
  4. 云端平台具备训练任务版本化管理,AI开发更可靠、可高效;
二、云上AI开发主要步骤
git clone开启云上AI开发

文章插图
三、具体操作步骤步骤一 Notebook调试1.准备Python环境
进入ModelArts控制管理台,点击【开发环境】–> 【Notebook】,进入notebook列表页面,点击页面左上角“创建”按钮,新建一个notebook,填写参数,下图所示:
git clone开启云上AI开发

文章插图
git clone开启云上AI开发

文章插图
点击“立即创建”,确认产品规格后,点击提交,完成Notebook的创建 。
返回Notebook列表页面 , 等待新创建Notebook状态变为“运行中”后,点击名称进入Notebook 。
进入Notebook页面后,打开terminal,如下图所示:
git clone开启云上AI开发

文章插图
输入如下命令,查看已安装Python环境信息
conda info -e点此链接GitHub - IDEA-Research/DINO , 下面将以此开源算法为例,演示如何在华为云Notebook上快速运行,算法详细介绍请参考 README.md  。
1)在terminal里继续输入如下命令,克隆仓库
git clone https://github.com/IDEACVR/DINOcd DINO
git clone开启云上AI开发

文章插图
如上图所示,表示已完成代码克?。慊髯蟛嗳挝窭付ゲ克⑿掳磁ィ纯刹榭创?。
2)查看Pytorch版本
pip list | grep torch3)安装其他需要的包
pip install -r requirements.txt4)编译CUDA算子
cd models/dino/opspython setup.py build install# unit test (should see all checking is True)python test.pycd ../../..# 回到代码主目录
git clone开启云上AI开发

文章插图
2.准备数据和预训练参数文件
1)进入控制台,将光标移动至左边栏,弹出菜单中选择“服务列表”->“存储”->“对象存储服务OBS”,如下图所示:
git clone开启云上AI开发

文章插图
点击“创建桶”按钮进入创建界面 。
git clone开启云上AI开发

文章插图
开始创建 。配置参数如下:
① 复制桶配置:不选② 区域:华北-北京四③ 桶名称:自定义,将在后续步骤使用④ 数据冗余存储策略:单AZ存储⑤ 默认存储类别:标准存储⑥ 桶策略:私有⑦ 默认加密:关闭⑧ 归档数据直读:关闭
单击“立即创建”>“确定”,完成桶创建 。
点击创建的“桶名称”->“对象”->“新建文件夹”,创建一个文件夹,用于存放后续数据集 。
git clone开启云上AI开发

文章插图
2)下载COCO 2017数据集子集 。该数据集包括train(5000张),val(5000张)及标注文件 。进入下载详情页面,下载方式选择对象存储服务(OBS),目标区域选择华北-北京四,目标路径选择1中在OBS中创建的路径 , 用于数据集存储 , 如下图所示:
git clone开启云上AI开发

文章插图
点击“确认”,跳转至我的下载页面,可以查看数据集下载详情 , 等待数据集下载完成 , 如下图所示:
git clone开启云上AI开发

文章插图
返回Notebook页面 , 新建一个ipynb文件,编写导入数据集脚本,运行代码,运行完毕后,点击任务栏上方“刷新”按钮,即可查看导入dataset , 如下图所示:

推荐阅读