声明 :非广告,为用户体验
【丹摩(DAMODEL)超算平台主题系列】:
丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(一)
丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(二) – 控制台实操
丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(三) - ChatGLM-6B快速部署
第一篇文章偏于技术类型的重点,而本篇文章记录个人从0到1摸索“丹摩(DAMODEL)超算平台”,适合小白或非专业人员来手把手教会使用“丹摩(DAMODEL)超算平台”。
一、登录与注册功能:
本文记录从0到1丹摩平台使用的过程,打开(“丹摩(DAMODEL)超算平台”官网)[https://www.damodel.com/home],可以看到“丹摩(DAMODEL)超算平台”的首页,可以通过手机号进行快速注册进行体验,也可以使用登录的入口进行注册。
也可以通过右上角“登录”入口,在丹摩(DAMODEL)超算平台进行(注册)[https://www.damodel.com/login],可以看到通过账号用户名、密码和手机号进行注册。
注册成功后,可以进行登录,可以看到登录分为2种方式:账号登录和手机号登录,说明注册的时候,就是一步拆成两步。
关于新用户注册奖励:
新用户注册即送50元优惠券(包括20元注册券+30元实名认证券),可以用于“丹摩(DAMODEL)超算平台”用于平台的体验,也是官方提供的福利活动。
二、实名领取认证券:
登录“丹摩(DAMODEL)超算平台”控制台后,可以看到主页,有GPU云实例、存储空间、存储空间折线图、费用的一些信息,另外,也有一些常用文档的快捷入口,我们点击弹出右上角的弹框信息,有提示“未认证”,表示就是没有进行实行,可以点击左边菜单栏位的“用户中心”功能管理页面。
在用户中心页面中,可以点击复制个人分享链接的邀请地址,可以给其它的用户注册,同时,也提供了2种实名认证的方式,一种是个人认证(适合个人用户),一种是企业实名认证(适合企业用户),这里我们选择个人实名进行认证。
下面是我们选择个实名进行认证,点击“立即认证”,会跳转到一个个人信息填写页面,输入自己的真实姓名和证件号码后,即可进行实名验证,点击“下一步”后,会弹出一个支付宝扫码的人像认证二唯码,使用支付宝app扫一扫后,根据操作进行实名即可。
使用支付宝操作完实名后,即可完成个人实名认证,如下图也可以看到实名认证中有相关信息,接下来才可以进行GPU的云实例购买的操作(一定要实名制后才可以进行操作)。
三、购买GPU云实例:
GPU云实例是指在云计算环境中提供GPU资源的服务。GPU(图形处理单元)是一种专门设计用于并行计算和图形渲染的处理器,比CPU更适合处理大量并行计算任务,如机器学习、科学计算和图形渲染等。
在通过菜单栏中,点击“资源” -> “GPU云实例”功能模块,选择“创建实例”,即可进行新一个GPU云实例资源,这里需要注意GPU云实例需要符合规则。
在创建实例中,可以看到很多的选项,这里我们来看一下“付费类型”、“实例配置”2个模块的说明:
- “付费类型”指的是GPU云实例的收费模式,有3种:按量付费、包日、包月,可以根据自己的场景来进行调整,比如按时付费适合做一些实验和功能测试,包日模式适合提供周期性的AI应用服务,包月适合提供稳定性的AI应用功能。
- “实例配置”指是9种GPU算力显示的配置,可以包括入门型的P40,也可以包括专业型的H800,不同的显示算力会对应不同的价格,灰色的表示是目前实例暂无空闲的,可以等释放更多的资源再进行选择,看来还是比火爆的。
接下来,可以选择GPU的数量,即多少核。这个核数是跟价格成正比的趋势增长,核数 * 每小时价格,比如选择4核,Tesla P40每小时是0.5元,价格计算为4 * 0.5元 = 2块/每小时。
数据硬盘,默认是有两块磁盘,都是SSD的类型磁盘,系统盘是100GB,不能修改,而默认的数据盘是50GB,但是最高扩容范围可以达到1TB以上。对于有训练大模型的需求,一般会满足需求。
如果2块磁盘还是不满足需求的话,可以额外再增加6块数据盘,但是可以选择这些数据盘不进行随实例释放即可,可以把一些重要的数据存放在此处,当实例销毁后,也可以在新建的GPU实例中进行使用。
镜像服务,可以选择镜像市场提供了16个基础的镜像包,官方里面提供好了即插即用的AI应用服务,覆盖不少应用场景。
丰富的镜像:
已内置Ubuntu、StableDiffution、vicuna-7b、chatglm2-6b等镜像与模型,助力快速创建容器,不用再安装一些基本软件,默认会安装Pytorch 2.3.0、Python 3.10.14、CUDA 11.8等基础软件,如果自己安装过就知道兼容性的问题解决起来也是比较繁琐。
因为需要部署Llama3.1,所以我们选择Pytorch的基础镜像,后面可以进行尝试DAMODEL-ChatGLM-6B 服务端部署。平台提供了一些基础镜像供快速启动,镜像中安装了对应的基础环境和框架,这里选择 PyTorch1.13.1 的框架启动,也可以选择 PyTorch2.1.2 版本启动。
我们这里选择Pytorch2.3.0基础镜像,接下来进行创建密钥对,可以输入名字直接点创建密钥对就可以进行自动创建,只有一次下载私钥的机会,请务必保管好创建后自动下载的私钥。点击确定后会自动下载一个txt文档,这个是你的私钥。也可以导入公钥,将生成好的公钥直接导入即可。
点击“立即创建”即可新建一个GPU实例,接下来介绍一下如何GPU服务器管理。
三、“丹摩(DAMODEL)超算平台”服务器管理:
点击“立即创建”后,需要等1-2分钟就可以实例化创建成功GPU云服务器,可以看到实例的一些基本的信息,也可以直接设置实例的名称。
另外,GPU实例也提供了2种登录的方式,一种是SSH登录,一种是web网页的JupyterLab工具。
3.1 使用SSH远程登录方式:
- 自动创建密钥对:系统会为您自动创建密钥对。创建成功后,将自动下载私钥文件到您的本地,默认文件名为:密钥名称.pem。只有一次下载私钥的机会,DAMODEL不会保存您的私钥,请务必保管好该私钥。
- 导入已有公钥:在公钥内容输入框粘贴您的已有公钥。您可参考下文获取您的公钥内容。
ssh -P{端口} [email protected]
3.2 web网页的JupyterLab工具访问方式:
JupyterLab是Project Jupyter的基于Web的用户界面,为数据科学家提供了交互式开发环境,以便使用Jupyter Notebooks、代码和数据。云上开发环境,无需配置环境,既可灵活调试运行代码。
版权归原作者 完美句号 所有, 如有侵权,请联系我们删除。