0


丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(一)

声明 :非广告,为用户体验


【丹摩(DAMODEL)超算平台主题系列】:

丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(一)

丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(二) – 控制台实操

丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(三) - ChatGLM-6B快速部署


随着深度学习、大数据、人工智能、AI等技术领域的不断发展,机器学习是目前最火热的人工智能分支之一,是使用大量数据训练计算机程序,以实现智能决策、语音识别、图像处理等任务,各行各业都在积极探索这些技术的应用。

今天给大家推荐“DAMODEL丹摩超算平台”,一个专门为AI打造的智算云平台,致力于提供丰富的算力资源与基础设施,以助力AI应用的开发、训练、部署。如何利用“DAMODEL丹摩超算平台”将这些AI技术落地,怎么样结合自身公司业务打造一个AI智能平台呢?

在这里插入图片描述

【可以来看看我在B站录的一个视屏】:

基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地


【AI海报与分享文案生成】:

通过基于“DAMODEL丹摩超算平台”构建Ollama快速安装和配置Llama 3大语言模型,来进行提示词文案解析再生成相关内容,可以通过AI生成海报与分享文案提高文案编辑人员的效率,降低人力成本。

在这里插入图片描述


一、前言:

在这里插入图片描述

作者也是经过了以上几个阶段的软件开发阶段历程,从最早期在学校和刚入行时,使用的Web时代编程(PHP LNMP环境)、到后面使用云时代分布式编程,到如今的AI时代,如何利用AI进行业务的赋能,成为了大多数企业行业的核心环节。

但是,无论是在自然语言处理NLP、图像视觉、科学计算、还是自动化驾驶等领域,AI模型的推理训练通常需要大量的计算资源,尤其是在处理大规模数据集和复杂模型时,训练过程不仅耗时且资源密集,为了提高训练产出结果效率,降低模型推理的时间,开发人员在不断的探索强大的计算平台,以满足他们对算力和灵活性的需求。

在这里插入图片描述

那么,在实际的工作中如何快速的让开发人员实现AI的功能呢?

今天给大家推荐的一款,【DAMODEL丹摩超算平台】提供了专为 AI 打造的智算云,致力于提供丰富的算力资源与基础设施助力 AI 应用的开发、训练、部署,让AI 模型的开发和应用变得更加高效和便捷。

在这里插入图片描述

无论您是初学者小白还是资深开发者老鸟,都可以使用“DAMODEL丹摩超算平台”都能轻松应对 AI 推理的复杂挑战,加速创新与落地,助力中小企业及开发者快速部署LLM、AI作画、数据科学等高性能产品应用。


二、“DAMODEL丹摩超算平台”介绍:

“DAMODEL丹摩超算平台”作为一款专为 AI 开发设计的智能计算云平台,凭借其丰富的 GPU 算力资源和便捷的自动化工具链,能够帮助开发者实现高效的 AI 模型训练,助力AI应用的开发、训练、部署,使得开发者能够快速地构建和训练深度学习模型。同时,还支持分布式训练,能够充分利用多GPU和多节点的计算资源,提高模型的训练效率。

在这里插入图片描述

  • ①. 丰富的算力资源:提供CPU/GPU算力集群、CPU/GPU裸金属服务以及高性能存储等三大类产品,满足用户在不同场景下算力需求。
  • ②. 高性能计算服务:平台在计算节点之间以及计算节点与存储节点之间均采用IB网络,提供高并发、高性能的存储服务,避免网络及存储性能瓶颈,使算力节点性能得到最充分的发挥。
  • ③. 多样化的开发环境:DAMODEL平台支持TensorFlow、PyTorch、Caffe等主流工具和框架,帮助用户构建和训练各种类型的人工智能模型:图像识别、语音识别、自然语言处理等。

在这里插入图片描述

丹摩平台个人中心后台包括了多个功能模块主页概览、资源管理、费用管理、GPU云实例、文件存储、订单管理、用户管理、密钥管理和支持模块等,同时,也提供了详细的手册文档,帮助用户理解和快速入驻平台。

  • 首页
  • 控制台
  • 注册登录
  • 文档中心

三、基于“DAMODEL丹摩超算平台”实现AI海报文案智能生成:

文案内容可以帮助企业更好地推广品牌和产品,还可以帮助企业更好地说明自己的产品和服务,为潜在客户提供解决方案,从而吸引更多的客户,促进企业的发展,文案在企业社交媒体运营中具有不可或缺的作用。

互联网产品的核心点就是流量为王,为了配合公司运营活动部门,主要负责公司的活动策划与方案落地,高效的激发流量并进行转化,经常需要使用小程序中的海报功能用于业务推广,而且活动的类型也比较繁杂,比如说库存清理、新品上市、阶梯式折扣、促销活动、秒杀活动等等。

在这里插入图片描述

但是,想要写好海报文案和分享文案需要很多的技巧,以确保信息清晰、吸引人,并能有效传达意图。同时,也需要花费大量的时间来思考,通常运营人员需要大量百度一些文案来参考,非常的耗费时间、人力、资源。

【思考设计方案】:

通过对llama-3.1模型的学习,发现能够通过给出一些提示词Prompt(提示词),即可以自然语言AI生成需要分析出需要的结果,那么是不是可以通过一些提示词来给AI来生成所需要的海报、分享的文案呢?顺着这个思路,我们大概梳理一下功能实现的步骤,思路是如下:

  • ①. 定义好提示词,即生成文案的主题、使用场景、受众等信息。
  • ②. 通过Ollama调用llama-3.1模型来AI生成相关需要的海报、分享的文案。

在这里插入图片描述


3.1 Ollama简介:

Ollama 是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计,提供了一个简单的API来创建、运行和管理模型,以及一个预构建模型库,可以轻松部署和运行各种大语言模型。

Ollama是一个开源的 LLM大语言模型便捷的管理和运维工具,专门设计用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够在本地环境快速实验、管理和部署最新大语言模型,包括如Llama 3、Phi 3、Mistral、Gemma等开源的大型语言模型。

  • ①. LLM全称(large language model)是大语言模型,LLM在自然语言处理(NLP)中有着广泛的应用,例如文本生成、对话系统和翻译等‌。
  • ②. Llama是由Meta AI开发的大语言模型,特点是高效性和多用途,适用于文本生成、问答系统和其他NLP任务‌。
  • ③. Ollama是LLM大语言模型(不限于Llama模型)便捷的管理和运维工具。

在这里插入图片描述

Ollama的主要特点是将模型权重、配置和数据捆绑到一个包中,从而优化了设置和配置细节,包括GPU使用情况,简化了在本地运行大型模型的过程,并且Ollama支持跨平台macOS、Linux操作系统和Windows平台。

  • Ollama官网
  • Ollama支持的LLM大语言模型
  • Ollama Linux下载链接
  • Ollama github

3.2 基于“DAMODEL丹摩超算平台”本地部署Ollama:

通过在基于“DAMODEL丹摩超算平台”创建一个GPU云实例(可以观看我视屏中的操过),创建完成GPU云实例后,想要进行云服务器的管理,有2种远程连接的方式:

  • ①. SSH连接:一种网络协议,主要用于通过加密方式在远程服务器和客户端之间安全地传输数据和执行命令,提供“密码”、“密钥对”2种方式登录。
  • ②. JupyterLab是Project Jupyter的基于Web的用户界面,为数据科学家提供了交互式开发环境,以便使用Jupyter Notebooks、代码和数据。云上开发环境,无需配置环境,既可灵活调试运行代码。

在这里插入图片描述

这里可以使用自己熟悉的连接工具来体验,视频中几种方式都有涉及。

首先打开Ollama官网下载,因为需要部署到“DAMODEL丹摩超算” 平台上面,所以,选择Linux版本的部署方案,需要通过CURL命令下载一个shell脚本并执行。

curl -fsSL https://ollama.com/install.sh | sh

但是实际过程中发现安装过程中非常的缓慢,可能网的影响吧,接下来使用“GitHub 文件加速”,分分钟即可下载完成,使用CURL命令,增加-o参数将shell安装脚本下载到本地。

curl -fsSL https://ollama.com/install.sh -o install.sh

打开install.sh,找到以下两个下载地址:

cat install.sh | grep "https://ollama.com/download"
# 搜索路径一
curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama \
"https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}"
# 搜索路径二
curl --fail --show-error --location --progress-bar "https://ollama.com/download/ollama-linux-amd64-rocm.tgz${VER_PARAM}" \

需要将搜索得到的路径依次替换修改为如下github加速的路径,我们以0.3.5的版本来安装,大家也可以尝试一下最新的版本:

curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama "https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.5/ollama-linux-amd64"
curl --fail --show-error --location --progress-bar "https://github.moeyy.xyz/https://github.com/ollama/ollama/releases/download/v0.3.5/ollama-linux-amd64-rocm.tgz"

在这里插入图片描述

再将install.sh的shell安装脚本赋予相关的权限,这里为了快速体验777权限,不过,在正式上线时,除了777权限,还可以考虑使用755和644权限比较稳妥:‌

chmod +777 install.sh
sh install.sh
>>> Downloading ollama...
######################################################################## 100.0%##O#-#
>>> Installing ollama to /usr/local/bin...>>> Creating ollama user...>>> Adding ollama user to video group...>>> Adding current user to ollama group...>>> Creating ollama systemd service...>>> Enabling and starting ollama service...>>>NVIDIAGPU installed.>>> The Ollama API is now available at 127.0.0.1:11434.>>> Install complete. Run "ollama"from the command line.

在这里插入图片描述

安装成功后执行ollama -v命令,查看版本信息,如果可以显示则代表已经安装好。当然,上面对于一些比较没有办法墙的用户,可以推荐一下进行手动安装,直接安装可执行程序即可。


3.3 基于“DAMODEL丹摩超算平台”本地运行Ollama提供API服务:

上面安装Ollama已经成功了,接下来,需要启动Ollama服务:

ollama serve

当Ollama启动成功后,接下来开始需要安转 Llama3,这时候一定要注意是新开一个窗口,不要把上面启动的服务关闭掉,执行run命令下载并且启动Llama3.1,等待下载完即可,下载完后会自动进入聊天对话模式。

最后在基于“DAMODEL丹摩超算平台”本地部署Ollama提供上述服务后,可以通过传入不同的主题提示词来生成不同的文案:

“创意主题是上海城市需要进行爱肯拿狗粮的中秋活动,需要生成海报文案,文案需要包括上海的一些地标名称,文案需要包含表情符号”

在这里插入图片描述

接下来经过输入不同的主题文案,来优化模型,得到更为贴近符合要求的文案,经过一些测试后,可以看到使用代码可以帮我们生成需要的文案格式代码,而且还有带表情符号的文案,如果在生产环境中还是需要不断的优化“tempate” – 即AI中需要用到的Prompt(提示词), 是一个持续迭代优化提示词的过程。

在这里插入图片描述

Prompt在自然语言处理中的应用非常广泛,从简单的问答系统到更复杂的机器翻译和文本生成,甚至包括在法律、金融和医疗领域中的应用。Prompt的设计不仅仅是简单地将问题转换为指令,而且要考虑到上下文、语法和语言风格等多个方面。

【文案生成方案落地】:

  • ①. 活动文案详情模块:在不同的活动创建文案记录时,根据提示词调用“DAMODEL丹摩超算平台”本地部署Ollama提供Llama 3.1在线API服务来AI生成相关需要的海报、分享的文案,并且处理返回的文本数据结构化。
  • ②. 活动文案审核模块:生成的AI文案,也可以进行修改,在不同的环节也可以进行拒绝和修改,或者AI重新批量生成一批、生成单个。

3.3 活动任务task生成:

上面已经部署了大语言模型Llama 3.1,现在根据活动主表,生成不同的任务,这些任务是有任务流程的,比如说文案环节就是编辑文案和确认文案,到了设计就是根据文案的内容,进行海报的设计,确认海报的内容,最终是项目人员确定发布。

在这里插入图片描述

相关Gin的代码,需要请求基于“DAMODEL丹摩超算平台”本地部署Ollama提供Llama 3.1大语言模型的API服务,从而拿到AI生成的文案结果,将结果塞入MySQL数据库中进行存储,后续针对不符合的AI数据:

  • ①. 可以通过“AI换一批”,将整个任务全部重新换一下。
  • ②. 可以通过其中一个子任务的“换一个”来重新针对一个子任务进行更换。
  • ③. 可以通过编辑按钮修改符合自己的需求的文案。
// 目标URL和POST数据
url :="http://cstl5hc7v38s739qf8v0-11434.agent.damodel.com/api/chat "// 定义请求体的结构
type RequestBody struct {
    Model    string     `json:"model"`
    Stream   bool       `json:"stream"`
    Messages []Message `json:"messages"`}

type Message struct {
    Role    string `json:"role"`
    Content string `json:"content"`}// 发送POST请求
resp, err := http.Post(url,"application/json", bytes.NewBuffer(postData))if err != nil {panic(err)}
defer resp.Body.Close()// 检查HTTP状态码if resp.StatusCode == http.StatusOK {// 读取响应体
    body, err := ioutil.ReadAll(resp.Body)if err != nil {panic(err)}// 解析响应数据var response NIMResponseData
    err = json.Unmarshal(body,&response)if err != nil {panic(err)}// 检查返回码是否为20000if NIMResponseData.Code ==20000{// 创建数据库记录
        record := TaskDetails{ID: Task.ID,
            PosterText: NIMResponseData.Result,}// 将记录保存到数据库
        db.Create(&record)
        fmt.Println("Record saved to database")}else{
        fmt.Printf("Response code is not 200, it's %d\n", response.Code)}}else{
    fmt.Printf("HTTP request failed with status code %d\n", resp.StatusCode)}

以下为使用postman工具,可以进行接口的测试,可以通过发送POST请求大模型服务生成的AI海报文案的接口响应,因为我们的代码是API接口的形式,所以,不能使用传统的流式是数据以连续的数据流形式输出,而不是一次性生成完整的结构化数据,需要将stream参数改为False,再接收数据。

在这里插入图片描述

通过对基于“DAMODEL丹摩超算平台”的大语言模型Llama3.1结合起来,可以使用AI的文本处理的能力来完成一个AI海报文案、分享文案的实践,从而提高运营文案产出的效率,可以降低人工的成本。

在这里插入图片描述


四、基于“DAMODEL丹摩超算平台”上传大文件方案最佳实践:

4.1 “JupyterLab可视化调试工具”大文件上传方案:

首先“DAMODEL丹摩超算平台”提供了JupyterLab可视化调试工具,想着就使用自带的上传文件的方式来上传文件,在工作的过程中,很多训练集数据或者模型也是会很大,这里为了演示ollama手工安装的效果,下载了这个安装包有大概1.5GB大小,通过jupyterLab可视化调试工具上传文件发现:

  • ①. 点击上传文件后,在下面任务状态栏并没有显示上传文件的进度条。
  • ②. 在tree菜单栏中,或者在该目录中ls查看一下,确实存在这个文件,但是并不能确定这个文件是否上传成功,在解压时,也是提示解压失败,提示文件损坏。
  • ③. 上传的速度也是未知,并不知道多久显示可以上传完成。

在这里插入图片描述


4.2 “DAMODEL丹摩超算平台”控制台的“文件存储”大文件上传方案:

登录到“DAMODEL丹摩超算平台”控制台中,在“资源” -> “文件存储”功能模块中,点击“上传文件”后,可以点击“上传文件”进行单击批量选择文件或拖动文件/文件夹到此区域进行上传。

比如我上传一个ollama的安装包,期间测试是有几次直接显示红色提示,表示上传失败了,点击上传后,又需要从头开始上传,特别是大文件比较浪费时间,另外,在删除单个文件时,也建议加个二次弹框确认一下。

  • ①. 点击上传文件后,如果大文件在中途上传失败,会显示红色进度条(正常是蓝色的),重新点击上传的话,还是从头开始传,没有断点续传的功能。
  • ②. 可以进行多个文件进行上传功能。
  • ③. 上传的速度也是未知,并不知道多久显示可以上传完成。

在这里插入图片描述


4.3 大文件SCP上传方案:

大文件上传在本地使用SCP命令,是一种基于SSH(Secure Shell)的文件传输协议,可以安全地在本地和远程主机之间复制文件:

scp -o StrictHostKeyChecking=no -r -P{端口}{本地目录} [email protected]:{开发机目录}
  • ①. -o StrictHostKeyChecking=no: 用于禁用SSH的严格主机密钥检查。通常首次连接到一个新的SSH服务器时,系统会提示确认服务器的公钥。使用此选项,SCP将不会提示确认,而是自动接受服务器的公钥。
  • ②. -r: 表示SCP递归地复制目录及其内容。如果{本地目录}是一个目录,SCP将复制该目录及其包含的所有文件和子目录。
  • ③. -P {端口}: 允许指定远程主机的SSH端口。
  • ④. {开发机目录}: 远程主机上的目标路径,SCP将把文件或目录复制到这个位置,替换为实际的远程路径。

不过,看到SCP命令也是网速不高,最高是1.4MB/s,对于这种速度肯定不太能满足大文件的上传需求。

在这里插入图片描述


4.4 大文件OSS上传处理方案:

通过ollama安装大语言模型Llama3.1时,我发现一个很好的Idea,就是下载的速度非常的快,最大可以接近83MB/s,可以说下载的速度非常的快速。

在这里插入图片描述

那我是不是可以想像一下,我将需要上传的文件上传到OSS仓库中,再使用wget下载是不是会快一点呢?

在这里插入图片描述

通过新建一个OSS,将文件先上传到OSS中,速度也是比较快,不到10分钟就上传完了,然后,点击这个文件的“详情”会出现一下URL,使用 OSS 默认域名访问 html、图片资源,会有以附件形式下载的情况,最后,通过wget的方式下载,可以达到最高108M的下载速度。


五、基于“DAMODEL丹摩超算平台”AI应用赋能的场景:

AI训练是通过不断地学习和调整自身,以提高其处理能力和决策准确性,这通常依赖于大规模的神经网络和复杂的机器学习算法,通过反向传播算法不断调整网络中的权重和偏置参数,以最小化损失函数,从而提高模型的预测准确性‌。

AI训练是指利用机器学习和深度学习等技术,通过对大量数据的输入和应对,使计算机程序能够依据数据的模式和规律进行自动学习和优化,其主要目的是提升机器的智能化水平,使其能够更好地完成复杂的任务,提高工作效率,降低成本‌。

为了更好的贴近公司业务需求的,进行AI训练的主要原因是为了提高其处理能力和决策准确性,可以通过大量数据的输入和应对,使计算机程序能够自动学习和优化,从而完成特定的任务。

接下来我们使用“GAN”图像生成式对抗网络(Generative Adversarial Networks,GAN)是一种生成式机器学习模型。


5.1 “GAN”图像生成:

GAN(生成对抗网络)图像生成的基本原理‌是通过两个神经网络的竞争来生成逼真的数据。GAN由生成器和判别器两部分组成。生成器的目标是生成尽可能逼真的图像来迷惑判别器,而判别器的目标是区分生成的图像和真实的图像。通过这种动态的“博弈过程”,生成器逐渐能够生成足以“以假乱真”的图像,而判别器难以判断生成的图像是否真实。‌

在这两个部分中,分别获取训练过程中的损失,并在每轮迭代结束时进行测试,将隐码批量推送到生成器中,以直观地跟踪生成器Generator 的训练效果。

# 生成器计算损失过程
def generator_forward(test_noises):
    fake_data =net_g(test_noises)
    fake_out =net_d(fake_data)
    loss_g =adversarial_loss(fake_out, ops.ones_like(fake_out))return loss_g

# 判别器计算损失过程
def discriminator_forward(real_data, test_noises):
    fake_data =net_g(test_noises)
    fake_out =net_d(fake_data)
    real_out =net_d(real_data)
    real_loss =adversarial_loss(real_out, ops.ones_like(real_out))
    fake_loss =adversarial_loss(fake_out, ops.zeros_like(fake_out))
    loss_d = real_loss + fake_loss
    return loss_d

# 梯度方法
grad_g = ms.value_and_grad(generator_forward, None, net_g.trainable_params())
grad_d = ms.value_and_grad(discriminator_forward, None, net_d.trainable_params())

def train_step(real_data, latent_code):
    # 计算判别器损失和梯度
    loss_d, grads_d =grad_d(real_data, latent_code)optimizer_d(grads_d)
    loss_g, grads_g =grad_g(latent_code)optimizer_g(grads_g)return loss_d, loss_g

# 保存生成的test图像
def save_imgs(gen_imgs1, idx):for i3 inrange(gen_imgs1.shape[0]):
        plt.subplot(5,5, i3 +1)
        plt.imshow(gen_imgs1[i3,0,:,:]/2+0.5, cmap="gray")
        plt.axis("off")
    plt.savefig(image_path +"/test_{}.png".format(idx))

# 设置参数保存路径
os.makedirs(checkpoints_path, exist_ok=True)
# 设置中间过程生成图片保存路径
os.makedirs(image_path, exist_ok=True)

net_g.set_train()
net_d.set_train()

# 储存生成器和判别器loss
losses_g, losses_d =[],[]for epoch inrange(total_epoch):
    start = time.time()for(iter, data)inenumerate(mnist_ds):
        start1 = time.time()
        image, latent_code = data
        image =(image -127.5)/127.5  # [0,255]->[-1,1]
        image = image.reshape(image.shape[0],1, image.shape[1], image.shape[2])
        d_loss, g_loss =train_step(image, latent_code)
        end1 = time.time()if iter %10==0:print(f"Epoch:[{int(epoch):>3d}/{int(total_epoch):>3d}], "
                  f"step:[{int(iter):>4d}/{int(iter_size):>4d}], "
                  f"loss_d:{d_loss.asnumpy():>4f} , "
                  f"loss_g:{g_loss.asnumpy():>4f} , "
                  f"time:{(end1 - start1):>3f}s, "
                  f"lr:{lr:>6f}")

    end = time.time()print("time of epoch {} is {:.2f}s".format(epoch +1, end - start))

    losses_d.append(d_loss.asnumpy())
    losses_g.append(g_loss.asnumpy())

    # 每个epoch结束后,使用生成器生成一组图片
    gen_imgs =net_g(test_noise)save_imgs(gen_imgs.asnumpy(), epoch)

    # 根据epoch保存模型权重文件
    if epoch %1==0:save_checkpoint(net_g, checkpoints_path +"/Generator%d.ckpt"%(epoch))save_checkpoint(net_d, checkpoints_path +"/Discriminator%d.ckpt"%(epoch))

5.2 不同配置训练模型的比较:

通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试,将隐码批量推送到生成器中,以直观地跟踪生成器 Generator 的训练效果。以下为不同配置的逐渐消耗的时间,可以看到从最低的配置,需要6.3小时,但是可以看到使用H800显卡专业型算力时,只需要0.6小时,可以大大的简化训练的时间。

在这里插入图片描述

以下为Tesla-P40 CPU1核算力配置,通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试结果,可以看到需要一共训练200次,一次花费的时间115s左右,相当于23000秒,最后换算为6.388小时。

在这里插入图片描述

以下为NVIDIA-GeForce-RTX-4090 CPU1核算力配置,通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试结果,可以看到需要一共训练200次,一次花费的时间48s左右,相当于9600秒,最后换算为2.666小时。

在这里插入图片描述

以下为Tesla-P40 CPU8核算力配置,通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试结果,可以看到需要一共训练200次,一次花费的时间28s左右,相当于5600秒,最后换算为1.555小时。

在这里插入图片描述

以下为NVIDIA-H800-PCIe CPU3核算力配置,通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试结果,可以看到需要一共训练200次,一次花费的时间12s左右,相当于2400秒,最后换算为0.666小时。

在这里插入图片描述


这样看来如果需要有临时需要训练,如果本地没有这么高级的配置,或者有临时需要看到结果的体验,可以利用高配置的算力来进行训练。


5.3 训练压力测试的趋势:

以下为Tesla-P40 CPU1核算力配置,通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试结果的监控趋势,可以看到CPU使用率达到158.65%,内存最高使用率是15.96%。

在这里插入图片描述

以下为NVIDIA-H800-PCIe CPU3核算力配置,通过训练生成器获取训练过程中的损失,并在每轮迭代结束时进行测试结果的监控趋势,可以看到CPU使用率达到38.75%,内存只有0.2%。

在这里插入图片描述


六、基于“DAMODEL丹摩超算平台”公司AIGC业务降本增效之路考量:

AIGC是一种新的人工智能技术,它的全称是Artificial Intelligence Generative Content,即人工智能生成内容。现阶段AIGC多以单模型应用的形式出现,主要分为文本生成、图像生成、视频生成、音频生成,其中文本生成成为其他内容生成的基础。

通过基于“DAMODEL丹摩超算平台”的一些AI的应用学习,实践了AI文案、AI图片生成、AI LLM模型的案例,可以体验到简易部署、便捷维护,减少工作量、步骤繁琐、效率低和时间成本的问题,同时提升系统整体性能和用户体验。

在这里插入图片描述


6.1 自己从0到1搭建ChatGLM2-6B模型对比:

前几年,AI应用比较火热,本人自己也一直在探索AI应用摸索,自己也尝试着搭建与部署ChatGLM2-6B模型项目时,当时,花费了大量的时间摸索,其中还要包括硬件配置比较高,综合考量了一下,可以看出以下的对比,“自己选购部署”与基于“DAMODEL丹摩超算平台”在以下7点存在业务痛点,基于“DAMODEL丹摩超算平台”大大的降低了使用的门槛、降低了学习的成本,让更多的企业、开发者能够加入到AI应用的行业中来。

在这里插入图片描述


6.2 基于“DAMODEL丹摩超算平台”的SWOT分析:

通过基于“DAMODEL丹摩超算平台”从0到1的学习与实践,可以轻松利用DAMODEL平台提供的强大算力资源,专注于项目开发,而无需担心复杂的服务器配置问题,并且通过多种丰富的配置算力,为AI开发者提供了理想的工作台,同时,结合自己的一些体验与实践,和自己企业内部的一些需求调研过程,也是基于“DAMODEL丹摩超算平台”在实际应用中有一些SWOT的思考:

在这里插入图片描述

同时,在以下体验过程中,首先是查看官方提供的在线文档,然后,体验了一下基础镜像自带的一些AI应用,并且使用JupyterLab进行互动式交互体验中,以及简单易用的控制台操作的实践,个人觉得非常提效的几个点:

在这里插入图片描述

同时,在体验AIGC的应用中,可以通过基于“DAMODEL丹摩超算平台”的应用大幅提高内容生成的速度,节省时间和资源,基于“DAMODEL丹摩超算平台”可以轻松应对大规模的内容生成需求。
序号分类描述1提升生产效率基于“DAMODEL丹摩超算平台”大幅提高生产效率,进一步优化生产流程,提高生产效率。2降低运营成本基于“DAMODEL丹摩超算平台”可以降低企业的运营成本,帮助企业做出更加精准的生产决策,
从而降低生产成本,提高数据处理能力和响应速度,进一步降低企业的运营成本。3优化资源利用基于“DAMODEL丹摩超算平台”可以帮助企业优化资源利用,可以帮助企业更好地规划生产和资源分配,提高资源利用效率。
当然,并非是AI取代了人,而是会用AI对话模型、AI绘画工具的人,替换掉不会驾驭AI工具,传统的作业方式的人。让使用基于“DAMODEL丹摩超算平台”的在企业中,实现“一个人顶一个组”、“支撑以前2-3倍的业务体量”。

在这里插入图片描述

以上是公司经过了初创期、爬坡期,在行业内快速的吸引客户,并且占有一定的业务量,后续在原有的业务基础上,提高市场的竞争力,以及对公司一些CostDown原则的实施,希望能通过更多的AIGC的工具链路,帮助企业实施AI的战略布局,事实上,通过以上对AIGC的一些方案落地,可以看到在原有的人工传统作业方式,通过AIGC的工具体系,来加速业务的处理效率。

七、总结:

‌DAMODEL(丹摩智算)‌是专为AI打造的智算云,一款专为高性能计算需求设计的云端解决方案,致力于提供丰富的算力资源与基础设施,助力AI应用的开发、训练和部署。

  • ①. 它支持多种高性能GPU资源,如RTX4090、H800SXM、L40S、P40等,用户可以根据需求灵活租赁,无需购买和维护昂贵的硬件设备‌。
  • ②. 高性能计算资源‌:支持多种高性能GPU,包括RTX4090、H800SXM、L40S、P40等,满足不同层次的开发需求‌.
  • ③. 灵活租赁‌:用户可以根据自己的需求灵活租赁计算资源,无需购买和维护昂贵的硬件设备。
  • ④. AI应用部署‌:支持AI模型的训练、微调、部署和评测,适用于各种深度学习框架,如Paddle、TensorRT、TensorFlow、PyTorch等。

在这里插入图片描述

DAMODEL平台不断更新和优化,提供最新的GPU资源和深度学习框架支持。通过了丰富的算力资源和灵活的租赁方式,极大地降低了用户的使用成本。此外,DAMODEL还经常推出GPU折扣活动和福利,吸引了大量用户使用其平台进行AI开发和应用,平台将继续推出更多高性能计算资源,并优化用户体验,以满足不断增长的高性能计算需求‌。


本文转载自: https://blog.csdn.net/wanmeijuhao/article/details/143775491
版权归原作者 完美句号 所有, 如有侵权,请联系我们删除。

“丹摩平台 | 基于丹摩(DAMODEL)超算平台应用助力电商企业AI海报文案驱动的最佳实践落地(一)”的评论:

还没有评论