一、Spring Cloud Alibaba AI 介绍
Spring AI
是
Spring
官方社区项目,旨在简化
Java AI
应用程序开发,让
Java
开发者像使用
Spring
开发普通应用一样开发
AI
应用。而
Spring Cloud Alibaba AI
是阿里以
Spring AI
为基础,并在此基础上提供阿里云通义系列大模型全面适配,让用户在
5
分钟内开发基于通义大模型的
Java AI
应用。
Spring Cloud Alibaba AI
目前基于
Spring AI 0.8.1
版本
API
完成通义系列大模型的接入。通义接入是基于阿里云 灵积模型服务,灵积模型服务建立在“模型即服务”(
Model-as-a-Service
,
MaaS
)的理念基础之上,围绕
AI
各领域模型,通过标准化的
API
提供包括模型推理、模型微调训练在内的多种模型服务。
在当前最新版本中,
Spring Cloud Alibaba AI
主要完成了几种常见生成式模型的适配,包括对话、文生图、文生语音等,开发者可以使用
Spring Cloud Alibaba AI
开发基于通义的聊天、图片或语音生成 AI 应用,框架还提供
OutParser、Prompt Template、Stuff
等实用能力。
官方文档:https://sca.aliyun.com/docs/2023/user-guide/ai/overview/?spm=5176.29160081.0.0.1f467a3ctbrdEJ
二、Spring Cloud Alibaba AI 实践
2.1 环境构建
新建
SpringBoot
项目,
SpringBoot
版本需要
3.x
以上,
jdk
版本
17
及以上。
这里我使用的版本信息如下:
spring-boot: 3.2.4
spring-cloud: 2023.0.1
spring-cloud-alibaba: 2023.0.1.0
jdk: 17
pom
中增加相关依赖,整体
pom
内容如下:
<?xml version="1.0" encoding="UTF-8"?><projectxmlns="http://maven.apache.org/POM/4.0.0"xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><groupId>com.example</groupId><artifactId>ai-demo1</artifactId><version>0.0.1-SNAPSHOT</version><name>ai-demo1</name><description>ai-demo1</description><properties><java.version>17</java.version><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding><project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding><spring-boot.version>3.2.4</spring-boot.version><spring-cloud.version>2023.0.1</spring-cloud.version><spring-cloud-alibaba.version>2023.0.1.0</spring-cloud-alibaba.version></properties><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><scope>test</scope></dependency><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-ai</artifactId></dependency></dependencies><dependencyManagement><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-dependencies</artifactId><version>${spring-boot.version}</version><type>pom</type><scope>import</scope></dependency><dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-dependencies</artifactId><version>${spring-cloud.version}</version><type>pom</type><scope>import</scope></dependency><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-alibaba-dependencies</artifactId><version>${spring-cloud-alibaba.version}</version><type>pom</type><scope>import</scope></dependency></dependencies></dependencyManagement><repositories><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository></repositories><build><plugins><plugin><groupId>org.apache.maven.plugins</groupId><artifactId>maven-compiler-plugin</artifactId><version>3.8.1</version><configuration><source>17</source><target>17</target><encoding>UTF-8</encoding></configuration></plugin><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</artifactId><version>${spring-boot.version}</version><configuration><mainClass>com.example.aidemo1.AiDemo1Application</mainClass></configuration><executions><execution><id>repackage</id><goals><goal>repackage</goal></goals></execution></executions></plugin></plugins></build></project>
2.2 申请 Api Key
申请
Api key
可以参考下面官方介绍:
可以将将申请的
key
放在环境变量
SPRING_CLOUD_AI_TONGYI_API_KEY
中:
exportSPRING_CLOUD_AI_TONGYI_API_KEY=sk-a3dxxxx
或者配置在
application.yml
配置文件中:
spring:cloud:ai:tongyi:api-key: sk-a3dxxxx
2.3 文本交互对接
@Slf4j@SpringBootTestclassAiDemo1ApplicationTests{@ResourceChatClient chatClient;@TestvoidchatTest(){String message ="你好,介绍一下你自己";Prompt prompt =newPrompt(newUserMessage(message));String content = chatClient.call(prompt).getResult().getOutput().getContent();
log.info(content);}}

2.4 文本交互-流式输出
@Slf4j@SpringBootTestclassAiDemo1ApplicationTests{@ResourceStreamingChatClient streamingChatClient;@TestvoidchatStreamTest(){String message ="你好,介绍一下你自己";Prompt prompt =newPrompt(newUserMessage(message));
streamingChatClient.stream(prompt).flatMap(chatResponse ->Flux.fromIterable(chatResponse.getResults())).map(content -> content.getOutput().getContent()).doOnNext(System.out::println).last().block();}}

2.5 文本生成图片
@Slf4j@SpringBootTestclassAiDemo1ApplicationTests{@ResourceImageClient imageClient;@TestvoidtestToImageTest(){String message ="生成一幅夕阳下程序员看海的图片";ImagePrompt prompt =newImagePrompt(message);String url = imageClient.call(prompt).getResult().getOutput().getUrl();
log.info(url);}}

图片内容如下:

版权归原作者 小毕超 所有, 如有侵权,请联系我们删除。