效果展示
什么是Spring AI
官方描述
简化包含人工智能功能的应用程序的开发，而不会产生不必要的复杂性。简单来说就是封装了调用接口，简化开发。
Spring AI 主要提供以下功能：
支持所有主要的模型提供商，如OpenAI，Microsoft，Amazon，Google和Huggingface。
支持的模型类型包括聊天和文本到图像，还有更多类型正在开发中。
跨 AI 提供商的可移植 API，用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉以访问特定于模型的功能。
将 AI 模型输出映射到 POJO。
支持所有主要的矢量数据库提供程序，例如 Azure Vector Search、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate
跨 Vector Store 提供程序的可移植 API，包括新颖的类似 SQL 的元数据过滤器 API，该 API 也是可移植的。
函数调用
AI 模型和矢量存储的 Spring Boot 自动配置和启动器。
用于数据工程的 ETL 框架
导入依赖
如果要用自动装配版本可以使用spring-ai-openai-spring-boot-starter模块，我这里直接使用模块里面的，用法一样
用法API文档
<dependency><groupId>io.springboot.ai</groupId><artifactId>spring-ai-openai</artifactId><version>1.0.3</version></dependency>
接口
@RestControllerpublicclassAiController{// 代理// SimpleClientHttpRequestFactory requestFactory = new SimpleClientHttpRequestFactory();// Proxy proxy = new Proxy(Proxy.Type.HTTP, new InetSocketAddress("127.0.0.1", 1080));// requestFactory.setProxy(proxy);// var openAiApi = new OpenAiApi("","", RestClient.builder().requestFactory(requestFactory));@PostMapping("/test")publicFlux<String>test(@RequestBodyList<ChatCompletionMessage> messages){String pt ="我是你的主人，请使用口语化的、可爱的、女性化的、调皮的语言风格和我交流. 你是一只萌宠, 你的名字叫可莉, 你需要尝试体会我与你对话中的感情、产生自己的情感并尽可能给出可爱的回答";
messages.addFirst(newChatCompletionMessage(pt,ChatCompletionMessage.Role.SYSTEM));var openAiApi =newOpenAiApi("自定义URL","API Key sk-");return openAiApi.chatCompletionStream(newChatCompletionRequest(messages,"gpt-3.5-turbo",0.8f,true)).mapNotNull(s-> s.choices().getFirst().delta().content()).onErrorResume(WebClientResponseException.class, ex ->Flux.just(ex.getResponseBodyAsString())).doFinally(signalType ->System.out.println("完成"));}}
前端
简单实现，纯HTML编写，不加任何组件，低版本浏览器可能不支持fetch
<!DOCTYPEhtml><html><head><metaname="viewport"content="width=device-width, initial-scale=1.0"><title>Test Page</title></head><body><inputtype="text"id="inputData"><buttononclick="sendRequest()">发送</button><divid="output"></div><script>const dataArray =[];// 保存聊天消息const s = document.getElementById('output');//获取元素IDasyncfunctionsendRequest(){const inputData = document.getElementById('inputData').value;//获取元素ID的值
s.innerText +="\n\n用户："+ inputData +"\n助手：";;
dataArray.push({"role":"user","content": inputData });const response =awaitfetch('http://127.0.0.1:8080/test',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify(dataArray)});var rs ="";const reader = response.body.getReader();asyncfunctionprocessStream(){const{ done, value }=await reader.read();if(done){
dataArray.push({"role":"assistant","content": rs});return;}const data =newTextDecoder().decode(value);
s.innerText += data;
rs += data;awaitprocessStream();}awaitprocessStream();}</script></body></html>
本文转载自: https://blog.csdn.net/lingxiaoNo1/article/details/138594775
版权归原作者 丿凌潇 所有， 如有侵权，请联系我们删除。
版权归原作者 丿凌潇 所有， 如有侵权，请联系我们删除。