0
0

【2023】java使用WebClient实现chatGPT调用建立web socket连接

💻目录

一、介绍

通过java实现对chatGPT的API接口实现websocket流式输出以及接口调用两种方式代码

1、使用技术

使用到的技术包括

WebClient

、

webSocket

加

thymeleaf
  • WebClient：客户端的使用可以开 🍅java http客户端
  • webSocket：可以看🥒webSokcet 使用
  • thymeleaf：可以网上直接找教程，我使用的比较简单会掉用就行，或者使用html静态页面也可以

2、效果

  • websocket的具体实现效果如下，非专业前端，页面比较简陋，可以自行优化页面在这里插入图片描述
  • 接口调用在这里插入图片描述

二、代码

1、前端代码

<!DOCTYPE html><html><head><meta charset="utf-8"><title>Java后端WebSocket的Tomcat实现</title><script type="text/javascript" src="js/jquery.min.js"></script></head><body><strong>ChatGPT使用</strong><br /><input id="text" type="text" onkeydown="checkEnter(event)"/><button onclick="send()">发送消息</button><hr /><button onclick="closeWebSocket()">关闭WebSocket连接</button><hr /><div id="message"></div></body><script type="text/javascript">var websocket =null;//判断当前浏览器是否支持WebSocketif('WebSocket' in window){//改成你的地址
        websocket =newWebSocket("ws://localhost:8088/websocket/100");}else{alert('当前浏览器 Not support websocket')}//连接发生错误的回调方法
    websocket.onerror = function (){setMessageInnerHTML("WebSocket连接发生错误");};//连接成功建立的回调方法
    websocket.onopen = function (){setMessageInnerHTML("WebSocket连接成功");}varU01data,Uidata,Usdata//接收到消息的回调方法
    websocket.onmessage = function (event){
        console.log(event);if(event.data !=="conn_success"){setMessageInnerHTML(event.data);// setMessageInnerHTML(event);setechart()}}//连接关闭的回调方法
    websocket.onclose = function (){setMessageInnerHTML("WebSocket连接关闭");}// //监听窗口关闭事件，当窗口关闭时，主动去关闭websocket连接，防止连接还没断开就关闭窗口，server端会抛异常。
    window.onbeforeunload = function (){closeWebSocket();}//将消息显示在网页上
    function setMessageInnerHTML(innerHTML){
        document.getElementById('message').innerHTML += innerHTML ;}//关闭WebSocket连接
    function closeWebSocket(){
        websocket.close();}//发送消息
    function send(){var message = document.getElementById('text').value;
        websocket.send('{"msg":"' + message + '"}');setMessageInnerHTML("<br>--------------发送消息："+ message +"<br>");
        document.getElementById('text').value =null;}

    function checkEnter(event){if(event.keyCode ===13){send();}}</script></html>

2、后端代码

2.1、maven依赖

<!--thymeleaf模版的--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-thymeleaf</artifactId><!--websocket的--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-websocket</artifactId></dependency><!--webClient--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-webflux</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.projectlombok</groupId><artifactId>lombok</artifactId></dependency><dependency><groupId>cn.hutool</groupId><artifactId>hutool-all</artifactId><version>5.8.22</version></dependency>

2.2、model

2.2.1、请求接口的格式

如果想简单的话也可以不用封装对象，直接使用json
在这里插入图片描述
在这里插入图片描述

  • ChatGptRequestParameter
@Data@NoArgsConstructor@AllArgsConstructorpublicclassChatGptRequestParameter{privateString model ="gpt-3.5-turbo-16k-0613";//     是否支持流式输出privateboolean stream =true;//    请求对象数组List<ChatGptMessage> messages=newArrayList();publicvoidaddMessages(ChatGptMessage message){this.messages.add(message);}}
  • ChatGptMessage
@Data@NoArgsConstructor@AllArgsConstructorpublicclassChatGptMessageimplementsSerializable{String role;String content;}
2.2.2、响应数据对象

在这里插入图片描述
在这里插入图片描述

  • ChatGptResponseParameter
@Data@NoArgsConstructor@AllArgsConstructorpublicclassChatGptResponseParameterimplementsSerializable{String id;String object;String created;String model;Usage usage;List<Choices> choices;String system_fingerprint;}
  • Choices
@Data@NoArgsConstructor@AllArgsConstructorpublicclassChoicesimplementsSerializable{ChatGptMessage delta;String finish_reason;Integer index;String logprobs;}
  • ChatGptMessage
@Data@NoArgsConstructor@AllArgsConstructorpublicclassChatGptMessageimplementsSerializable{String role;String content;}

2.3、工具类

2.3.1、🔴使用WebClient调用
chatgpt

方法

@Component@Slf4jpublicclassWebChatGPT{/**
     * 自己chatGpt的ApiKey
     */privateString apiKey ="sk-***";privateChatGptRequestParameter chatGptRequestParameter =newChatGptRequestParameter();/**
     * 推送
     * @param session webSocket会话对象
     * @param str 请求数据
     * @return Flux<String>
     */publicFlux<String>getAnswer(Session session,String str){ChatGptMessage chatGptMessage =newChatGptMessage("user", str);//        保存消息，用于记录前面的消息，方便上下文记忆，因为3.5不能自动实现上下文记忆
        chatGptRequestParameter.addMessages(chatGptMessage);returnwebClient().post().accept(MediaType.TEXT_EVENT_STREAM)//接收text/event-stream流的数据.body(BodyInserters.fromValue(chatGptRequestParameter))//参数.retrieve()//执行请求并获取响应结果.bodyToFlux(String.class)// 将响应体转换为 Flux 类型，这里是将 SSE 流转换为字符串类型。.map(s ->{//对每个响应元素进行处理
                    log.info("Gpt输出：{}", s);if(!Objects.equals(s,"[DONE]")){ChatGptMessage message =JSONUtil.toBean(s,ChatGptResponseParameter.class).getChoices().get(0).getDelta();String content = message.getContent();if(content !=null){try{if(session !=null){//                                通过websocket回写到页面
                                    session.getBasicRemote().sendText(content);}

                                log.info("Gpt输出：{}", s);}catch(IOException e){
                                e.printStackTrace();}return content;}}return"";}).onErrorResume(WebClientResponseException.class, ex ->Flux.just(ex.getResponseBodyAsString()))//请求失败.doFinally(signalType -> log.info("完成{}", signalType));//在 Flux 完成时执行，无论是成功还是错误，都会打印日志表示请求完成。}privateWebClientwebClient(){returnWebClient.builder()//                .clientConnector(new ReactorClientHttpConnector(//                        HttpClient.create().proxy(proxy -> proxy.type(ProxyProvider.Proxy.HTTP).host("127.0.0.1").port(1080)) //代理//                )).defaultHeader(HttpHeaders.ACCEPT,MediaType.APPLICATION_JSON_VALUE).defaultHeader(HttpHeaders.CONTENT_TYPE,MediaType.APPLICATION_JSON_VALUE+";charset=UTF-8").defaultHeader(HttpHeaders.AUTHORIZATION,"Bearer "+ apiKey).baseUrl("https://api.openai.com/v1/chat/completions")//官方api请求地址.build();}}
2.3.2、🟠 webSocket连接对话方法

通过该方法和html页面建立websocket连接

@Slf4j@Service@ServerEndpoint("/websocket/{uid}")@ComponentpublicclassWebSocketServer2{//连接建立时长privatestaticfinallong sessionTimeout =600000;// 用来存放每个客户端对应的WebSocketServer对象privatestaticMap<String,WebSocketServer2> webSocketMap =newConcurrentHashMap<>();// 与某个客户端的连接会话，需要通过它来给客户端发送数据privateSession session;// 接收idprivateString uid;privatestaticWebChatGPT webChatGPT;static{
         webChatGPT =SpringUtil.getBean(WebChatGPT.class);}/**
     * 连接建立成功调用的方法
     * @author zhengfuping
     * @date 2023/8/22
     * @param session
     * @param uid
     */@OnOpenpublicvoidonOpen(Session session ,@PathParam("uid")String uid){
        session.setMaxIdleTimeout(sessionTimeout);this.session = session;this.uid = uid;if(webSocketMap.containsKey(uid)){
            webSocketMap.remove(uid);}
        webSocketMap.put(uid,this);
        log.info("websocket连接成功编号uid: "+ uid +"，当前在线数: "+getOnlineClients());try{// 响应客户端实际业务数据！sendMessage("conn_success");}catch(Exception e){
            log.error("websocket发送连接成功错误编号uid: "+ uid +"，网络异常!!!");}}/**
     * 连接关闭调用的方法
     * @author zhengfuping
     * @date 2023/8/22
     */@OnClosepublicvoidonClose(){try{if(webSocketMap.containsKey(uid)){
                webSocketMap.remove(uid);}
            log.info("websocket退出编号uid: "+ uid +"，当前在线数为: "+getOnlineClients());}catch(Exception e){
            log.error("websocket编号uid连接关闭错误: "+ uid +"，原因: "+ e.getMessage());}}/**
     * 收到客户端消息后调用chatGpt的方法
     * @param message 客户端发送过来的消息
     * @param session
     */@OnMessagepublicvoidonMessage(String message,Session session){try{JSON parse =JSONUtil.parse(message);String msg = parse.getByPath("msg").toString();if(StrUtil.isNotEmpty(msg)){//                调用Flux<String> answer = webChatGPT.getAnswer(session, msg);//                 触发实际的请求操作
                answer.subscribe();}}catch(Exception e){
            log.error("websocket发送消息失败编号uid为: "+ uid +",报文: "+ message);}}/**
     * 发生错误时调用
     * @param session
     * @param error
     */@OnErrorpublicvoidonError(Session session,Throwable error){
        log.error("websocket编号uid错误: "+this.uid +"原因: "+ error.getMessage());
        error.printStackTrace();}/**
     * 实现服务器主动推送
     * @author yingfeng
     * @date 2023/8/22 10:11
     * @Param * @param null
     * @return
     */publicvoidsendMessage(String message)throwsIOException{this.session.getBasicRemote().sendText(message);}/**
     * 获取客户端在线数
     * @author zhengfuping
     * @date 2023/8/22 10:11
     * @param
     */publicstaticsynchronizedintgetOnlineClients(){if(Objects.isNull(webSocketMap)){return0;}else{return webSocketMap.size();}}}

2.4、Controller

  • 跳转thymeleaf页的接口
@ControllerpublicclassChatWeb{@RequestMapping("/webSocket")publicStringwebSocket(){return"webSocket";}}
  • ChatGptController：页面请求访问
@RestController@RequestMapping("/chat")publicclassChatGptController{@ResourceprivateWebChatGPT webChatGPT;@GetMapping(value ="/stringFlux", produces ="application/json; charset=utf-8")publicFlux<String>stringFlux(String c){Flux<String> flux = webChatGPT.getAnswer(null,c);return flux;}}
标签： AI编程 chatgpt java
本文转载自: https://blog.csdn.net/weixin_52315708/article/details/135715789
版权归原作者 方渐鸿 所有， 如有侵权，请联系我们删除。
登录后发布评论

“【2023】java使用WebClient实现chatGPT调用建立web socket连接”的评论:

还没有评论
关于作者
...
overfit同步小助手
文章同步
相关阅读

机器人技术在安全领域的重要作用

安全学习记录——网络篇（一）

图腾柱PFC：HP1010为您的电动两轮车之旅提供绿色，高效，安全的动力

单元测试数据库回滚问题

这才是单元测试，之前我们都错了

【C语言基础】：字符函数和字符串函数

ChatGPT-Next-Web SSRF漏洞+XSS漏洞复现(CVE-2023-49785)

文章导航