0


【AI大模型应用开发】Moonshot API 入门,完全平替 OpenAI API ?

大家好,我是 同学小张,持续学习C++进阶知识和AI大模型应用实战案例,持续分享,欢迎大家点赞+关注,共同学习和进步。


月之暗面(moonshot)最近很火呀,本文我们紧跟一下实事,看下Moonshot AI的API调用,以及在LangChain中如何使用。

文章目录

0. 前期准备

官网,注册账号,登录,申请API KEY

申请API KEY:https://platform.moonshot.cn/console/api-keys

在这里插入图片描述

申请的Key是有一点免费额度的。又能白嫖了,真开心。

在这里插入图片描述

1. 基本使用

官方文档:https://platform.moonshot.cn/docs/api/chat#%E5%9F%BA%E6%9C%AC%E4%BF%A1%E6%81%AF

使用 Moonshot AI API进行简单的对话,代码如下:

from openai import OpenAI
 
client = OpenAI(
    api_key ="$MOONSHOT_API_KEY",
    base_url ="https://api.moonshot.cn/v1",)
 
completion = client.chat.completions.create(
    model ="moonshot-v1-8k",
    messages =[{"role":"system","content":"你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},{"role":"user","content":"你好,我叫李雷,1+1等于多少?"}],
    temperature =0.3,)print(completion.choices[0].message)

可以看到,其接口的使用形式完全兼容OpenAI,甚至可以当作就是用的OpenAI的接口,只是将

api_key

base_url

model

三个值换成了Moonshot的。

2. 工具使用

工具的使用方式,示例代码如下,也与OpenAI的接口完全兼容。

import os
moonshot_api_key = os.getenv('MOONSHOT_API_KEY') 
moonshot_base_url = os.getenv('MOONSHOT_BASE_URL') 
moonshot_model ="moonshot-v1-8k"from openai import OpenAI
 
client = OpenAI(
    api_key = moonshot_api_key,
    base_url = moonshot_base_url,)
 
completion = client.chat.completions.create(
    model = moonshot_model,
    messages =[{"role":"system","content":"你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅长中文和英文的对话。你会为用户提供安全,有帮助,准确的回答。同时,你会拒绝一切涉及恐怖主义,种族歧视,黄色暴力等问题的回答。Moonshot AI 为专有名词,不可翻译成其他语言。"},{"role":"user","content":"编程判断 3214567 是否是素数。"}],
    tools =[{"type":"function","function":{"name":"CodeRunner","description":"代码执行器,支持运行 python 和 javascript 代码","parameters":{"properties":{"language":{"type":"string","enum":["python","javascript"]},"code":{"type":"string","description":"代码写在这里"}},"type":"object"}}}],
    temperature =0.3,)print(completion.choices[0].message)

以上示例代码的运行结果:

在这里插入图片描述

3. LangChain中使用

LangChain中,有两种使用方式。

3.1 使用 MoonshotChat

LangChain对Moonshot模型进行了单独的封装,使用方式如下:

from langchain_community.chat_models.moonshot import MoonshotChat
model = MoonshotChat(api_key=moonshot_api_key, base_url=moonshot_base_url, model="moonshot-v1-128k")

3.2 使用 ChatOpenAI

在1、2节中,我们看到,Moonshot的API接口与OpenAI的完全兼容,因此,在LangChain中我们也可以使用ChatOpenAI来调用Moonshot AI,使用方式如下:

from langchain_openai.chat_models import ChatOpenAI
model = ChatOpenAI(api_key=moonshot_api_key, base_url=moonshot_base_url, model=moonshot_model, temperature=0)

这里只展示使用方法,具体的使用,在下面一起介绍。

4. LangChain中使用 + 使用工具

这里我们使用 【AI Agent系列】【LangGraph】2. 再进阶:给你的LangGraph加入循环逻辑(Cycles) 这篇文章中的代码,进行修改。

为什么用这个代码?因为遇到了坑,刚好给大家避坑…

从第3节中,我们得到了Moonshot的model,那我们就把下面红框中的代码替换掉就好了。

在这里插入图片描述

是不是觉得很可行?理论上是可以的。

但是实操过程中,发现,大模型根本识别不了tools…无论如何都识别不了。

在这里插入图片描述

如何解决呢?我找到了一种解决办法:

# from langchain.tools.render import format_tool_to_openai_function# functions = [format_tool_to_openai_function(t) for t in tools]# model = model.bind_functions(functions)# 改为:

model = model.bind_tools(tools=tools)

修改后,运行结果如下:

在这里插入图片描述
可以看到,成功识别到了tools。

如果觉得本文对你有帮助,麻烦点个赞和关注呗 ~~~


  • 大家好,我是 同学小张,持续学习C++进阶知识AI大模型应用实战案例
  • 欢迎 点赞 + 关注 👏,持续学习持续干货输出
  • +v: jasper_8017 一起交流💬,一起进步💪。
  • 微信公众号也可搜【同学小张】 🙏

本站文章一览:

在这里插入图片描述


本文转载自: https://blog.csdn.net/Attitude93/article/details/139062840
版权归原作者 同学小张 所有, 如有侵权,请联系我们删除。

“【AI大模型应用开发】Moonshot API 入门,完全平替 OpenAI API ?”的评论:

还没有评论