背景
这个网站 https://subrise.co 有几十万的数据需要通过 AI 来进行数据的分析和内容生成,本来选择的 gpt-4o-mini 这个模型,但是需要分析的数据量有点大,算下来费用有点高,所以就选择了国内的豆包 Doubao-lite-32k 大模型,费用降低了一半,效果也还可以,而且豆包兼容 OpenAI 的 SDK,代码上不需要有太多的改动。
注册火山引擎账号
用手机注册即可,非常简单方便。(https://console.volcengine.com/auth/signup)
大模型选择和开通
进入【火山方舟】服务的【模型广场】选择适合的大模型,最好是在【体验中心】根据您的实际业务需求进行测试对比。如果您的大模型调用费用比较大,那么一定要考虑下每个大模型的费用对比(文末有惊喜)。
选择了合适的大模型后就在【开通管理】页面直接开通服务,可以看到目前每个大模型都赠送了50万 tokens 的免费额度,还是很给力的。这里开通服务前您的账户需要开通下实名认证,需要提供身份证号和进行人脸检测,还是比较方便的。
创建API Key和推理接入点
创建API Key非常简单,只需要进入【API Key管理】页面点击创建就可以了。这里需要账号授权的操作,您只需根据提示一路确定下来就可以了。
接下来就是创建推理接入点了,这里我有踩过坑;因为 OpenAI 是没有这个概念的,拿着 API Key 就可以直接去调用 API 了,所以就没走这一步了,导致 API 老是调不通,后面看文档才发现还有这么个东西。
进入【在线推理】页面点击创建,然后填写相关信息即可;其中添加模型选择您已开通的大模型。
调用大模型API
到这一步我们就可以通过大模型的 SDK 来调用 API 了,官方提供多种主流语言的 SDK,主要包括 Python、Go 和 Java;更加好的是火山方舟大模型调用 v3 API 与 OpenAI API 协议兼容。
下面是通过 OpenAI SDK 调用豆包大模型 API 的代码示例:
from openai import OpenAI
client = OpenAI(
base_url="https://<ARK_DOMAIN>/api/v3",
api_key=os.environ.get("ARK_API_KEY")
)
print("----- standard request -----")
completion = client.chat.completions.create(
model="<YOUR_ENDPOINT_ID>",
messages = [
{"role": "system", "content": "你是豆包,是由字节跳动开发的 AI 人工智能助手"},
{"role": "user", "content": "常见的十字花科植物有哪些?"},
],
)
print(completion.choices[0].message.content)
其中有三个参数是我们需要注意的:
base_url:调用 API 的 url,会根据地域使用不同的 url,通常建议就近选择靠近您或者您的目标用户的地域,以减少网络时延,提高访问速度。但是目前就一个地域,没得选,所以您可以直接填 https://ark.cn-beijing.volces.com/api/v3。
api_key:这就是我们上一步创建的 API Key 了,一般通过配置或环境变量来设置和引用。我们这里就执行以下命令即可:
export ARK_API_KEY=<YOUR_API_KEY>
。
model:这个就是你需要调用的大语言模型,比如 OpenAI 的 gpt-4o-mini;但是豆包这边就是我们上一步创建的推理接入点了。
用量统计和费用
以上流程走完不会产生任何费用,火山方舟给每个大模型都提供了50w token 的免费额度,所以可以随便玩玩。但是当我们在生产环境使用大模型时就得关注 API 调用的 tokens 数和其产生的相应费用了。
点击进入【用量统计】页面就可以看到具体的调用 tokens 数了,我这里调用量还是比较大的,调用总量 tokens 数有2亿。
点击右上角费用中的账户总览就可以看到你的费用详情了,我这里2亿 tokens 的调用产生的费用是三百多,其实还是比较便宜的(至少对国外的大模型来说);充值也很简单,在线微信和支持宝充值都可以。
到此就完成了一次豆包大模型从零开始的简单使用了。大家也可以看下我们使用豆包大模型的一个实际效果,Subrise 对 Reddit 33万个论坛数据进行抓取和 AI 分析,Reddit 是世界访问量前10的网站,而 Subrise 可以成为您的 Reddit 流量掘金工具。
最后,给出一份大模型费用对比表,希望对您有用。
版权归原作者 zhengmingren 所有, 如有侵权,请联系我们删除。