0


解锁 AI 潜力 | 使用 GreptimeAI 深入观测 OpenAI 行为和用量

随着人工智能技术的迅速进步,OpenAI 已经崭露头角,成为该领域的领军者之一。它在多种语言处理任务上表现卓越,包括机器翻译、文本分类和文本生成等。

然而,使用 OpenAI 时,持续监控 API 调用的重要性不容忽视,这不仅可以帮助我们识别出性能瓶颈,统计和分析使用情况,还可以帮助我们在 API 出现问题时快速发现并进行相应的处理。

GreptimeAI

GreptimeAI 提供了专为监测和管理大型语言模型(LLM)应用设计的定制可观测性解决方案。这一方案使您能够全面了解成本、性能、流量和安全性方面的情况。更多关于 GreptimeAI 的产品细节,请参阅 此文。值得一提的是,GreptimeAI 的存储解决方案构建于开源时序数据库 GreptimeDB 之上。

哪些 OpenAI 的模块会被监控

  • chat
  • completion
  • audio
  • images

支持的场景

  • async
  • stream
  • with_raw_response
  • retry
  • error

用户指南

安装 GreptimeAI

  1. pip install --upgrade greptimeai

注册 GreptimeAI

首先,注册 GreptimeAI 以创建一个服务,并获取以下参数:

  • host
  • database
  • token

配置

在环境变量中设置 GreptimeAI 需要的配置:

  1. export GREPTIMEAI_HOST='xxx'
  2. export GREPTIMEAI_DATABASE='xxx'
  3. export GREPTIMEAI_TOKEN='xxx'

如果你希望直接传递参数,可以这么做:

  1. openai_patcher.setup(
  2. host=os.environ.get("GREPTIMEAI_HOST"),
  3. database=os.environ.get("GREPTIMEAI_DATABASE"),
  4. token=os.environ.get("GREPTIMEAI_TOKEN"),
  5. client=client,
  6. )

Example

以下是一个简单的示例,说明如何在启用了 GreptimeAI 跟踪的情况下调用 OpenAI chat completion 模块。

  1. from greptimeai import openai_patcher
  2. from openai import OpenAI
  3. client = OpenAI()
  4. openai_patcher.setup(client=client)
  5. completion = client.chat.completions.create(
  6. messages=[
  7. {
  8. "role": "user",
  9. "content": "How do I output all files in a directory using Python?",
  10. }
  11. ],
  12. model="gpt-4",
  13. user="<user_id_from_your_application>",
  14. stream=True,
  15. )

What does it look like in GreptimeAI

Overview:

下图展示了带有多个 span 的追踪细节:

关于 Greptime 的小知识:

Greptime 格睿科技于 2022 年创立,目前正在完善和打造时序数据库 GreptimeDB,格睿云 GreptimeCloud 和可观测工具 GreptimeAI 这三款产品。

GreptimeDB 是一款用 Rust 语言编写的时序数据库,具有分布式、开源、云原生和兼容性强等特点,帮助企业实时读写、处理和分析时序数据的同时降低长期存储成本;GreptimeCloud 可以为用户提供全托管的 DBaaS 服务,能够与可观测性、物联网等领域高度结合;GreptimeAI 为 LLM 量身打造,提供成本、性能和生成过程的全链路监控。

GreptimeCloud 和 GreptimeAI 已正式公测,欢迎关注公众号或官网了解最新动态!

官网:https://greptime.cn/

GitHub: https://github.com/GreptimeTeam/greptimedb

文档:https://docs.greptime.cn/

Twitter: https://twitter.com/Greptime

Slack: https://greptime.com/slack

LinkedIn: https://www.linkedin.com/company/greptime/

标签: 人工智能 ai openai

本文转载自: https://blog.csdn.net/beary_tang/article/details/135557687
版权归原作者 Greptime 所有, 如有侵权,请联系我们删除。

“解锁 AI 潜力 | 使用 GreptimeAI 深入观测 OpenAI 行为和用量”的评论:

还没有评论