0


【工具推荐】Agently:一款灵活易用的 AI 应用开发框架

本文内容均来自个人笔记并重新梳理,如有错误欢迎指正!

如果对您有帮助,烦请点赞、关注、转发、订阅专栏!


专栏订阅入口

| 精选文章 | Kubernetes | Docker | Linux | 羊毛资源 | 工具推荐 |


往期精彩文章

【Docker】(全网首发)Kylin V10 下 MySQL 容器内存占用异常的解决方法

【Docker】(全网首发)Kylin V10 下 MySQL 容器内存占用异常的解决方法(续)

【Linux】全面讲解 Shell 变量的那些事


一、基本介绍

Agently 是一款应用开发框架,开发者可以通过在代码中直接使用和构建 AI 代理的方式,快速构建 AI 代理原生应用程序。对于开发者来说,创建一个 AI 代理实例并与之交互的过程,就好像在极少量代码中调用函数一样简单。

Agently 的主要特性如下:

  • 易用、灵活、高效
  • 符合工程开发直觉的开发语法,让开发者专注在业务表达,屏蔽无关思考
  • 用 GPT-3.5+ 级别的低价模型平替原本只能用 GPT-4 完成的工作,成本立减 99%
  • 支持各类主流模型随意切换,不冲击业务逻辑,帮助开发者提升模型输出控制能力
  • 代码级编排复杂工作流,构建复杂 AI 应用场景

    Agently 应用开发框架特性

Agently 的目标是成为友好的开发框架,主要有以下几个方面的内涵:

  • 让开发者专注在业务开发上,单次请求由 Agent 对象代理,多轮请求编排由 Workflow 完成,并提供了简单顺畅的语法,业务开发的时候,思路极其顺滑
  • 模型调用新增模型适配、Agent 对象新增指令、存储方法新增数据存储类型,都通过插件完成
  • 通过框架内部的架构设计,将模型适配、插件增强和业务表达三个层次完全解耦,任何一层的变动都不会严重冲击其他层,确保业务逻辑层表达的稳定性
  • 文档丰富,社区热情,开发团队 On Call 及时,并乐于分享方法论
  • 为 AI 应用开发者降低开发门槛,提供高效、顺滑的开发体验

Agently 构建的代理结构如下图所示:

Agently 应用开发框架构建的代理结构

开源地址:GitHub - Maplemx/Agently

官网地址:Agently AI 应用开发框架

模型支持:Agently AnyModel 介绍

工作流:Agently Workflow 介绍

创始人:莫欣(先生)


二、安装方法

Agently 的安装极其简单,只需要在终端命令行中执行以下命令,等待 Python 包安装完成即可。

pip install -U Agently

🔔 pip 版本需要满足一定要求,若遇到安装问题请先升级 pip 版本
🔔 升级命令:python3 -m pip install --upgrade pip
   输出信息:Successfully installed pip-24.2


三、使用方法
1、生成内容
import Agently

'''
创建 Agent 实例
'''
agent = (
    Agently.create_agent()
        .set_settings("current_model", "ZhipuAI")
        .set_settings("model.ZhipuAI.auth", { "api_key": "your_api_key" })
)

'''
基础请求示例
'''
result = (
    agent
        .input("为我输出5个单词和3个句子")
        .instruct("输出语言", "中文")
        .output({
            "单词": [("str", )],
            "句子": ("list", ),
        })
        .start()
)

print(result)

# 输出如下:
{'单词': ['书籍', '音乐', '快乐', '创新', '和平'], '句子': ['我喜欢阅读各种各样的书籍。', '音乐是我生活中不可或缺的部分。', '快乐是一种心态,也是一种选择。']}

可以看到,在创建 Agent 实例时笔者指定语言模型为 ZhipuAI(智谱清言),并提供可用的 API KEY,然后通过 Agent 实例发出基础请求以调用智谱清言 API 的能力,最终自动生成所需内容(即以中文输出 5 个单词、3 个句子)。

智谱清言 API KEY 获取地址:智谱AI开放平台

2、聊天互动
import Agently
agent_factory = Agently.AgentFactory()

agent_factory\
    .set_settings("current_model", "ZhipuAI")\
    .set_settings("model.ZhipuAI.auth", { "api_key": "your_api_key" })

agent = agent_factory.create_agent()
agent.active_session()
while True:
    user_input = input("[用户]: ")
    if user_input == "#exit":
        print("Bye")
        break
    print("[AGENT]: ", end="")
    agent\
        .input(user_input)\
        .on_delta(lambda data: print(data, end=""))\
        .start()
    print("")


聊天互动输出示例

3、分析日志
import Agently, os
agent_factory = Agently.AgentFactory()

agent_factory\
    .set_settings("current_model", "ZhipuAI")\
    .set_settings("model.ZhipuAI.auth", { "api_key": "xxx" })

agent = agent_factory.create_agent()
agent.active_session()

os.system("kubectl describe no > /data/gitlab/node.log")

with open('/data/gitlab/node.log', 'r') as f:
    user_input = f.read() + '\n分析以上信息中是否存在异常,若存在异常请给出解决方案'

print("[AGENT]: ", end="")

agent\
    .input(user_input)\
     .on_delta(lambda data: print(data, end=""))\
    .start()
print("\n")

以上脚本可以结合 Crontab 计划任务,定期获取 Kubernetes 集群的节点详情写入日志文件,然后由 Agent 代理调用智谱清言 API 分析日志信息是否存在异常,并给出解决方案。后续还可以通过发送邮件等方式进行告警,有效缩短运维人员分析日志、解决问题的时间。

日志分析输出示例

更多使用方法及实战案例详见:Agently 案例广场


本文转载自: https://blog.csdn.net/2401_82795112/article/details/142187554
版权归原作者 行者Sun1989 所有, 如有侵权,请联系我们删除。

“【工具推荐】Agently:一款灵活易用的 AI 应用开发框架”的评论:

还没有评论