0


星火模型(Spark)的langchain 实现

星火模型的langchain实现

目前 langchain 已经适配了 星火模型(Spark)
spark langchain url https://github.com/langchain-ai/langchain/blob/master/libs/community/langchain_community/chat_models/sparkllm.py
测试已通过,希望有所帮助。(如果出现bug,请提issue)
使用前请先安装环境:

pip install oneapi2langchain -i https://pypi.org/simple/

实现如下: 自行跳转

github_URL

from oneapi2langchain import ChatSpark
from dotenv import load_dotenv  # 加载 APP_ID 等配置
load_dotenv()if __name__ =="__main__":
  
    llm = ChatSpark()# # 测试 string  ok
    ret = llm.predict("你是谁",stop=['科大讯飞'])print(ret)# 测试 message  ok# ret = llm.predict_messages([ChatMessage(role="user",content="你是谁")])# print(ret)# 测试 invoke  ok# ret = llm.invoke("你是谁")# print(ret)# 测试流式# for i in llm.stream("你是谁"):#     print(i)
标签: langchain

本文转载自: https://blog.csdn.net/q506610466/article/details/134495673
版权归原作者 一如年少模样丶 所有, 如有侵权,请联系我们删除。

“星火模型(Spark)的langchain 实现”的评论:

还没有评论