langchain调用星火大模型API构建私有LLM
·
import os
from langchain_community.llms import SparkLLM
from langchain_core.messages import SystemMessage, HumanMessage
os.environ["LANGCHAIN_TRACING_V2"] = "true" # langsmith的版本
os.environ["LANGCHAIN_API_KEY"] ='langsmith的api key' # langsmith的API_KEY
os.environ['IFLYTEK_SPARK_APP_ID'] = "星火的APP_ID"
os.environ['IFLYTEK_SPARK_API_SECRET']="星火的API_SECRE"
os.environ['IFLYTEK_SPARK_API_KEY'] = "星火API_KEY"
model = SparkLLM()
msg = [
SystemMessage(content = '请将以下内容翻译成英语'),
HumanMessage(content = '你好,很高兴认识你')
]
result = model.invoke(msg)
print(result)
具体代码如上
网上视频教程(可以参考,但可能和本文的代码不同)
目前langchain支持的星火版本为Spark Max版本(ultra等版本目前还不支持)
星火控制台: 控制台-讯飞开放平台
https://console.xfyun.cn/services/bm35
一些可能遇到的错误:

星火的服务说明:

langsmith的监测结果:

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。
更多推荐

所有评论(0)