目录

硅基流动API

创建代码执行节点

运行结果:

注! 

Dify的Http节点,给予工作流访问网络的能力,,比如图像,文字的加载,本质上LLM节点就是一个复杂的Http请求节点。

使用Http请求,你可以自己设置curl的header,参数以及body,并获取返回的json,

既然如此,我们也可以利用Http请求,来调用大模型,当然前提改工具提供了API文档。

下面演示如何使用Http节点调用硅基流动的模型

硅基流动API

首先找到硅基流动的API文档

硅基流动注册送免费的token,大家不需要担心花费

注意curl里的报头,url以及POST,这是你要在Http中填写的参数

把参数填写上去,示例:

你也可以按下面的方式填写API-KEY

创建代码执行节点

考虑到json的转义问题,你可以用代码的方式编写,同时你也可以在代码中加载变量;

import json

def main(arg1: str) -> dict:
    data = {
        "model": "Qwen/QwQ-32B",
        "messages": [
            {
                "role": "user",
                "content": arg1
            }
        ],
        "stream": False,
        "max_tokens": 512,
        "stop": None,
        "temperature": 0.7,
        "top_p": 0.7,
        "top_k": 50,
        "frequency_penalty": 0.5,
        "n": 1,
        "response_format": {"type": "text"},
        "tools": []
    }
    return {
        "result": json.dumps(data)
    }

接着将代码执行的输出变量载入BODY中

运行结果:

注! 

如果Http节点报错,显示读取超时等,你可以在Http节点中的超时设置调高;

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐