Dify:14万Star,开源的LLM应用开发平台

Dify由LangGenius团队开发,是一个开源的LLM应用开发平台,目前在GitHub获得超过14.2万Star。该项目已加入Linux基金会。

正文顶部截图

Dify将AI工作流、RAG管道、Agent能力和模型管理等功能整合在一个可视化界面中,帮助开发者从原型设计推进到生产环境。除了开源社区版,官方还提供云端服务和企业版本。README支持十几种语言,包括简体中文、繁体中文、日语、韩语、德语、法语等。

README区域截图

核心功能

  1. 工作流:在可视化画布上构建和测试AI工作流,串联各项功能模块。
  2. 模型支持:集成数百种专有和开源LLM,涵盖GPT、Mistral、Llama3以及所有兼容OpenAI API的模型。支持数十家推理服务商和自托管方案。
  3. Prompt IDE:提供提示词编辑界面,支持模型性能对比和文本转语音等附加功能。
  4. RAG管道:覆盖从文档摄入到检索的完整流程,支持PDF、PPT等常见文档格式的文本提取。
  5. Agent能力:基于LLM函数调用或ReAct定义Agent,内置50多种工具,包括Google Search、DALL·E、Stable Diffusion和WolframAlpha等。用户还可添加自定义工具。
  6. LLMOps:监控和分析应用日志与性能指标,基于生产数据和标注持续优化提示词、数据集和模型。支持与Opik、Langfuse、Arize Phoenix等可观测性平台集成。
  7. 后端即服务:所有功能均提供对应API,可集成到已有业务系统中。

快速开始

最低配置要求CPU 2核、内存4GB。确保安装了Docker和Docker Compose后,执行以下命令:

cd dify
cd docker
cp .env.example .env
docker compose up -d

启动后访问 http://localhost/install 完成初始化。如果遇到问题,可查阅FAQ或通过Discord社区获取帮助。如需从源码进行二次开发,官方提供了源码部署指南。

自定义配置方面,编辑 docker/.env 文件后重新执行启动命令。基础启动变量定义在 .env.example 中,高级可选变量按主题分类存放在 docker/envs/ 目录下。

使用方式

云端服务:官方提供Dify Cloud服务,无需配置即可使用全部功能,Sandbox计划包含200次免费GPT-4调用。

自托管社区版:适合需要数据私有化部署的团队,通过Docker Compose启动。

企业版:提供组织管理功能,支持自定义Logo和品牌。使用AWS的初创公司可在Marketplace上找到Dify Premium AMI,部署到自有VPC。

部署方案

社区贡献了多种部署方案,覆盖主流云平台:

  • Kubernetes:多个社区维护的Helm Chart版本,以及YAML配置文件
  • Terraform:支持Azure和Google Cloud部署
  • AWS CDK:提供基于EKS和ECS的两种方案
  • 阿里云:通过计算巢或数据管理服务部署
  • Azure DevOps Pipeline:支持部署到AKS

此外,社区贡献了Grafana Dashboard方案,接入Dify的PostgreSQL数据库后可实现按应用、租户、消息等维度的指标监控。

Dashboard方案,接入Dify的PostgreSQL数据库后可实现按应用、租户、消息等维度的指标监控。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐