Python实战——AI应用
·



ollama与deepseek是什么关系
运行框架与模型的关系
Ollama 是本地部署工具,DeepSeek 是大语言模型,两者是"运行框架与模型"的协作关系。
Ollama 可以方便地在本地电脑上运行 DeepSeek 模型,但 DeepSeek 并非必须依赖 Ollama 才能使用。
各自是什么
- Ollama:开源的本地 AI 模型运行框架,负责模型加载、管理和推理服务,支持多种大模型部署。
- DeepSeek:深度求索公司开发的开源大语言模型系列,专注于语言理解和生成任务。
怎么配合使用
- 本地部署:通过 Ollama 命令行工具可快速下载并运行 DeepSeek 模型,如
ollama run deepseek-r1 - 性能优化:Ollama 支持量化压缩,可将 DeepSeek 模型体积压缩至原大小的 10%-30%,降低显存占用。
- 多场景应用:组合方案适用于边缘计算、隐私敏感场景(如医疗、金融),数据可在本地处理不上传云端。
关系本质
两者不是强制依赖关系,而是工具与内容的协作关系——Ollama 是"播放器",DeepSeek 是"影片",Ollama 能播放 DeepSeek,但 DeepSeek 也可通过其他方式部署使用
import os
api_key = os.environ.get("API_KEY") #读取本机电脑的系统环境变量
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。
更多推荐



所有评论(0)