登录社区云,与社区用户共同成长
邀请您加入社区
本文详解如何通过手写 JSON 配置实现 Ollama 与 OpenClaw 的本地联动。通过精准设置 baseUrl、apiKey 及 contextWindow 等核心参数,开发者可构建透明可控的自动化工作流,解决连接报错与上下文不匹配问题,彻底告别黑盒操作,掌握本地 AI 部署主动权。
本文档介绍了在 Dify 平台中集成和使用 Ollama 大模型的具体步骤。首先需要完成 Ollama 的安装与配置。然后登录 Dify,进入设置界面,在模型供应商中找到并安装 Ollama 供应商。接着添加模型,填写模型信息时需注意基础 URL 的设置:若 Dify 与 Ollama 部署在同一 Docker 机器上,使用 http://host.docker.internal:11434;若在
数据安全风险:本地私有文档、业务数据、办公资料上传云端,极易造成数据泄露,无法满足隐私合规需求;使用成本高昂:云端大模型调用、知识库检索、长文本推理均需按次/按量收费,长期使用成本不可控;使用限制较多:依赖网络环境、响应延迟高、接口限流、无法自定义模型、无法深度定制Agent能力。而本地部署AI Agent可完美解决以上问题,实现数据本地留存、零调用费用、低延迟响应、全自定义能力,无论是个人学习、
Ollama 推理底座架构剖析:从模型加载到连续批处理的生产级调优实践 你有没有这种感觉:本地跑起了 Ollama,跑几个模型也都正常,但一旦并发请求一多,显存就爆了,或者响应时间忽快忽慢,根本找不到规律。 这不是你配置错了,而是 Ollama 默认行为和你的生产场景不匹配。Ollama 把大量架构细节做成了"差不多就行"的默认值,但在 NAS 高配机器或者多用户并发场景下,这些默认值会直接导致
在线 Agent、执行 Agent、流程型 Agent 和多人 Web 入口各有优势,但企业真正需要的是能连接本地环境、工具能力、状态管理和多人入口的一套 Agent 底座。文章结合 Ollama、Hermes、Codex 和 Open WebUI 的组合,分享一套本地可执行、多人可用、适合企业内网场景的 Agent 体系体验。
在线大模型限速、敏感数据不敢上传、API 调用成本高昂,成为当下 AI 应用的三大痛点。2026 年 6 月最新发布的 Ollama 3.2 彻底解决了这些问题,它支持 Windows 原生 GPU 加速、一键部署千款开源大模型、零代码启动,普通电脑也能运行百亿参数模型。本文从核心优势、全平台部署步骤、多模态测试、API 调用、高阶玩法五个维度,提供零基础可直接复制的实操指南,同时汇总了新手最高频
Ollama是简化本地部署大语言模型的开源工具,支持GPU加速和OpenAI兼容API。摘要涵盖:1)核心命令速查(运行/管理模型);2)优化模型存储路径方法;3)模型下载/交互/性能监控全流程;4)常见问题解决方案(如下载卡顿、资源不足);5)安全加固建议(限制网络访问)。建议根据硬件配置选择合适模型精度(如7B需8GB内存),并注意端口安全防护。
图:Docker 自托管 Horizon,把 RSS、GitHub 等信息流聚合成每日 AI 简报,并通过 cpolar 在外网安全查看。 你的专属 AI 新闻雷达:Docker 自托管 RSS/GitHub 聚合器,用 cpolar 随时查看每日简报 每天打开几十个信息源,很容易越看越乱:GitHub Trending、RSS、Hacker News、Telegram 频道、AI 工具更新,全都
本文提供OpenClaw2.7.9连接Ollama本地模型的完整图文教程: 前置准备:需安装OpenClaw2.7.9并确保网络正常,预留足够磁盘空间; 安装Ollama:从官网下载Windows版安装包(45.8MB),完成安装后修改模型存储路径; 部署模型:通过PowerShell执行ollama run gemma4:e4b命令下载并启动模型; 配置连接:在OpenClaw设置中填写Olla
本文介绍了如何利用轻量级工具Ollama在Windows环境下本地部署Qwen3.5-9B-DeepSeek-V4-Flash多模态大模型,重点解决企业数据隐私和推理延迟问题。文章详细讲解Ollama的安装配置、GGUF量化模型选择(涵盖BF16/Q4_K_M/Q5_K_M等不同精度)、模型加载与交互测试全流程,提供硬件适配建议和性能对比数据。通过实际案例展示文本生成、长上下文处理和多模态图文交互
本文手把手教你如何在 Windows 上免费部署 Ollama + LocalCode,打造完全离线、数据不联网、无使用限制的私有 AI 编程助手。无需 GPU,8GB 内存即可流畅运行 deepseek-coder:latest (1.3B) 模型。文章涵盖安装步骤、常见问题解决、模型选择指南(1.3B/7B/14B)、实战用法及效果验证,适合代码敏感、网络受限或想摆脱付费额度的开发者
读完你能得到:在自己电脑上跑起一个本地大模型(DeepSeek-R1 蒸馏版 / Qwen2.5),命令行能聊天、也能用 OpenAI 兼容 API 接进你的代码——离线、免费、数据不出本机。全程基于 2026 年最新版实测,每步配命令,显存怎么选、报错怎么解都讲清楚。为什么要本地跑大模型?(公司代码/文档不想发给云端)、(断网也能写代码、查资料)、(跑多少都不花钱)。以前本地部署要装一堆 CUD
本章节将以一个简单的电商客服系统为原型,尽可能的将 SpringAI 各项技术都沿用进来,让读者对大模型实际落地项目有一个基本认识。本套系统代码公开免费,可以参考学习和商用,纯原创没有任何第三方约束!让天下没有难写的代码!代码已经放入 Gitee 仓库, master 分支为最新分支。本篇博客是详细的技术拆解文章。
结合多年金融客户端研发与 AI 工程落地经验,采用 Tauri2+Vue3+Rust+Ollama 开发全本地离线投资记账桌面程序,所有交易数据本地 SQLite 存储不上云。独创标准化 AI 协作开发流程,通过任务拆分 + 定制 Prompt + 分段自测模式指挥 AI 完成全栈开发;落地 DDD 分层架构、整型存储解决金融浮点误差、全局外网拦截、本地大模型智能复盘等关键方案,项目已开源。