第三十三篇-Ollama+AnythingLLM基本集成
ollama
启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型。
项目地址:https://gitcode.com/gh_mirrors/oll/ollama
免费下载资源
·
AnythingLLM
AnythingLLM专属私有知识库,可以使用本地OllamaLLM模型,可以上传文件,基于文件回答问题
启动ollama
参考
第二十五篇-Ollama-离线安装
第二十四篇-Ollama-在线安装
下载安装AnythingLLM
https://useanything.com/download
AnythingLLMDesktop.exe
点击安装,稍微等待一下
配置Workspace-LLM
第一次启动会需要创建一个Workspace,输入一个名称
点击设置按钮
弹出配置界面
选择LLM Preference配置LLM
可以选择你有的LLM资源,我选择本地Ollama
配置好LLM点击左下角回退Workspace界面
选中一个Workspace,可以问答了
配置Workspace-上传文件
点击上传按钮
点击选择文件,选择一个你要上传的文件,点击move to workspace
点击 Save And Embed
稍微等待一下,就可以基于这个文档回答问题了
GitHub 加速计划 / oll / ollama
82.42 K
6.3 K
下载
启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型。
最近提交(Master分支:1 个月前 )
01b80e9f
add conversion for microsoft phi 3 mini/medium 4k, 128k 1 个月前
bd5e4326 - 1 个月前
更多推荐
已为社区贡献11条内容
所有评论(0)