【LLM大模型】构建本地知识库(上): langchain+ollama构建本地大模型应用
目标
在本地个人电脑上搭建一个基于大模型的本地知识库。在这个过程中能够实践并学习:
- 如何在本地部署运行大模型
- 如何基于大模型开发应用程序
- 如何利用RAG构建本地知识库
资源准备
要实现这个目标,需要考虑几个问题:
- 如何在本地设备上部署大模型?能部署哪些大模型?
- 应该如何基于大模型构建应用?
- 如何构建RAG应用?
对于问题1,我们需要一个大模型,这个大模型相对于正常大模型而言比较小,以满足能在我们本地设备上跑起起来的需求(CPU only),同时我们需要寻找一个工具,这个功能最好是能够帮助我们快速的下载,部署运行大模型。对于问题2,3我们应当寻找一个AI应用构建的框架,来帮我们快速集成大模型,构建应用。
LLaMA
LLaMA(英语:Large Language Model Meta AI)是Meta AI公司于2023年2月发布的大型语言模型。它训练了各种模型,这些模型的参数从70亿到650亿不等。LLaMA的开发人员报告说,LLaMA运行的130亿参数模型在大多数NLP基准测试中的性能超过了更大的、具有1750亿参数的GPT-3提供的模型,且LLaMA的模型可以与PaLM和Chinchilla等最先进的模型竞争。虽然其他强大的大语言模型通常只能通过有限的API访问,但Meta在非商业许可的情况下发布了LLaMA的模型权重,供研究人员参考和使用。2023年7月,Meta推出LLaMA2,这是一种可用于商业应用的开源AI模型。2024年4月18日,Meta发布了Llama 3。
在LLaMA中,有各种不同参数大小的模型可供选择,非常适合用来在本地做研究和学习。
使用OpenAI或者其他的模型可能需要先获取相应的key,并可能产生计费!因此,作为学习目的的话我们还是最好使用本地部署的大模型来进行。
Ollama
Ollama 是一个便于本地部署和运行大型语言模型(Large Language Models, LLMs)的工具。使用通俗的语言来说,如果你想在自己的电脑上运行如 GPT-3 这样的大型人工智能模型,而不是通过互联网连接到它们,那么 Ollama 是一个实现这一目标的工具。
主要功能
- 本地运行大型语言模型:Ollama 允许用户在自己的设备上直接运行各种大型语言模型,包括 Llama 2、Mistral、Dolphin Phi 等多种模型。这样用户就可以在没有网络连接的情况下也能使用这些先进的人工智能模型。
- 跨平台支持:Ollama 支持 macOS、Windows(预览版)、Linux 以及 Docker,这使得几乎所有主流操作系统的用户都可以利用这个工具。
- 语言库和第三方库支持:它提供了一个模型库,用户可以从中下载并运行各种模型。此外,也支持通过 ollama-python 和 ollama-js 等库与其他软件集成。
- 快速启动和易于定制:用户只需简单的命令就可以运行模型。对于想要自定义模型的用户,Ollama 也提供了如从 GGUF 导入模型、调整参数和系统消息以及创建自定义提示(prompt)的功能。
LangChain
LangChain 是一个用于开发由语言模型驱动的应用程序的框架。它使得应用程序能够:
- 具有上下文感知能力:将语言模型连接到上下文来源(提示指令,少量的示例,需要回应的内容等)
- 具有推理能力:依赖语言模型进行推理(根据提供的上下文如何回答,采取什么行动等)
这个框架由几个部分组成。
- LangChain 库:Python 和 JavaScript 库。包含了各种组件的接口和集成,一个基本的运行时,用于将这些组件组合成链和代理,以及现成的链和代理的实现。
- LangChain 模板:一系列易于部署的参考架构,用于各种任务。
- LangServe:一个用于将 LangChain 链部署为 REST API 的库。
- LangSmith:一个开发者平台,让你可以调试、测试、评估和监控基于任何 LLM 框架构建的链,并且与 LangChain 无缝集成。
更多langchain内容请参考官网
Conda(可选)
Conda 是一款功能强大的命令行工具,用于包和环境管理,可在 Windows、macOS 和 Linux 上运行。它可以快速的安装和更新环境依赖。例如,我想在我的电脑上需要同时python2和python3的环境,因为有的项目依赖python2,有的项目依赖python3。如果没有conda,会是很麻烦的事,而conda可以解决不同项目的环境依赖问题,可以隔离出两个环境分别让具有不同依赖的两个项目使用。
更多conda相关内容请参考官网
环境搭建
下载Ollama
进入官网,点击【Dpwonload】,然后选择适合自己机器的版本进行下载
以windows为例。下载完成后,点击安装包进行安装。这里有个坑稍微注意下:安装默认是不能够选择安装路径的,这就导致默认会安装到C盘。后续下载的模型也会进入C:\Users<用户名>.ollama\models目录下。一般来说模型会比较大(通常是几十G),这就会导致C盘资源很快会被占满。解决方法是:设置OLLAMA_MODELS环境变量, 使模型下载到指定的路径。修改后重启Ollama生效。
有两个环境变量需要注意:
OLLAMA_MODELS:OLLAMA模型的下载路径。
OLLAMA_HOST: OLLAMA模型以服务方式运行的时候,即提供API,默认是只能被localhost访问的,设置这个为0.0.0.0,可以被网络访问。
下载大模型
安装完成之后,会弹出对话框(或者手动开启命令行),接下来开始下载大模型。在官网可以看到有哪些模型
等待模型下载完成。
启动Lamma服务
运行命令ollama run llama3:8b
,启动模型,此时可以和模型开始进行对话。效果如下:
下载Conda(可选)
去Anaconda官网进行下载。下载后按提示进行安装。注意选择自己的安装路径!安装完成后可以通过Anaconda Promot进入操作页面,进行环境创建。
创建一个环境名叫langchain,用于等会运行langchanin,这个环境下的python版本是3.12
安装后激活环境
下载LangChain
如果没有安装conda, 那么使用命令:
pip install langchain
如果已经在conda中并且激活了环境,也可以执行下面命令
conda install langchain -c conda-forge
然后等待相关包的下载
启动LangChain服务
参考官方代码,我们写一个简单的基于大模型的服务代码,利用langServer提供api服务。这里有些点需要注意:
- 官方代码中用的大模型是基于OpenAI的,但我们期望的是通过本地模型进行访问。因此,我们要对本地模型进行封装,保证代码访问的是我们本地的模型。
- 如果想要让langchain应用程序提供对外访问的api服务,可以使用langchain提供的langServer能力,使用命令
pip install "langserve[all]"
进行安装。
完整代码如下:
python
代码解读
#!/usr/bin/env python
from typing import List
from fastapi import FastAPI
# from langchain_core.prompts import ChatPromptTemplate
from langchain_core.prompts import PromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langserve import add_routes
import ollama
class CustomLLM1:
@property
def _llm_type(self) -> str:
# 返回我们自定义的模型标记
return "myLlaMA"
# return ChatResult(generations=[generation])
def __call__(self, prompt: str) -> str:
# 这里是调用自定义模型或API接口的逻辑
# print(prompt)
messages = [
{"role": "user", "content": prompt.to_string()},
# 如果需要,可以在这里添加更多的消息历史
]
response = self.llama_completion(messages)
return response
def llama_completion(self, messages: List[dict]) -> str:
# 调用llama的接口,返回响应
# return "Hello from llama!"
print(messages)
response = ollama.chat(model='llama3:8b', messages=messages)
print(response['message']['content'])
return response['message']['content']
# 1. Create prompt template
prompt_template = PromptTemplate(input_variables=[], template="Translate the following into {language}:{text}")
# 2. Create model
model = CustomLLM1()
# 3. Create parser
parser = StrOutputParser()
# 4. Create chain
chain = prompt_template | model | parser
# 4. App definition
app = FastAPI(
title="LangChain Server",
version="1.0",
description="A simple API server using LangChain's Runnable interfaces",
)
# 5. Adding chain route
add_routes(
app,
chain,
path="/chain",
)
if __name__ == "__main__":
import uvicorn
uvicorn.run(app, host="localhost", port=8000)
启动后效果如下:
访问地址: http://localhost:8000/chain/playground/。页面上会出现两个待输入的内容:
本地测试
我们这里尝试一个简单的例子:将文本转换成特定语言进行输出。我们设置了两个输入,分别是语言和要转换的内容。运行结果成功返回了大模型处理之后的结果。
总结
本章主要阐述了本地构建基于大模型的应用程序的过程。从资源准备分析到实际搭建,一步步的指导应该如何在本地搭建一个基于大模型的应用程序。感兴趣的小伙伴可以自己动手试一下。
下一篇文章中我们基于此利用RAG技术来构建完整的本地知识库。
PS:本人电脑配置:windows系统,4核8G。
如何系统的去学习AI大模型LLM ?
作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。
但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的 AI大模型资料
包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
所有资料 ⚡️ ,朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》,扫码获取~
一、全套AGI大模型学习路线
AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!
二、640套AI大模型报告合集
这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
四、AI大模型商业化落地方案
阶段1:AI大模型时代的基础理解
- 目标:了解AI大模型的基本概念、发展历程和核心原理。
- 内容:
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践 - L1.5 GPT应用案例
阶段2:AI大模型API应用开发工程
- 目标:掌握AI大模型API的使用和开发,以及相关的编程技能。
- 内容:
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例 - L2.2 Prompt框架
- L2.2.1 什么是Prompt
- L2.2.2 Prompt框架应用现状
- L2.2.3 基于GPTAS的Prompt框架
- L2.2.4 Prompt框架与Thought
- L2.2.5 Prompt框架与提示词 - L2.3 流水线工程
- L2.3.1 流水线工程的概念
- L2.3.2 流水线工程的优点
- L2.3.3 流水线工程的应用 - L2.4 总结与展望
- L2.1 API接口
阶段3:AI大模型应用架构实践
- 目标:深入理解AI大模型的应用架构,并能够进行私有化部署。
- 内容:
- L3.1 Agent模型框架
- L3.1.1 Agent模型框架的设计理念
- L3.1.2 Agent模型框架的核心组件
- L3.1.3 Agent模型框架的实现细节 - L3.2 MetaGPT
- L3.2.1 MetaGPT的基本概念
- L3.2.2 MetaGPT的工作原理
- L3.2.3 MetaGPT的应用场景 - L3.3 ChatGLM
- L3.3.1 ChatGLM的特点
- L3.3.2 ChatGLM的开发环境
- L3.3.3 ChatGLM的使用示例 - L3.4 LLAMA
- L3.4.1 LLAMA的特点
- L3.4.2 LLAMA的开发环境
- L3.4.3 LLAMA的使用示例 - L3.5 其他大模型介绍
- L3.1 Agent模型框架
阶段4:AI大模型私有化部署
- 目标:掌握多种AI大模型的私有化部署,包括多模态和特定领域模型。
- 内容:
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景
学习计划:
- 阶段1:1-2个月,建立AI大模型的基础知识体系。
- 阶段2:2-3个月,专注于API应用开发能力的提升。
- 阶段3:3-4个月,深入实践AI大模型的应用架构和私有化部署。
- 阶段4:4-5个月,专注于高级模型的应用和部署。
这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
全套 《LLM大模型入门+进阶学习资源包》↓↓↓ 获取~
更多推荐
所有评论(0)