from langchain_core.messages import HumanMessage, AIMessage
from langchain_openai import ChatOpenAI

model=ChatOpenAI(model="gpt-4o-mini")
messages=[
    HumanMessage(content="I am Bob"),
    AIMessage(content="Hello Bob! How can I assist you today?"),
    HumanMessage(content="What is your name?"),
]
model.invoke(messages).pretty_print()

从结果看只需要将历史信息重新发给聊天模型就可以实现多轮对话的功能。

1.4管理历史信息

from openai import Client
from langchain_openai import ChatOpenAI

from TEST23 import lazy_prompt

client=Client()
prompt=client.pull_prompt("hardkothai/prompt-maker",include_model=True)
model=ChatOpenAI(model="gpt-4o-mini")
chain=model|prompt
while True:
    task=input("\n你的任务是什么?(输入quit退出聊天)\n")
    if task=="quit":
        break
    lazy_prompt=input("\n你当前的提示是什么?(输入quit退出聊天)\n")
    if lazy_prompt=="quit":
        break
    print("\n Response:")
    chain.invoke({'lazy_prompt':lazy_prompt,'task':task}).pretty_print()

3.少样本提示

少样本提示是一种通过向LLM提供少量具体示例或样本，来教会它如何执行某项特定任务的技术。

3.1实现少样本提示

from langchain_core.prompts import PromptTemplate, ChatPromptTemplate,FewShotChatMessagePromptTemplate
from openai.resources import Chat
examples = [
    {"input": "2 🦜 2", "output": "4"},
    {"input": "2 🦜 3", "output": "5"},
]
example_prompt = ChatPromptTemplate(
    [
        ("human","{input}"),
        ("ai","{output}"),
    ]
)
#[HumanMessage(content='2 🦜 2', additional_kwargs={}, response_metadata={}), 
# AIMessage(content='4', additional_kwargs={}, response_metadata={}, tool_calls=[], invalid_tool_calls=[]), 
# HumanMessage(content='2 🦜 3', additional_kwargs={}, response_metadata={}), 
# AIMessage(content='5', additional_kwargs={}, response_metadata={}, tool_calls=[], invalid_tool_calls=[])]
few_shot_prompt = FewShotChatMessagePromptTemplate(
    example_prompt=example_prompt,
    examples=examples,
)
print(few_shot_prompt.invoke({}).to_messages())

FewShotChatMessagePromptTemplate它也实现了Runnable接口。

类初始化参数说明:example:样本示例。example_prompt:用于格式化单个示例。

类方法说明:.invoke()方法。输入一个字典给他，返回完整的提示内容PromptValue:

1)to_string()可以返回字符串。2)to_messages()可以将提示作为消息列表返回。

2)to_messages()可以将提示作为消息列表返回。

(补充:在Python里面[]代表列表，里面可以放数字、字符串、对象等，可以增删改查。{}代表字典或集合，()代表元组，用圆括号一旦创建就不能改，比列表更安全、更快。)

3.2示例选择器

一旦我们有了示例数据集，就需要考虑提示中应该有多少个示例。在LangChain里面示例选择器可以帮我们从一组示例的集合中根据具体策略选择正确的示例子集构建少样本提示。

选择策略有:

1)Length:根据特定长度内可以容纳的数量选择示例。

2)Similarity:使用输入和示例之间的语义相似性来决定选择哪些示例。

3)MMR:使用输入和示例之间的最大边际相关性来决定要选择哪些示例。

4)Ngram:使用输入和示例之间的ngram重叠来决定要选择哪些示例。

3.2.1按长度选择示例

第一步。给一组输入和输出互为反义词。

第二步。定义PromptTemplate字符串模板，包含输入和输出的两个占位符。

第三步。定义义 LengthBasedExampleSelector长度示例选择器，设置初始示例集与最大长度。

第四步。定义一个FewShotPromptTemplate模板对象，用于实例化示例，将示例转化为聊天信息。

第五步，打印消息结果。

from langchain.agents.middleware import dynamic_prompt
from langchain_core.example_selectors import LengthBasedExampleSelector
from langchain_core.prompts import PromptTemplate, FewShotPromptTemplate

examples=[
    {"input": "happy", "output": "sad"},
    {"input": "tall", "output": "short"},
    {"input": "energetic", "output": "lethargic"},
    {"input": "sunny", "output": "gloomy"},
    {"input": "windy", "output": "calm"},
]
#定义单个示例长什么样
example_prompt=PromptTemplate(
    input_variables=["input", "output"],
    template="Input:{input}\nOutput:{output}",
)
#创建【按长度自动选示例】的工具
example_selector=LengthBasedExampleSelector(
    examples=examples,
    example_prompt=example_prompt,
    max_length=25,
    # ⽤于获取字符串⻓度的函数，⽤于确定包含哪些⽰例。
    # 如果没有指定，它是作为默认值提供的。
    # 该函数返回⼀个整数，表⽰字符串中由换⾏符或空格分隔的“单词”数量
    # get_text_length: Callable[[str], int] = lambda x: len(re.split("\n| ",x))
)
#组装最终动态提示模板
dynamic_prompt=FewShotPromptTemplate(
    example_selector=example_selector,
    example_prompt=example_prompt,
    prefix="给出每个输入的反义词",
    suffix="Input:{adjective}\nOutput",
    input_variables=["adjective"],
)
print(
    dynamic_prompt.invoke({"adjective":"big"}).to_messages()[0].content
)

3.2.2按照语义相似性选择示例

LangChain能根据输入和示例之间的语义相似性来决定选择哪些示例，它能通过查找与输入具有最大余弦相似性的嵌入示例来实现这一点。

实现按语义相似性选择示例的示例选择器是:SemanticSimilarity ExampleSelector类。

内置方法:

        from_examples():根据示例集生成语义相似示例选择器。

        add_example(example:dict[str,str]):将新示例添加到列表中。

        select_examples(input_variables:dict[str,str])->list[dict]:根据输入选择要使用的示例。

如何使用语义相似示例选择器:

1)给一个示例集，输入和输出互为反义词。

2)定义PromptTemplate字符串模板，包含输入和输出两个占位符。

3)定义SemanticSimilarityExampleSelector语义相似示例选择器，设置初始示例集与嵌入API接口。

4)定义一个FewShotPromptTemplate模板对象，用于实例化示例将示例转化为聊天消息。

5)打印消息结果

from langchain_chroma import Chroma
from langchain_core.example_selectors import SemanticSimilarityExampleSelector
from langchain_core.prompts import ChatPromptTemplate, PromptTemplate, FewShotPromptTemplate
from langchain_openai import OpenAIEmbeddings
from langgraph_sdk.schema import Input

examples = [
    {"input": "happy", "output": "sad"},
    {"input": "tall", "output": "short"},
    {"input": "energetic", "output": "lethargic"},
    {"input": "sunny", "output": "gloomy"},
    {"input": "windy", "output": "calm"},
]
#字符串模板
example_prompt=PromptTemplate(
    input_variables=["input","output"],
    template="Input:{input}\nOutput:{output}",
)
#语义相似示例选择器
example_selector=SemanticSimilarityExampleSelector.from_examples(
    examples,
    #嵌入类用于生成用于度量语义相似度的嵌入。
    OpenAIEmbeddings(),
    #用于存储嵌入并对其进行显示类搜索
    Chroma,
    #生成示例的数量
    k=1,
)
#用于实例化示例的模板
similar_prompt=FewShotPromptTemplate(
    #挑选好的参考答案
    example_selector=example_selector,
    #答案的排版格式
    example_prompt=example_prompt,
    #题目要求
    prefix="给出每个输⼊的反义词",
    # 新题目 + 留空让学生写答案
    suffix="Input: {adjective}\nOutput:",
    #告诉模板：我后面会传入一个变量，叫 adjective（你要查询的单词）
    input_variables=["adjective"],
)
print(
similar_prompt.invoke({"adjective": "worried"}).to_messages()[0].content
)