快速构建 LangChain 应用（三）

三、会话式检索链

到目前为止我们创建的链还只能回答单个问题。我们正在构建的最主要的 LLM 应用程序类型之一是聊天机器人。那么，我们如何将这个链转换成一个能够回答后续问题的链呢？

在这里，我们仍然可以使用 create_retrieval_chain 函数，但是我们需要改变两件事：

• 检索方法现在不仅应考虑最近的输入，还应考虑整个历史记录。

• 最终的 LLM 链也应考虑整个历史记录。

更新检索

为了更新检索，我们将创建一个新的链。这个链将输入（input）和对话历史记录（chat_history）作为输入，并使用一个 LLM 生成一个搜索查询。

from langchain.chains import create_history_aware_retriever
from langchain_core.prompts import MessagesPlaceholder

# 首先我们需要创建一个提示词，可以将其传递给 一个LLM 来生成这个搜索查询

prompt = ChatPromptTemplate.from_messages([
    MessagesPlaceholder(variable_name="chat_history"),
    ("user", "{input}"),
    ("user", "Given the above conversation, generate a search query to look up in order to get information relevant to the conversation")
])
retriever_chain = create_history_aware_retriever(llm, retriever, prompt)

我们可以通过构建如下例子来验证一下，其中用户输入的内容为询问后续问题(“Tell me how”)。

from langchain_core.messages import HumanMessage, AIMessage

chat_history = [HumanMessage(content="Can LangSmith help test my LLM applications?"), AIMessage(content="Yes!")]
retriever_chain.invoke({
    "chat_history": chat_history,
    "input": "Tell me how"
})

运行后可以看到，它返回了关于 LangSmith 中的测试相关文档。这是因为 LLM 生成了一个新的查询，这个查询将聊天历史与后续问题结合在一起。

现在我们有了这个新的检索器，就可以创建一个新的链，继续这个对话，同时使用这些检索到的文档。

prompt = ChatPromptTemplate.from_messages([
    ("system", "Answer the user's questions based on the below context:\n\n{context}"),
    MessagesPlaceholder(variable_name="chat_history"),
    ("user", "{input}"),
])
document_chain = create_stuff_documents_chain(llm, prompt)

retrieval_chain = create_retrieval_chain(retriever_chain, document_chain)

现在我们可以开始做一次从头到尾的测试：

chat_history = [HumanMessage(content="Can LangSmith help test my LLM applications?"), AIMessage(content="Yes!")]
retrieval_chain.invoke({
    "chat_history": chat_history,
    "input": "Tell me how"
})

我们可以看到，系统给出了一个连贯的答案。因此，我们成功地将检索链转换成了一个聊天机器人！

完整代码如下：

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.prompts import MessagesPlaceholder
from langchain_core.messages import HumanMessage, AIMessage
from langchain.chains import create_retrieval_chain
from langchain.chains import create_history_aware_retriever
from langchain.chains.combine_documents import create_stuff_documents_chain

from langchain_openai import ChatOpenAI
from langchain_openai import OpenAIEmbeddings

from langchain_community.document_loaders import WebBaseLoader
from langchain_community.vectorstores import FAISS

from langchain_text_splitters import RecursiveCharacterTextSplitter


loader = WebBaseLoader("https://docs.smith.langchain.com/user_guide")
docs = loader.load()

embeddings = OpenAIEmbeddings()

text_splitter = RecursiveCharacterTextSplitter()
documents = text_splitter.split_documents(docs)
vector = FAISS.from_documents(documents, embeddings)

llm = ChatOpenAI()
retriever = vector.as_retriever()


prompt = ChatPromptTemplate.from_messages([
    MessagesPlaceholder(variable_name="chat_history"),
    ("user", "{input}"),
    ("user", "Given the above conversation, generate a search query to look up in order to get information relevant to the conversation")
])
retriever_chain = create_history_aware_retriever(llm, retriever, prompt)

# chat_history = [HumanMessage(content="Can LangSmith help test my LLM applications?"), AIMessage(content="Yes!")]
# chat_msg = retriever_chain.invoke({
#     "chat_history": chat_history,
#     "input": "Tell me how"
# })

prompt = ChatPromptTemplate.from_messages([
    ("system", "Answer the user's questions based on the below context:\n\n{context}"),
    MessagesPlaceholder(variable_name="chat_history"),
    ("user", "{input}"),
])
document_chain = create_stuff_documents_chain(llm, prompt)

retrieval_chain = create_retrieval_chain(retriever_chain, document_chain)


chat_history = [HumanMessage(content="Can LangSmith help test my LLM applications?"), AIMessage(content="Yes!")]
response = retrieval_chain.invoke({
    "chat_history": chat_history,
    "input": "Tell me how"
})
print(response["answer"])