用Agent和工具搭建你的私人助理

2024/12/2 21:03:22

本文主要是介绍用Agent和工具搭建你的私人助理,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

大型语言模型单独使用时无法获取外部或实时数据,这是它们的一大限制。了解如何使用LangChain代理和Gemini(一种技术工具)构建你的个人助理,并基于外部来源进行扩展。 简要说明:
  1. 大型语言模型的问题
  2. 什么是代理、工具和链?
  3. 创建一个不使用工具的简单聊天
  4. 使用谷歌的方法进行功能调用,将工具添加到我们的聊天中
  5. 使用Langchain的方式进行代理操作,将工具添加到我们的聊天中
  6. 给我们的代理添加记忆功能
  7. 创建一个包含人工验证环节的链
  8. 使用搜索引擎工具
1. 大规模语言模型的问题

所以你有你最喜欢的聊天机器人,你用它来提高你的工作效率,帮助你更好地完成日常任务。它可以帮你翻译文本,写邮件,讲笑话。有一天,你的同事突然来找你,问你:

你知道现在美元和欧元的汇率吗?我在考虑要不要把欧元换成美元,你觉得呢?

你向你最喜爱的聊天机器人提问,得到的答案蹦出来了。

抱歉,我不能完成这个请求。
我没有实时信息的访问权限,包括像汇率这样的金融数据。

这里有什么问题?

问题是,你碰到了大型语言模型(LLM)的一个弱点。这些模型在解决许多类型的问题上非常强大,例如文本摘要、生成等等。

但是,他们,面临以下限制:

  • 训练后它们就会被冻结,导致知识变得陈旧。
  • 它们无法查询或修改外部的数据。

就像我们每天使用搜索引擎来查找信息、阅读书籍和文档或查询数据库一样,我们希望把这些知识告诉我们的大语言模型,让它更高效。

好,有一个办法可以做到这一点:使用工具和代理程序。

虽然基础模型在文本和图像生成方面表现出色,但它们仍然无法与外部世界互动。工具可以弥补这一不足,使代理能够与外部数据和服务互动,从而解锁更多超出基础模型本身能力范围的行动。

(来源:Google 白皮书)

我们可以利用代理和工具,在聊天界面里做到这些:

  • 从我们自己的文件中检索数据
  • 读发邮件
  • 与内部数据库互动
  • 实时谷歌搜索
  • 等等
  1. 什么是代理、工具和链?

一个 代理 是一个应用程序,它试图通过使用一组工具,并根据对环境的观察来做出决策,从而实现目标或完成任务。

比如,如果你需要计算一个复杂的数学问题(目标),你可以选择用计算器(工具#1)来做简单加法,或者用编程语言(工具#2)来处理更复杂的算法。

所以,代理包括:

  • 一个模型:我们代理的大脑是大语言模型(LLM),它将理解查询(目标),并浏览其可用工具以选择最适合的。
  • 一个或多个工具:这些是用于执行特定任务的函数或API(例如,获取美元和欧元的当前汇率、执行加法计算等)。
  • 一个编排过程:这是定义模型如何分析问题、精炼输入和选择工具的认知过程。例如,这样的过程包括ReAct、CoT(思维链)、ToT(思维树)。

如下工作流解释:

作者供图

‘链’有些不同。相比之下,代理可以自主‘决定’要做什么以及采取哪些步骤,而链只是由一系列预设步骤组成的。链仍可依赖工具,也就是说,它们可以包含一个选择可用工具的步骤。我们会在后面详细讨论这一点。

3. 创建一个简单的聊天,无需任何工具

为了说明我们的观点,我们将先来看看我们的LLM表现得怎么样。

我们来安装需要的库:

    vertexai==1.65.0  
    langchain==0.2.16  
    langchain-community==0.2.16  
    langchain-core==0.2.38  
    langchain-google-community==1.0.8  
    langchain-google-vertexai==1.0.6

使用谷歌的Gemini LLM来创建我们这个非常简单的聊天程序。

from vertexai.generative_models import GenerativeModel, GenerationConfig

gemini_model = GenerativeModel(
    "gemini-1.5-flash",
    generation_config=GenerationConfig(temperature=0),
)
chat = gemini_model.start_chat()

如果你运行这个简单的聊天并问现在的汇率,可能会收到类似的回答:

    response = chat.send_message("当前美元对欧元的汇率是多少?")  
    answer = response.candidates[0].content.parts[0].text  

    --- 输出 ---  
    "很抱歉,我无法满足此请求。我没有实时金融信息的访问权限,包括像汇率这样的信息。"  

一点都不奇怪,因为我们知道大语言模型不能拿到最新的信息。

让我们添加一个工具来实现这个功能。我们的工具是一个调用API来实时获取汇率的小功能。

    # 获取汇率从API函数定义,该函数用于从API获取货币汇率。
    def 获取汇率从API(params):  
        url = f"https://api.frankfurter.app/latest?from={params['currency_from']}&to={params['currency_to']}"  
        print(url)  
        api_response = requests.get(url)  
        return api_response.text  

    # 下面试试看 !
    获取汇率从API({'currency_from': 'USD', 'currency_to': 'EUR'})  
    ---  
    '{"amount":1.0,"base":"USD","date":"2024-11-20","rates":{"EUR":0.94679}}'

现在我们知道我们的工具是如何工作的,我们希望聊天LLM使用这个功能来回答我们的问题。所以我们要创建一个单一功能代理。我在这里列出来一些选项。

  • 使用 Google 的 Gemini 聊天 API 并启用功能调用。
  • 使用 LangChain 的 API 并利用代理和工具。

两者各有优缺点。本文的目的也是向你展示这些可能性,让你自己做决定,更喜欢哪一个。

4. 在我们的聊天中添加工具:像谷歌那样通过功能调用

主要有两种方法可以把一个函数变成工具。

第一种方法是使用“字典”方式,在工具中指定输入及函数的描述,重要的参数是:

  • 函数名(要明确)
  • 描述:这里需要详细描述,详细的信息有助于大语言模型选择正确的工具
  • 参数:在这里指定参数(类型和描述)。同样,详细描述参数,以帮助大语言模型知道如何传递参数给函数
    import requests  

    from vertexai.generative_models import FunctionDeclaration  

    get_exchange_rate_func = FunctionDeclaration(  
        name="get_exchange_rate",  
        description="获取两国之间货币的汇率.",  
        parameters={  
        "type": "object",  
        "properties": {  
            "currency_from": {  
                "type": "string",  
                "description": "从ISO 4217格式货币"  
            },  
            "currency_to": {  
                "type": "string",  
                "description": "转换成ISO 4217格式货币"  
            }  
        },  
            "required": [  
                "currency_from",  
                "currency_to",  
          ]  
      },  
    )

第二种使用Google SDK添加工具的方法是通过from_func实例化。这需要我们修改函数,使其更加明确,例如添加文档字符串。我们不再在工具创建上冗长描述,而是通过详细说明函数。

    # 编辑我们的函数  
    def get_exchange_rate_from_api(currency_from: str, currency_to: str):  
        """  
        从 API 获取指定货币之间的汇率  

        参数:  
            currency_from (str): 源货币,ISO 4217 格式  
            currency_to (str): 目标货币,ISO 4217 格式  
        """  
        url = f"https://api.frankfurter.app/latest?from={currency_from}&to={currency_to}"  
        api_response = requests.get(url)  
        return api_response.text  

    # 创建功能  
    get_exchange_rate_func = FunctionDeclaration.from_func(  
      get_exchange_rate_from_api  
    )

下一步实际上是创建工具。为此,我们将把FunctionDeclaration添加到一个列表中,以创建Tool对象。

    from vertexai.generative_models import Tool as VertexTool  

    tool = VertexTool(  
        function_declarations=[  
            get_exchange_rate_func,  
            # 在这里添加更多函数  
        ]  
    )

让我们现在将这个问题传递给聊天,看看它能不能回答我们关于汇率的问题!记得,在没有工具的情况下,我们的聊天曾经回答过。

让我们试试看谷歌的调用功能工具,看看这是否管用!首先,我们把问题发到聊天里试试。

    from vertexai.generative_models import GenerativeModel  

    gemini_model = GenerativeModel(  
        "gemini-1.5-flash",  
        generation_config=GenerationConfig(temperature=0),  
        tools=[tool] # 添加工具  
    )  
    chat = gemini_model.start_chat()  

    response = chat.send_message(prompt)  

    # 提取函数调用响应  
    response.candidates[0].content.parts[0].function_call  

    --- 输出 ---  
    """  
    name: "get_exchange_rate"  
    args {  
      fields {  
        key: "currency_to"  
        value {  
          string_value: "EUR"  
        }  
      }  
      fields {  
        key: "currency_from"  
        value {  
          string_value: "USD"  
        }  
      }  
      fields {  
        key: "currency_date"  
        value {  
          string_value: "latest"  
        }  
      }  
    }"""  

LLM 正确地猜到它需要使用 get_exchange_rate 函数,并且也正确地猜到这两个参数是 USDEUR

但这还远远不够。我们现在真正想要的是运行这个函数来得到我们的结果。

    # 映射函数名和函数的字典
    function_handler = {  
        "get_exchange_rate": get_exchange_rate_from_api,  
    }  

    # 提取函数调用名称
    function_name = function_call.name
    print("#### 预测的函数名称")
    print(function_name, "\n")  

    # 提取函数调用参数
    params = {key: value for key, value in function_call.args.items()}
    print("#### 预测的函数参数")
    print(params, "\n")  

    function_api_response = function_handler[function_name]()  
    print("#### API 响应")
    print(function_api_response)  
    response = chat.send_message(  
        Part.from_function_response(  
            name=function_name,  
            response={"content": function_api_response},  
        ),  
    )     
    print("\n#### 最终答案")
    print(response.candidates[0].content.parts[0].text)  

    --- 输出 ---
    """  
    #### 预测的函数名称
    get_exchange_rate   

    #### 预测的函数参数
    {'currency_from': 'USD', 'currency_date': 'latest', 'currency_to': 'EUR'}   

    #### API 响应
    {"amount":1.0,"base":"USD","date":"2024-11-20","rates":{"EUR":0.94679}}  

    #### 最终答案
    当前 USD 对 EUR 的汇率是 0.94679。也就是说,1 美元等于 0.94679 欧元。  
    """

现在我们的聊天机器人能回答问题了!它能:

  • 正确地猜出了应该调用的函数是 get_exchange_rate
  • 正确地设置了函数 get_exchange_rate 的参数 {‘currency_from’: ‘USD’, ‘currency_to’: ‘EUR’}
  • 成功从 API 获取了结果
  • 并将结果以易于理解的格式进行了格式化

我们现在来看看使用LangChain的另一种方式。

5. 在我们的聊天中添加工具:Langchain的代理方式

LangChain 是一款用于构建 LLM 的可组合框架。它是可控制的代理工作流的流程编排框架。大型语言模型。

就像我们以前为“Google”做的一样,从现在开始,我们将用Langchain的方式构建工具。我们从定义函数开始。同样地,对于Langchain,我们也需要在文档字符串中详尽地描述。

    从 langchain_core.tools 导入 tool  

    @tool  
    def 获取汇率(currency_from: str, currency_to: str) -> str:  
        """  
        返回两种货币之间的汇率  
        参数说明:  
            currency_from: str  
            currency_to: str  
        """  
        url = f"https://api.frankfurter.app/latest?from={currency_from}&to={currency_to}"  
        # 获取汇率数据的API请求URL  
        api_response = requests.get(url)  
        return api_response.text

为了好玩一点,我将添加另一个可以列出 BigQuery 数据集中表格的工具。下面是一个代码示例:

[此处为代码段]
    @工具装饰器  
    def list_tables(project: str, dataset_id: str) -> list:  
        """  
        返回 Bigquery 表格的列表  
        参数说明:  
            project: GCP 项目 ID  
            dataset_id: 数据集 ID  
        """  
        client = bigquery.Client(project=project)  
        try:  
            response = client.list_tables(dataset_id)  
            return [table.table_id for table in response]  
        except Exception as e:  
            return f"无法在项目 {params['project']} 中找到数据集 {dataset_id}, 请检查并指定正确的数据集和项目名称"

完成之后,我们就把这些功能加入到LangChain工具箱里!

    langchain_tool = [  
        list_tables,  
        从API获取汇率  
    ]

要构建我们的代理,我们将利用LangChain提供的AgentExecutor对象。这个对象主要需要3个我们之前定义过的组件,即我们之前定义的三个组件。

• 一个LLM模型
• 一个提示词
• 和工具

我们先选我们的大型语言模型:

    gemini_llm = ChatVertexAI(model="gemini-1.5-flash")  # 这里初始化了一个名为gemini_llm的人工智能对话模型

然后我们创建一个提示来管理聊天:

    prompt = ChatPromptTemplate.from_messages,  
        [  
            ("system", "你是一个乐于助人的助手"),  
            ("human", "{input}"),  
            // 占位符可以是 {agent_scratchpad}  
            ("placeholder", "{agent_scratchpad}"),  
        ]  
    )

最后,我们创建 AgentExecutor 并运行查询请求:

    agent = create_tool_calling_agent(gemini_llm, langchain_tools, prompt)  
    agent_executor = AgentExecutor(agent=agent, tools=langchain_tools)  
    agent_executor.invoke({  
        "input": "thelook_ecommerce 数据集中有哪些表?"  
    })  

    --- 输出 ---  
    """  
    {'input': 'thelook_ecommerce 数据集中有哪些表?',  
     'output': '在 gcp-project-id 项目中找不到 thelook_ecommerce 数据集。   
                请指定正确的数据集和项目。'}  
    """  

嗯。这个代理好像少了一个参数,或者是想获得更多详情……我们这样回复,提供更多信息:

    agent_executor.invoke({"input": "项目ID是bigquery-public-data"})  

    --- 输出 ---  
    """  
    {'input': '项目ID是bigquery-public-data',  
     'output': '好。还有别的我能帮您的吗? \n'}  
    """  

唉,看来我们又回到了起点。LLM 被告知了项目ID,却忘了问题。我们的代理似乎没有记住之前的问题和答案的记忆。或许我们应该考虑一下其他办法……

6. 给我们的代理增加记忆.

记忆是代理中的另一个概念,它基本上帮助系统记住对话历史,避免陷入像上面那样的无尽循环。可以把记忆想象成笔记本,LLM 在上面记录之前的问答内容,以构建对话的背景信息。

我们将修改模型的提示(指令),使其包含记忆。

    from langchain_core.chat_history import InMemoryChatMessageHistory  
    from langchain_core.runnables.history import RunnableWithMessageHistory  

    # 在 Langchain 中可以找到不同类型的记忆  
    memory = InMemoryChatMessageHistory(session_id="foo")  

    prompt = ChatPromptTemplate.from_messages(  
        [  
            ("system", "你是一个乐于助人的助手。"),  
            # 先放历史记录  
            ("placeholder", "{chat_history}"),  
            # 然后是新的输入  
            ("human", "{input}"),  
            # 最后是草稿区  
            ("placeholder", "{agent_scratchpad}"),  
        ]  
    )  

    # 这部分保持不变  
    agent = create_tool_calling_agent(gemini_llm, langchain_tools, prompt)  
    agent_executor = AgentExecutor(agent=agent, tools=langchain_tools)  

    # 我们给它添加了记忆部分和聊天历史  
    agent_with_chat_history = RunnableWithMessageHistory(  
        agent_executor,  
        lambda session_id: memory,  
        input_messages_key="input",   
        history_messages_key="chat_history",  
    )  

    config = {"configurable": {"session_id": "foo"}}

我们现在从头重新运行查询:

    agent_with_chat_history.invoke({  
        "input": "thelook_ecommerce 数据集中有哪些表?"  
        },   
        config  
    )  

    --- 输出 ---  
    """  
    {'input': 'thelook_ecommerce 数据集中有哪些表?',  
     'chat_history': [],  
     'output': '在 `gcp-project-id` 项目中找不到 `thelook_ecommerce` 数据集。请问您能否提供正确的数据集和项目信息?'}  
    """

当聊天记录是空的时候,模型还是在问项目ID。这和我们之前用的没有记忆的代理一样。我们回复代理补上缺少的信息吧,

    reply = "回复"  
    agent_with_chat_history.invoke({"input": reply}, config)  

    --- 输出 ---  
    """  
    {'input': '项目ID是bigquery-public-data',  
     'chat_history': [HumanMessage(content='thelook_ecommerce 数据集中有哪些表呀?'),  
      AIMessage(content='未在 `gcp-project-id` 项目中找到 `thelook_ecommerce` 数据集。请指定正确的数据集和项目名称。\n')],  
     'output': '在 `thelook_ecommerce` 数据集中,你可以找到以下表:\n- distribution_centers。\n- events。\n- inventory_items。\n- order_items。\n- orders。\n- products。\n- users。\n'}  
    """

注意输出中的:

  • 聊天记录的内容记录了之前的问答内容
  • 现在输出的是表格列表哦。
    'output': '在 `thelook_ecommerce` 数据集中有以下表格:\n- 配送中心\n- events\n- inventory_items\n- order_items\n- orders\n- products\n- users\n'}

然而,在某些情况下,因为这些操作的特殊性(例如删除数据库中的记录、修改和编辑信息、发送电子邮件等),这些操作可能需要特别关注。如果完全自动化且不加以控制,可能导致代理做出错误决定并造成损害。

一种确保我们工作流程安全的方法是加入一个人工审核环节。

  1. 创建一个包含人工验证环节的链

链条和代理在某些方面有所不同。代理可以自由选择是否使用工具,而链条则相对固定。它是由一系列固定的步骤组成的,但我们仍然可以在其中加入一个步骤,让LLM从一组工具中做出选择。

在LangChain中,我们使用LCEL来构建链。
LCEL是LangChain表达式语言,它是一种声明性的方式,使链的组合变得简单。LangChain中的链使用管道|(管道符号)操作符来指示步骤执行的顺序,例如步骤1 | 步骤2 | 步骤3 ...。与代理不同,链将严格按照这些步骤执行,而代理可以自主决定,独立于其决策过程。

我们这里将这样来做,以构建一个简单的 prompt | llm

    # 定义一个带有记忆的提示
    prompt = ChatPromptTemplate.from_messages(
        [  
            ("system", "你是一个乐于助人的助手。"),
            # 先放历史记录
            ("placeholder", "{chat_history}"),
            # 然后放新的输入
            ("human", "{input}"),
            # 最后放草稿板
            ("placeholder", "{agent_scratchpad}"),
        ]  
    )

    # 将工具与LLM绑定
    gemini_with_tools = gemini_llm.bind_tools(langchain_tool)

    # 构建这条链
    chain = prompt | gemini_with_tools

还记得我们在上一步中给RunnableWithMessageHistory传入了一个代理对象吗?在这里,我们也将做同样的事,但是...

    # 使用AgentExecutor

    # agent = create_tool_calling_agent(gemini_llm, langchain_tool, prompt)  
    # agent_executor = AgentExecutor(agent=agent, tools=langchain_tool)  

    # agent_with_chat_history = RunnableWithMessageHistory(  
    #     agent_executor,  
    #     lambda session_id: memory,  
    #     input_messages_key="input",  
    #     history_messages_key="chat_history",  
    # )  

    config = {"configurable": {"session_id": "foo"}}  

    # 使用Chains  
    memory = InMemoryChatMessageHistory(session_id="foo")  
    chain_with_history = RunnableWithMessageHistory(  
        chain,  
        lambda session_id: memory,  
        input_messages_key="input",  
        history_messages_key="chat_history",  
    )  

    response = chain_with_history.invoke(  
        {"input": "当前的瑞郎欧元汇率是多少?"}, config)  

    --- 输出  
    """  
    content='',   
    additional_kwargs={  
        'function_call': {  
            'name': 'get_exchange_rate_from_api',   
            'arguments': '{"currency_from": "CHF", "currency_to": "EUR"}'  
        }  
    }  
    """  

与代理不同,链不会主动提供答案,除非我们明确告知它。在我们的情况下,它在大语言模型(LLM)返回需要调用的函数后停止了。

我们需要再加一步来实际使用这个工具。我们再加一个函数来运行工具。

    from langchain_core.messages 导入 AIMessage  

    def call_tools(msg: AIMessage) -> list[dict]:  
        """一个简单的顺序工具调用助手。"""  
        tool_map = {工具.map(lambda 工具: (工具.名称, 工具)) for 工具 in langchain_tool}  
        tool_calls = msg.tool_calls.copy()  
        for tool_call in tool_calls:  
            tool_call["output"] = tool_map[tool_call["name"]].invoke(tool_call["args"])  
        return tool_calls  

    chain = prompt | gemini_with_tools | call_tools # <-- 额外的步骤  

    chain_with_history = RunnableWithMessageHistory(  
        chain,  
        lambda session_id: memory,  
        input_messages_key="input",  
        history_messages_key="chat_history",  
    )  

    # 重新运行链路  
    chain_with_history.invoke({"input": "瑞郎对欧元的当前汇率是多少?"}, config)

我们现在得到了以下输出,这表明API调用成功了。

    [{'name': '从API获取汇率',  
      'args': {'currency_from': '源货币', 'currency_to': '目标货币'},  
      'id': '编号',  
      'type': '类型',  
      'output': '输出:`{"amount":1.0,"base":"USD","date":"2024-11-20","rates":{"EUR":0.94679}}`,这里的JSON数据表示转换结果。'
    }]

现在我们已经学会了如何连接步骤,让我们添加一个人工干预的步骤!我们希望这一步能检查LLM是否正确理解了我们的请求并将正确调用API。如果LLM误解了我们的请求或者错误地使用了函数,我们可以决定停止流程。

    def human_approval(msg: AIMessage) -> AIMessage:  
        """负责通过其输入或引发异常。  

        参数:  
            msg: 来自聊天模型的输出  

        返回:  
            msg: 来自msg的原始输出  
        """  
        for tool_call in msg.tool_calls:  
            print(f"我想使用函数 [{tool_call.get('name')}],带有以下参数:")  
            for k, v in tool_call.get('args').items():  
                print(" {} = {}".format(k, v))  

        print("")  
        input_msg = (  
            f"你批准吗 (Y|y)?\n\n"  
            ">>>"  
        )  
        resp = input(input_msg)  
        if resp.lower() not in ("yes", "y"):  
            raise NotApproved(f"工具调用未获批准:\n\n{tool_strs}")  
        return msg

接下来,在调用函数之前,将这个步骤添加到链中

    chain = prompt | gemini_with_tools | human_approval | call_tools  

    memory = InMemoryChatMessageHistory(session_id="foo")  

    chain_with_history = RunnableWithMessageHistory(  
        chain,  
        lambda session_id: memory,  
        input_messages_key="input",  
        history_messages_key="chat_history",  
    )  

    chain_with_history.invoke({"input": "当前的欧元兑瑞郎汇率是多少?"}, config)

你将被要求确认LLM是否理解正确。

这种人工介入步骤在关键的工作流程中非常有用,因为LLM的误判可能会带来严重的后果。

8. 使用搜索功能

实时获取信息最便捷的工具之一是搜索引擎。可以使用 GoogleSerperAPIWrapper(你需要注册并获取一个API密钥才能使用它),它提供了一个很好的界面来快速获取Google搜索结果。

幸好 LangChain 已经有一个现成的工具,我们不用自己动手写了。

那么,我们试着就昨天(11月20日)的事件提问,看看我们的代理能不能回答。我们的问题是关于拉斐尔·纳达尔最后的官方比赛(他在那场比赛中输给了范·德·赞舒普(van de Zandschulp))。

agent_with_chat_history 调用(
    {"input": "拉斐尔·纳达尔最近的比赛结果怎么样?"}, config)  

--- 输出 ---  
"""  
{'input': '拉斐尔·纳达尔最近的比赛结果怎么样?',  
 'chat_history': [],  
 'output': '我没有实时信息,包括最新的体育赛事结果。要获取拉斐尔·纳达尔比赛的最新信息,我建议你查看可靠的体育网站或新闻报道。'}  
"""

无法访问Google搜索,我们的模型也就无法回答,因为当时训练模型时并没有这些信息。

我们现在把Serper工具加入工具箱里,看看我们的模型能不能用Google搜索找信息。

    从 langchain_community.utilities 导入 GoogleSerperAPIWrapper()  

    # 在这里创建我们的新搜索工具  
    search = GoogleSerperAPIWrapper(serper_api_key="...")  

    @工具  
    def google_search(query: str):  
        """  
        在Google上进行搜索  
        参数:  
            query: 要用Google搜索获取的信息  
        """  
        return search.run(query)  

    # 将其添加到现有的工具列表中  
    langchain_tool = [  
        list_datasets,  
        list_tables,  
        get_exchange_rate_from_api,  
        google_search  
    ]  

    # 创建代理:  
    agent = create_tool_calling_agent(gemini_llm, langchain_tool, prompt)  
    agent_executor = AgentExecutor(agent=agent, tools=langchain_tool)  

    # 添加记忆:  
    memory = InMemoryChatMessageHistory()  
    agent_with_chat_history = RunnableWithMessageHistory(  
        agent_executor,  
        lambda session_id: memory(),  
        input_messages_key="input",  
        history_messages_key="chat_history",  
    )

再运行一遍我们的查询

调用 agent_with_chat_history({"input": "拉斐尔·纳达尔最近一场比赛的结果是什么?"}, config)  

--- 输出 ---  
"""  
{'input': '拉斐尔·纳达尔最近一场比赛的结果是什么?',  
 'chat_history': [],  
 'output': '拉斐尔·纳达尔最近一场比赛输给了博蒂奇·范·德·赞舒普,在戴维斯杯中西班牙被荷兰队淘汰了。'}  
"""
结论

LLM(大型语言模型)在处理个人、企业、私密或真实数据时往往遇到障碍。确实,在训练阶段这些信息往往是不可获取的。通过让这些模型能够与系统和API进行互动,并协调工作流程来提升效率,代理和工具则是增强这些模型的强力手段。



这篇关于用Agent和工具搭建你的私人助理的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程