LangChain代理与OpenAI函数调用：解决工具执行失败问题

新闻中心 NEWS CENTER

您当前位置：首页 > 新闻中心 > 网络学院

LangChain代理与OpenAI函数调用：解决工具执行失败问题

2025-11-05

浏览次数：次

返回列表

LangChain代理与OpenAI函数调用：解决工具执行失败问题

本文深入探讨了langchain csv/pandas代理在使用特定大型语言模型（llm）时，未能执行工具函数，反而直接返回json函数调用描述的问题。核心原因在于llm未针对openai函数调用格式进行微调。文章提供了两种解决方案：一是切换至支持openai函数调用的模型，如gpt系列；二是更改代理类型为`zero_shot_react_description`，以适应非函数调用模型。通过代码示例，指导开发者正确配置langchain代理，确保其功能正常运行。

理解LangChain代理与工具调用机制

LangChain框架中的代理（Agents）旨在赋予大型语言模型（LLM）使用外部工具的能力，以执行特定任务，例如数据分析、信息检索或代码执行。CSV代理和Pandas Dataframe代理是langchain-experimental库中常用的工具包，它们允许LLM通过Python代码对CSV数据进行操作和分析。

当使用AgentType.OPENAI_FUNCTIONS类型的代理时，LangChain会利用OpenAI模型特有的函数调用能力。在这种模式下，LLM接收用户请求后，会生成一个结构化的JSON对象，描述需要调用的工具及其参数。LangChain代理的预期行为是接收到这个JSON后，自动调用对应的工具（例如Python REPL），执行代码，并将结果反馈给LLM，最终由LLM生成自然语言的回复。

问题描述：代理未能执行工具调用

在某些情况下，开发者可能会遇到LangChain代理未能按预期执行工具的问题。具体表现为，当代理接收到LLM生成的JSON函数调用描述后，它没有进一步调用工具，而是直接将这个JSON对象作为结果返回给了用户。例如，当用户提问“有多少行？”时，代理本应执行df.shape[0]或len(df)并返回数字结果，但却可能返回如下JSON：

{
  "function": "python_repl_ast",
  "parameters": {
    "query": "len(df)"
  }
}

这表明LLM成功识别了需要执行的操作并以函数调用格式输出了指令，但代理层并未将这些指令转化为实际的工具执行。

根本原因分析：LLM与函数调用格式的兼容性

此问题的核心在于所使用的大型语言模型（LLM）与OpenAI函数调用格式的兼容性。AgentType.OPENAI_FUNCTIONS代理类型依赖于LLM能够理解并生成符合OpenAI函数调用规范的JSON结构。然而，并非所有LLM都经过了这种特定格式的微调。例如，mistralai/mixtral-8x7b-instruct等模型，在未经额外微调的情况下，可能无法正确地与OpenChain的OPENAI_FUNCTIONS代理类型协同工作，导致它们虽然能“模仿”生成JSON，但代理却无法将其识别为可执行的函数调用。

解决方案

解决此问题主要有两种策略，分别从LLM选择和代理类型配置两方面入手。

方案一：更换支持OpenAI函数调用的LLM

最直接的解决方案是使用明确支持OpenAI函数调用的模型。OpenAI官方提供的模型，如gpt-3.5-turbo和gpt-4系列，都经过了专门的微调，能够完美地与AgentType.OPENAI_FUNCTIONS配合。

VALL-E

VALL-E是一种用于文本到语音生成 (TTS) 的语言建模方法

134 查看详情 VALL-E

示例代码修改：

import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType
from langchain_experimental.agents.agent_toolkits import create_csv_agent

# ... 其他不变的配置 ...

def main():
    filepath = input("Enter the path to the CSV file: ")

    # 更改LLM模型为支持OpenAI函数调用的模型
    # 例如，使用OpenAI官方的gpt-3.5-turbo
    # 注意：如果使用OpenRouter，请确保其代理的gpt-3.5-turbo模型支持函数调用
    chat_model_openai_functions_compatible = ChatOpenAI(
        api_key=os.environ.get("OPENAI_API_KEY"), # 使用OpenAI官方API Key
        model="gpt-3.5-turbo", # 更改为支持函数调用的模型
        temperature=0.0,
    )

    agent = create_csv_agent(
        chat_model_openai_functions_compatible, # 使用兼容的LLM
        filepath,
        verbose=True,
        # openai_model参数通常在create_csv_agent内部处理，如果外部ChatOpenAI已指定，此处可省略
        # agent_type保持为OPENAI_FUNCTIONS
        agent_type=AgentType.OPENAI_FUNCTIONS,
    )
    while True:
        user_message = input("You: ")
        lower_message = user_message.lower()
        if lower_message == "goodbye" or lower_message == "goodbye!":
            break
        response = agent.run(user_message)
        print(f"Agent: {response}")

if __name__ == "__main__":
    main()

注意事项：

确保您有相应模型的API密钥。
如果您通过OpenRouter等代理服务访问模型，请确认该服务提供的gpt-3.5-turbo或其他模型确实支持OpenAI的函数调用规范。

方案二：更改代理类型以适应非函数调用模型

如果必须使用不支持OpenAI函数调用格式的模型（例如，出于成本、性能或特定模型特性考虑），则需要更改代理的类型。AgentType.ZERO_SHOT_REACT_DESCRIPTION是一种常见的替代方案。这种代理类型不依赖于LLM生成结构化的JSON函数调用，而是通过LLM生成一系列文本形式的思考（Thought）和行动（Action）指令，LangChain代理会解析这些文本指令并执行相应的工具。

示例代码修改：

import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType
from langchain_experimental.agents.agent_toolkits import create_csv_agent

api_key = os.environ.get("OPENROUTER_API_KEY")
api_base = "https://openrouter.ai/api/v1"
model = "mistralai/mixtral-8x7b-instruct" # 保持使用原模型

chat_model = ChatOpenAI(
    api_key=api_key,
    base_url=api_base,
    model=model,
    temperature=0.0,
)

def main():
    filepath = input("Enter the path to the CSV file: ")

    agent = create_csv_agent(
        chat_model,
        filepath,
        verbose=True,
        # 移除openai_model参数，因为它通常与OPENAI_FUNCTIONS类型相关联
        # 更改代理类型为ZERO_SHOT_REACT_DESCRIPTION
        agent_type=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
    )
    while True:
        user_message = input("You: ")
        lower_message = user_message.lower()
        if lower_message == "goodbye" or lower_message == "goodbye!":
            break
        response = agent.run(user_message)
        print(f"Agent: {response}")

if __name__ == "__main__":
    main()

注意事项：

ZERO_SHOT_REACT_DESCRIPTION代理类型会生成更长的交互日志（当verbose=True时），因为它会详细记录LLM的思考过程。
不同的代理类型对LLM的提示词（prompt）结构有不同的要求，但LangChain的create_csv_agent等工具包会负责处理这些内部细节。
除了ZERO_SHOT_REACT_DESCRIPTION，LangChain还提供了其他多种代理类型，开发者可以根据所用LLM的特点和具体需求进行选择。

总结

在LangChain中，当CSV/Pandas代理未能执行工具调用而直接返回JSON函数描述时，通常是由于所选LLM与AgentType.OPENAI_FUNCTIONS所需的OpenAI函数调用格式不兼容。解决此问题的关键在于：要么选择一个明确支持OpenAI函数调用的LLM（如gpt-3.5-turbo），要么将代理类型切换为ZERO_SHOT_REACT_DESCRIPTION等不依赖于特定函数调用格式的类型。理解并正确配置LLM与代理类型之间的匹配关系，是确保LangChain代理正常工作的关键。

以上就是LangChain代理与OpenAI函数调用：解决工具执行失败问题的详细内容，更多请关注其它相关文章！

# 提供给 # 红河网络推广网站 # 汕头网站优化推广多少钱 # 江苏营销推广服务 # 东莞外包营销推广招聘 # 推广营销网站推荐 # 公司网站建设营销 # 负面seo知名乐云seo专家 # 网络营销推广故事 # 阜新建设网站套餐 # 网站建设选用苏州梦易行 # 自然语言 # 如果您 # 情况下 # 结构化 # 依赖于 # react # 工具包 # 是一种 # 加载 # 后端 # gpt-4 # gpt # openai # ai # csv # 工具 # go # json # js # python