本文深入探讨了langchain csv/pandas代理在使用特定大型语言模型（llm）时，未能执行工具函数，反而直接返回json函数调用描述的问题。核心原因在于llm未针对openai函数调用格式进行微调。文章提供了两种解决方案：一是切换至支持openai函数调用的模型，如gpt系列；二是更改代理类型为`zero_shot_react_description`，以适应非函数调用模型。通过代码示例，指导开发者正确配置langchain代理，确保其功能正常运行。
理解LangChain代理与工具调用机制
LangChain框架中的代理（Agents）旨在赋予大型语言模型（LLM）使用外部工具的能力，以执行特定任务，例如数据分析、信息检索或代码执行。CSV代理和Pandas Dataframe代理是langchain-experimental库中常用的工具包，它们允许LLM通过Python代码对CSV数据进行操作和分析。
当使用AgentType.OPENAI_FUNCTIONS类型的代理时，LangChain会利用OpenAI模型特有的函数调用能力。在这种模式下，LLM接收用户请求后，会生成一个结构化的JSON对象，描述需要调用的工具及其参数。LangChain代理的预期行为是接收到这个JSON后，自动调用对应的工具（例如Python REPL），执行代码，并将结果反馈给LLM，最终由LLM生成自然语言的回复。
问题描述：代理未能执行工具调用
在某些情况下，开发者可能会遇到LangChain代理未能按预期执行工具的问题。具体表现为，当代理接收到LLM生成的JSON函数调用描述后，它没有进一步调用工具，而是直接将这个JSON对象作为结果返回给了用户。例如，当用户提问“有多少行？”时，代理本应执行df.shape[0]或len(df)并返回数字结果，但却可能返回如下JSON：
{
"function": "python_repl_ast",
"parameters": {
"query": "len(df)"
}
}这表明LLM成功识别了需要执行的操作并以函数调用格式输出了指令，但代理层并未将这些指令转化为实际的工具执行。
根本原因分析：LLM与函数调用格式的兼容性
此问题的核心在于所使用的大型语言模型（LLM）与OpenAI函数调用格式的兼容性。AgentType.OPENAI_FUNCTIONS代理类型依赖于LLM能够理解并生成符合OpenAI函数调用规范的JSON结构。然而，并非所有LLM都经过了这种特定格式的微调。例如，mistralai/mixtral-8x7b-instruct等模型，在未经额外微调的情况下，可能无法正确地与OpenChain的OPENAI_FUNCTIONS代理类型协同工作，导致它们虽然能“模仿”生成JSON，但代理却无法将其识别为可执行的函数调用。
解决方案
解决此问题主要有两种策略，分别从LLM选择和代理类型配置两方面入手。
方案一：更换支持OpenAI函数调用的LLM
最直接的解决方案是使用明确支持OpenAI函数调用的模型。OpenAI官方提供的模型，如gpt-3.5-turbo和gpt-4系列，都经过了专门的微调，能够完美地与AgentType.OPENAI_FUNCTIONS配合。
示例代码修改：
import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType
from langchain_experimental.agents.agent_toolkits import create_csv_agent
# ... 其他不变的配置 ...
def main():
filepath = input("Enter the path to the CSV file: ")
# 更改LLM模型为支持OpenAI函数调用的模型
# 例如，使用OpenAI官方的gpt-3.5-turbo
# 注意：如果使用OpenRouter，请确保其代理的gpt-3.5-turbo模型支持函数调用
chat_model_openai_functions_compatible = ChatOpenAI(
api_key=os.environ.get("OPENAI_API_KEY"), # 使用OpenAI官方API Key
model="gpt-3.5-turbo", # 更改为支持函数调用的模型
temperature=0.0,
)
agent = create_csv_agent(
chat_model_openai_functions_compatible, # 使用兼容的LLM
filepath,
verbose=True,
# openai_model参数通常在create_csv_agent内部处理，如果外部ChatOpenAI已指定，此处可省略
# agent_type保持为OPENAI_FUNCTIONS
agent_type=AgentType.OPENAI_FUNCTIONS,
)
while True:
user_message = input("You: ")
lower_message = user_message.lower()
if lower_message == "goodbye" or lower_message == "goodbye!":
break
response = agent.run(user_message)
print(f"Agent: {response}")
if __name__ == "__main__":
main()注意事项：
- 确保您有相应模型的API密钥。
- 如果您通过OpenRouter等代理服务访问模型，请确认该服务提供的gpt-3.5-turbo或其他模型确实支持OpenAI的函数调用规范。
方案二：更改代理类型以适应非函数调用模型
如果必须使用不支持OpenAI函数调用格式的模型（例如，出于成本、性能或特定模型特性考虑），则需要更改代理的类型。AgentType.ZERO_SHOT_REACT_DESCRIPTION是一种常见的替代方案。这种代理类型不依赖于LLM生成结构化的JSON函数调用，而是通过LLM生成一系列文本形式的思考（Thought）和行动（Action）指令，LangChain代理会解析这些文本指令并执行相应的工具。
示例代码修改：
import os
from langchain.chat_models import ChatOpenAI
from langchain.agents.agent_types import AgentType
from langchain_experimental.agents.agent_toolkits import create_csv_agent
api_key = os.environ.get("OPENROUTER_API_KEY")
api_base = "https://openrouter.ai/api/v1"
model = "mistralai/mixtral-8x7b-instruct" # 保持使用原模型
chat_model = ChatOpenAI(
api_key=api_key,
base_url=api_base,
model=model,
temperature=0.0,
)
def main():
filepath = input("Enter the path to the CSV file: ")
agent = create_csv_agent(
chat_model,
filepath,
verbose=True,
# 移除openai_model参数，因为它通常与OPENAI_FUNCTIONS类型相关联
# 更改代理类型为ZERO_SHOT_REACT_DESCRIPTION
agent_type=AgentType.ZERO_SHOT_REACT_DESCRIPTION,
)
while True:
user_message = input("You: ")
lower_message = user_message.lower()
if lower_message == "goodbye" or lower_message == "goodbye!":
break
response = agent.run(user_message)
print(f"Agent: {response}")
if __name__ == "__main__":
main()注意事项：
- ZERO_SHOT_REACT_DESCRIPTION代理类型会生成更长的交互日志（当verbose=True时），因为它会详细记录LLM的思考过程。
- 不同的代理类型对LLM的提示词（prompt）结构有不同的要求，但LangChain的create_csv_agent等工具包会负责处理这些内部细节。
- 除了ZERO_SHOT_REACT_DESCRIPTION，LangChain还提供了其他多种代理类型，开发者可以根据所用LLM的特点和具体需求进行选择。
总结
在LangChain中，当CSV/Pandas代理未能执行工具调用而直接返回JSON函数描述时，通常是由于所选LLM与AgentType.OPENAI_FUNCTIONS所需的OpenAI函数调用格式不兼容。解决此问题的关键在于：要么选择一个明确支持OpenAI函数调用的LLM（如gpt-3.5-turbo），要么将代理类型切换为ZERO_SHOT_REACT_DESCRIPTION等不依赖于特定函数调用格式的类型。理解并正确配置LLM与代理类型之间的匹配关系，是确保LangChain代理正常工作的关键。
