python - 为Langchain创建load_summarize_chain，指定chain_type=map_reduce。使用提示时出现错误

Question

我正在尝试使用我自己创建的提示为 Langchain 创建 load_summarize_chain。

llm = ChatOpenAI(model_name="gpt-3.5-turbo", temperature=0.7)
PROMPT = PromptTemplate(template=prompt_template, input_variables=["text"])
chain = load_summarize_chain(llm, chain_type="refine", verbose=True, prompt=PROMPT)

但是，只有当 chain_type 设置为“stuff”时，我才能成功创建链。当我尝试将其指定为“map_reduce”或“refine”时，我收到如下错误消息:

ValidationError: 1 validation error for RefineDocumentsChain
prompt
  extra fields not permitted (type=value_error.extra)

这是怎么回事？

我认为这可能是因为“map_reduce”或“refine”无法直接在load_summarize_chain中指定自定义提示，或者其他一些原因。

Answer 1

当您的chain_type='map_reduce'时，您应该传递的参数是map_prompt和combine_prompt，您的最终代码将如下所示

chain = load_summarize_chain(llm, chain_type="map_reduce",verbose=True,map_prompt=PROMPT,combine_prompt=COMBINE_PROMPT)

其中 PROMPT 和 COMBINE_PROMPT 是使用 PromptTemplate 生成的自定义提示

并且当您的 chain_type='refine' 时，您应该传递的参数是 refine_prompt 并且您的最终代码块如下所示

chain = load_summarize_chain(llm, chain_type="refine",verbose=True,refine_prompt=PROMPT)