openai-api - 如何将较长的文本输入发送到 ChatGPT API？

Question

我们有一个 ChatGPT 的用例，用于总结长文本(语音到文本的对话可能超过一个小时)。

但是我们发现，由于 token 限制，4k token 限制往往会导致输入文本被截断为一半左右。

零件中的处理似乎没有保留先前零件的历史记录。

我们有哪些选项可以提交超过 4k 代币的较长请求？

Answer 1

最接近您问题的答案将采用嵌入的形式。

您可以找到它们的概述 here .

我建议您查看this code来自 OpenAI Cookbook Github 页面，该页面使用网络爬行问答示例来解释嵌入。

我使用了第 5 步以后的代码，并更改了文本的位置，将其指向包含长文本的文件。

来自:

# Open the file and read the text
with open("text/" + domain + "/" + file, "r", encoding="UTF-8") as f:
    text = f.read()

至:

# Open the file and read the text
with open("/my_location/long_text_file.txt", "r", encoding="UTF-8") as f:
    text = f.read()

并将第 13 步中的问题修改为我需要了解的有关文本的内容。