gpt4 book ai didi

openai-api - 如何通过忽略停止序列在 OpenAi 中生成大文本?

转载 作者:行者123 更新时间:2023-12-02 05:46:29 24 4
gpt4 key购买 nike

我想在 openAi 中生成大文本,但问题出现在停止序列上。它只会为一个主题生成几个句子。有什么方法可以绕过 openAI 的停止序列吗?

最佳答案

你应该为此增加Maximum length参数,你使用的值越高,你得到的文本就越大。

max_tokens: integer, Optional, Defaults to 16.

The maximum number of tokens to generate in the completion.

提示的标记数加上 max_tokens 不能超过模型的上下文长度。大多数模型的上下文长度为 2048 个标记(最新模型除外,它支持 4096)。

参见 the official docs获取更多信息。

关于openai-api - 如何通过忽略停止序列在 OpenAi 中生成大文本?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/71852860/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com