gpt4 book ai didi

openai-api - OpenAI API Codex 模型中的上下文窗口长度

转载 作者:行者123 更新时间:2023-12-02 22:45:55 31 4
gpt4 key购买 nike

完成窗口长度是否包含在 OpenAI Codex 模型的上下文窗口长度中?

对于 da-vinci,上下文窗口长度设置为 4000 个标记。

据我了解,举个例子,如果提示长度是3500个 token ,那么剩下的500就是用来完成的。并且无法使用整个 4000 token 作为提示。

我很确定我的理解,但让知识渊博的人确认它会很有帮助。

最佳答案

da-vinci 的上下文长度为 4096 个标记。响应的提示 token 和max_tokens不能大于上下文长度。

这是来自 OpenAI API 文档:

The token count of your prompt plus max_tokens cannot exceed the model's context length. Most models have a context length of 2048 tokens (except for the newest models, which support 4096).

引用:https://platform.openai.com/docs/api-reference/completions/create

关于openai-api - OpenAI API Codex 模型中的上下文窗口长度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/75403409/

31 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com