javascript - 使用 GPT-3 text-davinci-003 时最大提示 token 不起作用

Question

我将 GPT-3 text-davinci-003 算法与 Node js 集成在一起，一切正常，但是当我们每次都有不同的传递 token 时，但每次 Same 都会回复 GPT-3 text-davinci-003 所以请给我解决方案。

 const response = await openai.createCompletion({
   model: text-davinci-003,
   prompt: 'what is javascript',
   temperature: 0.05,
   max_tokens: 1000,
   top_p: 0.5,
   frequency_penalty: 0,
   presence_penalty: 0,
   stop: ["END OF POLICY"]
});
           

我传递了 1000 个 token ，但这个回复只给了最大 token 160,180,210 喜欢，但我想给出大 token 回复

Answer 1

GPT-3 是一个非常复杂的文本完整引擎。根据其训练，当它完成提示时它就会停止。

增加 max_token 不一定能解决这个问题。

解决问题的方法是通过提示设计。您需要准确地告诉 GPT-3 您希望它如何响应。

使用您的示例，您可以将提示扩展为:

Write a very detailed essay on "What is JavaScript". Your answer should be approximately 750 words long and written in a style suitable for a university graduate.

在 OpenAI playground 中测试这个提示给了我大约 500 个 token 的响应。

根据 Playground 中的提示进行操作，直到找到所需的内容。