javascript - ApiChatGPT 剪切文本

Question

chatGPT API 正在剪辑响应文本。有办法解决这个问题吗？如果没有办法解决的话，如何去掉文字被 chop 的段落呢？有人可以帮助我吗？

// API_URL = https://api.openai.com/v1/completions

async function newUserMessage(newMessage) {
  try {
    const response = await axios.post(API_URL, {
      prompt: newMessage,
      model: 'text-davinci-003',
      max_tokens: 150
     }, {
      headers: {
        'Content-Type': 'application/json',
        'Authorization': `Bearer ${API_KEY}`,
      },
    });
    
    const { text } = response.data.choices[0];
    const newText = text.replace(/(\r\n|\n|\r)/gm, "");
    setResponse(newText);
    setQuery("");
   } catch (error) {
     console.error(error);
   }
 };

Answer 1

OpenAI 语言模型通过将文本划分为标记来处理文本。由于发送的文本超过 100 个 token 限制，API 响应被 chop 。为了避免这个问题，我将 max_tokens 属性设置为最大值。

这是我的解决方案:

const settings = {
  prompt: newMessage,
  model: 'text-davinci-003',
  temperature: 0.5,
  max_tokens: 2048,
  frequency_penalty: 0.5,
  presence_penalty: 0,
 }

这是我使用的文档:platform.openai.com/docs/api-reference/completions/create