openai-api - GPT3 插入完成 - 无效参数 :suffix

Question

我正在尝试使用插入完成。

看来我应该使用一个名为 suffix: 的参数来告知插入结束的位置。

端点的负载:POST/v1/completions

{
  "model": "code-davinci-002",
  "prompt": "Write a JSON document for a person with first name, last name, email and phone number\n\n{\n",
  "suffix": "\n}",
  "temperature": 0,
  "max_tokens": 256,
  "top_p": 1,
  "frequency_penalty": 0,
  "presence_penalty": 0
}

我尝试通过 GPT3 的 ruby​​ 实现来做到这一点。

parameters
=> {
:model=>"code-davinci-001",
 :prompt=>"generate some JSON for a person with first and last name {",
 :max_tokens=>250,
 :temperature=>0,
 :top_p=>1,
 :frequency_penalty=>0,
 :presence_penalty=>0,
 :suffix=>"\n}"}

post(url: "/v1/completions", parameters: parameters)

suffix 出现无效参数错误

{"error"=>{"message"=>"Unrecognized request argument supplied: suffix", "type"=>"invalid_request_error", "param"=>nil, "code"=>nil}}

Answer 1

我查看了来自 OpenAI 的有效负载与来自 Ruby 库的有效负载，发现了问题。

我的 ruby​​ 库将模型设置为 code-davinci-001，而 OpenAI 使用的是 code-davinci-002。

只要我在调试中手动更改模型:属性，补全就开始正常工作。

{
  "id"=>"cmpl-5yJ8b01Cw26W6ZIHoRSOb71Dc4QvH",
  "object"=>"text_completion",
  "created"=>1665054929,
  "model"=>"code-davinci-002",
  "choices"=>
  [{"text"=>"\n    \"firstName\": \"John\",\n    \"lastName\": \"Smith\"",
    "index"=>0,
    "logprobs"=>nil,
    "finish_reason"=>"stop"}],
  "usage"=>{"prompt_tokens"=>14, "completion_tokens"=>19, 
 "total_tokens"=>33}
}