flutter - 如何将 "system"消息添加到我的提示中？

Question

我一直在尝试将 gpt-3.5-turbo 集成到我的 Flutter 应用中，同时保留聊天记录。我使用 FlutterFlow 生成样板代码，然后下载代码以进一步编辑它。我已成功集成模型，同时维护聊天历史记录，但我无法弄清楚如何将“system”消息添加到提示中。

API调用代码如下:

class OpenAIChatGPTGroup {
  static String baseUrl = 'https://api.openai.com/v1';
  static Map<String, String> headers = {
    'Content-Type': 'application/json',
  };
  static SendFullPromptCall sendFullPromptCall = SendFullPromptCall();
}

class SendFullPromptCall {
  Future<ApiCallResponse> call({
    String? apiKey = 'sk-xxxxxxxxxx',
    dynamic? promptJson,
  }) {
    final prompt = _serializeJson(promptJson);
    final body = '''
{
  "messages": ${prompt},
  "temperature": 0.8,
  "model": "gpt-3.5-turbo"
}''';
    return ApiManager.instance.makeApiCall(
      callName: 'Send Full Prompt',
      apiUrl: '${OpenAIChatGPTGroup.baseUrl}/chat/completions',
      callType: ApiCallType.POST,
      headers: {
        ...OpenAIChatGPTGroup.headers,
        'Authorization':
            'Bearer sk-xxxxxxxxxx',
      },
      params: {},
      body: body,
      bodyType: BodyType.JSON,
      returnBody: true,
      encodeBodyUtf8: true,
      decodeUtf8: true,
      cache: false,
    );
  }

  dynamic createdTimestamp(dynamic response) => getJsonField(
        response,
        r'''$.created''',
      );
  dynamic role(dynamic response) => getJsonField(
        response,
        r'''$.choices[:].message.role''',
      );
  dynamic content(dynamic response) => getJsonField(
        response,
        r'''$.choices[:].message.content''',
      );
}

这是_serializeJson()函数:

String _serializeJson(dynamic jsonVar, [bool isList = false]) {
  jsonVar ??= (isList ? [] : {});
  try {
    return json.encode(jsonVar);
  } catch (_) {
    return isList ? '[]' : '{}';
  }
}

以下是提交按钮的 onPressed() 函数中的代码:

setState(() {
                                    _model.chatHistory =
                                        functions.saveChatHistory(
                                            _model.chatHistory,
                                            functions.convertToJSON(
                                                _model.textController.text));
                                  });
                                  _model.chatGPTResponse =
                                      await OpenAIChatGPTGroup
                                          .sendFullPromptCall
                                          .call(
                                    apiKey:
                                        'sk-xxxxxxxxxx',
                                    promptJson: _model.chatHistory,
                                  );

这是saveChatHistory()函数:

dynamic saveChatHistory(
  dynamic chatHistory,
  dynamic newChat,
) {
  // If chatHistory isn't a list, make it a list and then add newChat
  if (chatHistory is List) {
    chatHistory.add(newChat);
    return chatHistory;
  } else {
    return [newChat];
  }
}

这是convertToJSON()函数:

dynamic convertToJSON(String prompt) {
  // take the prompt and return a JSON with form [{"role": "user", "content": prompt}]
  return json.decode('{"role": "user", "content": "$prompt"}');
}

我尝试在 convertToJSON() 函数中添加 "system" 消息，如下所示:

dynamic convertToJSON(String prompt) {
  // take the prompt and return a JSON with form [{"role": "user", "content": prompt}]
  return json.decode('[{"role": "system", "content": "system message"}, {"role": "user", "content": "$prompt"}]');
}

但这会返回 400 错误代码，指示错误请求。

Answer 1

当您尝试在 _serializeJson 方法上序列化提示时，我认为您做错了。

即使你的chatPrompt只有一条消息，你也需要将消息内容定义为一个List。我会尝试将您的正文消息设置为硬编码，模拟用户和系统之间的对话，以检查您的 HTTP 请求是否有任何错误。

如果请求使用硬编码主体，请确保问题出在您的序列化方法中。