个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
26
4
<分区>
我正在开发一个由 OpenAI 提供支持的聊天机器人。我正在使用带有 ChatCompletion 请求的新 gpt-3.5-turbo 模型。我已经想出了一种方法，让机器人使用 HashMap 记住每个用户的对话，并且一切正常。机器人能够记住所有以前的响应并使用历史作为上下文生成新响应。但是，查询中的响应越多，使用的 token 就越多，从而增加了成本。如果有一定数量的不活动(比如 2 分钟不与机器人交谈)，我想将其设置为清除历史记录并开始新的对话以节省 token 。实现这一目标的最佳方法是什么？
这是我的代码:
private static OpenAiService service;
private static Map<String, List<ChatMessage>> conversations = new HashMap<String, List<ChatMessage>>();
public static void initializeOpenAi() {
service = new OpenAiService(Settings.OPENAI_ACCESS_KEY);
}
public static String generateChatResponse(User user, String prompt) {
List<ChatMessage> conversation;
if (conversations.containsKey(user.getId())) {
conversation = conversations.get(user.getId());
} else {
conversation = new ArrayList<ChatMessage>();
}
if (conversation.size() < 1) {
ChatMessage system = new ChatMessage();
system.setRole("system");
system.setContent("Omnis is a chatbot with sarcasm");
conversation.add(system);
}
ChatMessage userPrompt = new ChatMessage();
userPrompt.setRole("user");
userPrompt.setContent(prompt);
conversation.add(userPrompt);
ChatCompletionRequest chatRequest = ChatCompletionRequest.builder()
.model("gpt-3.5-turbo")
.maxTokens(1000)
.temperature(0.9)
.topP(0.3)
.frequencyPenalty(0.9)
.presencePenalty(0.0)
.messages(conversation)
.build();
ChatCompletionResult chatResult = null;
try {
chatResult = service.createChatCompletion(chatRequest);
} catch (Exception e) {
System.out.println("An OpenAI request failed!");
if (e.getMessage().contains("timeout")) {
return "Your request timed out. Please try again after a breif wait for try a different request.";
}
if (e.getMessage().contains("Rate limit")) {
return "Rate limit for chat requests has been reached!";
}
return "Something went wrong with your request. Cause of error is " + e.getMessage();
}
if (chatResult != null) {
System.out.println("Created chat completion request that used " + chatResult.getUsage().getTotalTokens() + " tokens with " + chatResult.getModel());
}
String response = chatResult.getChoices().get(0).getMessage().getContent();
ChatMessage assistantPrompt = new ChatMessage();
assistantPrompt.setRole("assistant");
assistantPrompt.setContent(response);
conversation.add(assistantPrompt);
conversations.put(user.getId(), conversation);
return response;
}
每次用户发送消息时都会调用“generateChatResonse”方法。它获取用户 ID 并从 HashMap 中提取对话(如果存在)，如果不存在，则创建一个新对话。
我不知道该尝试什么。
我不想清除整个 HashMap，只清除与非 Activity 用户关联的条目。
26
4
0
情况:我想从数据条目列表导航回我的 PageViewController。 before 和 previous 函数起作用 func pageViewController(pageViewContro
尊敬的 StackOverflow 用户 我有一个 gradle 项目，我想将其工件转换为 osgi 包。在这个包中，我有: 我不想导出的包(可能不会出现在 list 的 Export-Package
我为我的 PendingIntent 设置了一个警报。现在我想在我的 Activity 中显示是否设置了此警报。 Intent service = new Intent(context, MyServ
我有 2 个表、作者和书籍 authors 包含唯一的 IDauthorId 书籍也包含此作为外键 我需要知道书籍数量最多的作者。如果 2 个或更多作者并列最多书籍，我需要显示这两位作者 我已经能够通
我有一个名为 prospective_shop 的表，其中一个列名称是“用户名”。用户名未设置为主键，但我想删除所有具有重复用户名的行。我怎样才能以最快的方式做到这一点？ 我尝试执行以下操作: ALT
我现在可以添加条目了。在我的应用程序中，用户可以在他的日历上输入约会/事件。但在他这样做之前，它应该向他显示他已经添加的事件。它应该从日历中获取事件并将其显示给他。这该怎么做？我被困在这部分。提前致谢
#include #include #include #include #include #include char *msg; ssize_t write_proc(struct file
我想将大于 1024 个字符的字符串传递到我的模块(文件系统)。由于内核参数限制为 1024 个字符，someone recommended改为使用 sysfs。 我试图包括 this example
我正在尝试使用 SQLAlchemy 构建以下查询(用作包含查询的子查询，该查询定义名为 tbl_outer 的别名): SELECT max(tbl.ts) AS max_1 FROM tbl WH
假设我有两张 map : Map map1 = Map.of( "a", "1", "b", "2", "c", "3", "x
通过简化示例，假设您有以下数据集: A B C Name Group Amount Dave A 2 Mike B 3 Adam C 4
我正在尝试在我的服务器上创建一个三级域虚拟主机。我希望配置设置正确，但我得到一个 ERR_NAME_NOT_RESOLVED错误。 我已经读到我必须在某处“添加 DNS 条目”以便解析名称，但我该怎么
我需要一个可用于在逗号分隔列表中查找第 N 个条目的正则表达式。 例如，假设此列表如下所示: abc,def,4322,mail@mailinator.com,3321,alpha-beta,43 .
GWT 应用程序(在 Eclipse 中开发)的源代码管理忽略文件中的典型条目是什么？ 最佳答案 我会推荐: 你leave the eclipse files (.project, .classpat
我必须创建显示表 (Tbl) 中所有字段的输出，并创建一个额外的列来按月计算每个客户的累计总和(例如，如果客户在 4 月份有两次销售，新列将具有这些销售额和两行中任何先前销售额的总和)。我能做的就这么
文档 ( http://kubernetes.io/docs/user-guide/configmap/ ) 上用于使用值的示例基于 ConfigMap，其中每个数据条目都是一对/值。例子: apiV
我有一个奇怪的错字，我一遍又一遍地犯，而不是实际工作我的打字技巧，我想编辑我的 AutoHotkey 脚本来弥补这一点。 有时，当我输入大写字母时，我会点击:按钮并输入“I:”，我希望 AHK 仅用字
使用 lgdt 初始化 GDT 并将其加载到 GDTR 后，稍后如何更新 GDT？ 如果我使用 sgdt 命令获取基地址，然后更新或添加条目，然后使用 lgdt 再次重新加载，我是否正确？还有其他方法
我有两个应用程序共享同一个数据库，即 API 和 MVC5 应用程序。两者都在本地主机上运行良好，但在部署到我的 Azure 帐户时出现此错误 Configuration Error Descrip
我正在尝试修剪我拥有的一些文件。我将为您保存到目前为止我编写的野兽，并通过提供虚构代码使其保持简单。 让我们来看看这个数组: [System.String[]]$Collection = 'Invit
我是一名优秀的程序员,十分优秀！