- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我已经为此奋斗了几个小时。显然,我不是专家,但我已经做到了这一点 - api 设置,在前端运行,当我输入聊天提示时,它会出现错误,并且gunicorn 返回大长错误。
这是我的 ai_chat.py 最新源代码(我已经经历了大约 100 个变体,几乎同样的失败,显然我对 api 文档的理解不足以在工作这么长时间后对其进行故障排除,感觉就像我在兔子洞里)
ai_chat.py
GNU nano 6.2 ai_chat.py
import asyncio
import openai
import functools
from concurrent.futures import ThreadPoolExecutor
openai.api_key = "AI KEY GOES HERE"
loop = asyncio.get_event_loop()
executor = ThreadPoolExecutor()
def _generate_response_sync(prompt):
response = openai.Completion.create(
engine="gpt-3.5-turbo",
prompt=f"User: {prompt}\nAssistant:",
max_tokens=150,
n=1,
stop=["User:"],
temperature=0.5,
)
return response.choices[0].text.strip()
async def generate_response(prompt):
response = await loop.run_in_executor(executor, functools.partial(_generate_response_sync, prompt))
return response
以下是在前端网站提交用户聊天时,gunicorn 出现的错误:
73.35.113.109:0 - "POST /chat HTTP/1.1" 500
[2023-04-28 20:05:58 +0000] [206218] [ERROR] Exception in ASGI application
Traceback (most recent call last):
File "/root/mental/mental/lib/python3.10/site-packages/uvicorn/protocols/http/h11_impl.py", line 429, in run_asgi
result = await app( # type: ignore[func-returns-value]
File "/root/mental/mental/lib/python3.10/site-packages/uvicorn/middleware/proxy_headers.py", line 78, in __call__
return await self.app(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/applications.py", line 276, in __call__
await super().__call__(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/applications.py", line 122, in __call__
await self.middleware_stack(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/errors.py", line 184, in __call__
raise exc
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/errors.py", line 162, in __call__
await self.app(scope, receive, _send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/exceptions.py", line 79, in __call__
raise exc
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/exceptions.py", line 68, in __call__
await self.app(scope, receive, sender)
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/middleware/asyncexitstack.py", line 21, in __call__
raise e
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/middleware/asyncexitstack.py", line 18, in __call__
await self.app(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/routing.py", line 718, in __call__
await route.handle(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/routing.py", line 276, in handle
await self.app(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/routing.py", line 66, in app
response = await func(request)
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/routing.py", line 237, in app
raw_response = await run_endpoint_function(
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/routing.py", line 163, in run_endpoint_function
return await dependant.call(**values)
File "/root/mental/src/main.py", line 37, in chat_post
response = await generate_response(chat_message.message)
File "/root/mental/src/ai_chat.py", line 9, in generate_response
File "/usr/lib/python3.10/concurrent/futures/thread.py", line 58, in run
result = self.fn(*self.args, **self.kwargs)
File "/root/mental/src/ai_chat.py", line 13, in _generate_response_sync
prompt=f"User: {prompt}\nAssistant:",
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_resources/chat_completion.py", line 25, in create
return super().create(*args, **kwargs)
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_resources/abstract/engine_api_resource.py", line 153, in create
response, _, api_key = requestor.request(
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_requestor.py", line 226, in request
resp, got_stream = self._interpret_response(result, stream)
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_requestor.py", line 620, in _interpret_response
self._interpret_response_line(
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_requestor.py", line 683, in _interpret_response_line
raise self.handle_error_response(
openai.error.InvalidRequestError: Invalid URL (POST /v1/engines/gpt-3.5-turbo/chat/completions)
它在带有 Gunicorn 的 apache2 服务器上运行 - 如果您需要更多信息,请告诉我。
使用 apache2 和 Gunicorn 在 Web 前端构建人工智能聊天机器人,托管在我的 ubuntu 服务器上。
api 和前端工作正常,但是当将聊天提交到提示中时,我正在使用的引擎和聊天脚本出现问题
最佳答案
您的代码中有多个错误。您的代码适用于任何 GPT-3 模型,但您希望使用 gpt-3.5-turbo
模型(即 GPT-3.5 模型)。您当前的代码适用于 Completions API .
您需要做的是编写代码,使其与 Chat Completions API 一起工作。 (即 GPT-3.5 API)如果您想使用 GPT-3.5 模型。
更改以下内容:
Completion
(Completions API)到ChatCompletion
(Chat Completion API)engine
参数(Completions API)到 model
参数(Chat Completions API)prompt
参数(Completions API)到 messages
参数(Chat Completions API)注意:将 engine
参数更改为 model
参数可以解决无效 URL (POST/v1/engines/gpt-3.5-turbo/chat/completions)
错误,但如果您不修复所有其他问题,您将遇到更多错误。
试试这个:
import asyncio
import openai
import functools
from concurrent.futures import ThreadPoolExecutor
openai.api_key = "sk-xxxxxxxxxxxxxxxxxxxx"
loop = asyncio.get_event_loop()
executor = ThreadPoolExecutor()
def _generate_response_sync(prompt):
response = openai.ChatCompletion.create( # Change this
model = "gpt-3.5-turbo", # Change this
messages = [ # Change this
{"role": "assistant", "content": `{prompt}`}
],
max_tokens = 150,
n = 1,
temperature = 0.5,
)
return response['choices'][0]['message']['content'] # Change this
async def generate_response(prompt):
response = await loop.run_in_executor(executor, functools.partial(_generate_response_sync, prompt))
return response
关于python-3.x - OpenAI ChatGPT (GPT-3.5) API 错误 : "Invalid URL (POST/v1/engines/gpt-3.5-turbo/chat/completions)" (migrating GPT-3 to GPT-3. 5 API),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/76133067/
我正在尝试向 iOS 应用商店提交更新。我要从 Buzztouch 应用程序转到 Sprite Kit 应用程序。我能够存档 Xcode 项目并提交它。该应用程序的状态为“上传已收到”,但大约一分钟后
我收到了这个奇怪的警告。我不确定是什么原因造成的。 .dia文件扩展名应该表示核心有向图图形文件。我没有添加,应用程序几乎没有用户界面。 最佳答案 我对这个答案并不满意,但我认为它可以帮助人们,直到找
下面用作 Uri 参数的程序集限定字符串在 XAML 中工作,但在代码中使用时会出现错误。 我尝试了各种 UriKind,结果都相同。我该如何解决这个问题? [Test] public void La
我正在开发一个 Angular 应用程序,目的是将其部署到移动设备和 Web 浏览器上。设置表单样式以显示无效输入时,我应该定位 Angular“ng-invalid”类还是 HTML5“:inval
我有一个在 Google App Engine 上运行的应用程序,它是 Android 应用程序的后端。它基本上是 Android 应用程序和在我自己的服务器上运行的 MySQL 数据库之间的桥梁。
我的代码是这样的: func tableView(_ tableView: UITableView, commit editingStyle: UITableViewCellEditingStyle,
I need to encrypt using Python with the A256GCM algorithm, and getting back a JWT that I need to
无法成功编译webpack并生成bundle.js文件。据我了解,我的 src_dir 和 dist_dir 变量能够指向正确的路径,但在尝试编译时我仍然始终收到两个错误之一。 配置对象无效。 Web
因此,当我在 postgres 上运行 regexp_matches 时收到一条错误消息,并且无法弄清楚如何通过它。它似乎在 regex101 等 reg_exp 测试站点上运行良好,但不幸的是在实际
这些是我正在使用的导入: import com.novell.ldap.*; import java.io.UnsupportedEncodingException; 我正在尝试进行一个非常简单的密码
在记录器函数的简写情况下,Pylint 提示 Invalid constant name "myprint"(invalid-name)。 # import from utils import get
我试图创建一个HTML输入标签,该标签仅接受以2种格式之一输入的数字,并拒绝所有其他输入。 我只想接受以下格式的数字,包括破折号: 1234-12 和 1234-12-12 注意:不是日期,而是合法的
我一直在尝试使用 Bootstrap 的表单样式处理 AngularJS 的电子邮件验证,并遇到了这个 CSS block 。 input:focus:required:invalid, textar
我正在编写一个程序,以确保我了解如何在 C 中正确实现单向链表。我目前正在哈佛的 CS50 类(class)中学习,并且使用本教程,因为 CS50 人员不解释链接详细列出数据结构:https://ww
此问题与询问同一消息的另一个问题不重复,但在另一个上下文中。这个问题的上下文只是关于上传截图图像和获取消息。 今天,我在将图片上传到 App Store Connect 时收到一条新消息: Inval
我的代码似乎运行良好,但当我滑动以删除 UITableView 中的一行时,应用程序崩溃并显示以下内容: 错误 LittleToDoApp[70390:4116002] *** Terminating
当我尝试发送语音消息时,总是收到无效的url错误。我正在使用Whisper将音频转换为文本,但由于某种原因,我似乎无法将文件传递给Whisper。当我在Java脚本中使用它而不是在TypeScrip中
我正在尝试在 flutter 上对 http 客户端进行单元测试。在模拟 http 和我的存储库类之后: void main() { MockHttpCLient mockHttpCLient;
我正在使用 pandoc 作为一个库,相关的代码片段是: module Lib ( latexDirToTex, latexToTxt ) where import qualified
我正在开发一个(相对简单的)Rails应用程序。我正在使用Devise gem处理用户 session 。每当我导航到localhost:3000/users/sign_in时,我都会看到Devise
我是一名优秀的程序员,十分优秀!