- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我已经为此奋斗了几个小时。显然,我不是专家,但我已经做到了这一点 - api 设置,在前端运行,当我输入聊天提示时,它会出现错误,并且gunicorn 返回大长错误。
这是我的 ai_chat.py 最新源代码(我已经经历了大约 100 个变体,几乎同样的失败,显然我对 api 文档的理解不足以在工作这么长时间后对其进行故障排除,感觉就像我在兔子洞里)
ai_chat.py
GNU nano 6.2 ai_chat.py
import asyncio
import openai
import functools
from concurrent.futures import ThreadPoolExecutor
openai.api_key = "AI KEY GOES HERE"
loop = asyncio.get_event_loop()
executor = ThreadPoolExecutor()
def _generate_response_sync(prompt):
response = openai.Completion.create(
engine="gpt-3.5-turbo",
prompt=f"User: {prompt}\nAssistant:",
max_tokens=150,
n=1,
stop=["User:"],
temperature=0.5,
)
return response.choices[0].text.strip()
async def generate_response(prompt):
response = await loop.run_in_executor(executor, functools.partial(_generate_response_sync, prompt))
return response
以下是在前端网站提交用户聊天时,gunicorn 出现的错误:
73.35.113.109:0 - "POST /chat HTTP/1.1" 500
[2023-04-28 20:05:58 +0000] [206218] [ERROR] Exception in ASGI application
Traceback (most recent call last):
File "/root/mental/mental/lib/python3.10/site-packages/uvicorn/protocols/http/h11_impl.py", line 429, in run_asgi
result = await app( # type: ignore[func-returns-value]
File "/root/mental/mental/lib/python3.10/site-packages/uvicorn/middleware/proxy_headers.py", line 78, in __call__
return await self.app(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/applications.py", line 276, in __call__
await super().__call__(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/applications.py", line 122, in __call__
await self.middleware_stack(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/errors.py", line 184, in __call__
raise exc
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/errors.py", line 162, in __call__
await self.app(scope, receive, _send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/exceptions.py", line 79, in __call__
raise exc
File "/root/mental/mental/lib/python3.10/site-packages/starlette/middleware/exceptions.py", line 68, in __call__
await self.app(scope, receive, sender)
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/middleware/asyncexitstack.py", line 21, in __call__
raise e
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/middleware/asyncexitstack.py", line 18, in __call__
await self.app(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/routing.py", line 718, in __call__
await route.handle(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/routing.py", line 276, in handle
await self.app(scope, receive, send)
File "/root/mental/mental/lib/python3.10/site-packages/starlette/routing.py", line 66, in app
response = await func(request)
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/routing.py", line 237, in app
raw_response = await run_endpoint_function(
File "/root/mental/mental/lib/python3.10/site-packages/fastapi/routing.py", line 163, in run_endpoint_function
return await dependant.call(**values)
File "/root/mental/src/main.py", line 37, in chat_post
response = await generate_response(chat_message.message)
File "/root/mental/src/ai_chat.py", line 9, in generate_response
File "/usr/lib/python3.10/concurrent/futures/thread.py", line 58, in run
result = self.fn(*self.args, **self.kwargs)
File "/root/mental/src/ai_chat.py", line 13, in _generate_response_sync
prompt=f"User: {prompt}\nAssistant:",
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_resources/chat_completion.py", line 25, in create
return super().create(*args, **kwargs)
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_resources/abstract/engine_api_resource.py", line 153, in create
response, _, api_key = requestor.request(
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_requestor.py", line 226, in request
resp, got_stream = self._interpret_response(result, stream)
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_requestor.py", line 620, in _interpret_response
self._interpret_response_line(
File "/root/mental/mental/lib/python3.10/site-packages/openai/api_requestor.py", line 683, in _interpret_response_line
raise self.handle_error_response(
openai.error.InvalidRequestError: Invalid URL (POST /v1/engines/gpt-3.5-turbo/chat/completions)
它在带有 Gunicorn 的 apache2 服务器上运行 - 如果您需要更多信息,请告诉我。
使用 apache2 和 Gunicorn 在 Web 前端构建人工智能聊天机器人,托管在我的 ubuntu 服务器上。
api 和前端工作正常,但是当将聊天提交到提示中时,我正在使用的引擎和聊天脚本出现问题
最佳答案
您的代码中有多个错误。您的代码适用于任何 GPT-3 模型,但您希望使用 gpt-3.5-turbo
模型(即 GPT-3.5 模型)。您当前的代码适用于 Completions API .
您需要做的是编写代码,使其与 Chat Completions API 一起工作。 (即 GPT-3.5 API)如果您想使用 GPT-3.5 模型。
更改以下内容:
Completion
(Completions API)到ChatCompletion
(Chat Completion API)engine
参数(Completions API)到 model
参数(Chat Completions API)prompt
参数(Completions API)到 messages
参数(Chat Completions API)注意:将 engine
参数更改为 model
参数可以解决无效 URL (POST/v1/engines/gpt-3.5-turbo/chat/completions)
错误,但如果您不修复所有其他问题,您将遇到更多错误。
试试这个:
import asyncio
import openai
import functools
from concurrent.futures import ThreadPoolExecutor
openai.api_key = "sk-xxxxxxxxxxxxxxxxxxxx"
loop = asyncio.get_event_loop()
executor = ThreadPoolExecutor()
def _generate_response_sync(prompt):
response = openai.ChatCompletion.create( # Change this
model = "gpt-3.5-turbo", # Change this
messages = [ # Change this
{"role": "assistant", "content": `{prompt}`}
],
max_tokens = 150,
n = 1,
temperature = 0.5,
)
return response['choices'][0]['message']['content'] # Change this
async def generate_response(prompt):
response = await loop.run_in_executor(executor, functools.partial(_generate_response_sync, prompt))
return response
关于python-3.x - OpenAI ChatGPT (GPT-3.5) API 错误 : "Invalid URL (POST/v1/engines/gpt-3.5-turbo/chat/completions)" (migrating GPT-3 to GPT-3. 5 API),我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/76133067/
假设我拥有域 mydomain.com,并且我在服务器上有一个 Web 应用程序,网址为 http://99.99.99.99:1234/MyApplication/startpage.somethi
我正在尝试通过以下方式更新已解析的 URL: u, _ := url.Parse(s) if u.Scheme == "" { u.Scheme = "https" } if u.Path =
如何将 www.somesite.com/api(.*) 映射到 www.somesite.com/$1:9000? (我需要将/api 映射到运行 @ 端口 9000 的 Play 框架应用程序)
我有一个资源结构,如航类 > 座位 > 预订,所以预订属于某个航类的某个座位: http://example.com/jdf_3prGPS4/1/jMBDy46PbNc
我想知道以下网址是否有效。 路径中的点,在主机之后: http://www.example.com/v.b.w..com 主机中的点,作为子域的一部分: http://v.b.w..co.manufa
我有两个域 - crmpicco.co.uk 和 ayrshireminis.com - 如果我浏览到: www.crmpicco.co.uk/mini/new我希望能够重定向到 www.ayrshi
我正在尝试使用 URL 重写和应用程序请求路由来重写到外部 URL。我设置了以下规则: 在规则中,“patternToMatch”是我试
我已经安装了带有 SharePoint 和 Url Rewrite 模块的 IIS 7.0。 是以下句子还是我配置错误才能看到这个结果? Url Redirect 可以将 url 重定向到任何内部(在
我想知道,为了获得良好的 SEO,您必须在 URL 中使用自然语言。您知道字符中单词或短语的最大大小吗?例如: www.me.com/this-is-a-really-long-url.htm 我问这
有人知道在 SEO 友好 URL 中使用逗号有什么问题吗?我正在使用一些在其 SEO 友好 URL 中使用大量逗号的软件;但我 100% 肯定我见过一些程序/平台无法正确识别 URL 并在第一个逗号后
我有一个网站,我正在为所有链接使用干净的 URL。我想知道对于简短的基本 URL 与较长的描述性 URL 有何看法。 例如,如果我的网站是关于 Georgia Bulldog 足球新闻的,那么哪个网站
我正在编写一个类似于 tinyurl 的 URL 缩短器,我想知道如何跟踪已经使用我的服务缩短的 URL?例如,tinyurl 为相同的长 URL 生成相同的小 URL,而不管是谁创建的。如
我是 magento 的新手。我正在开发一个模块。为此,我有一些要显示链接的 css 和 js 文件。我目前有类似 的链接 getSkinUrl('module_tryouts/css/jquery.
我想基于 HTTP_URL 重写 URL 以重定向到不同的端口,同时保留其余的 URL 和查询字符串(如果指定)。例如, http://host/john/page.aspx 应该重定向到 http:
我遇到了以下问题: 我的 Grails (2.2.0) 应用程序具有以下 URL 映射: "/api/clientQuote/$labcode/$cliCode/$quoCode"(controlle
我有一个很长的 URL,它不适合 URL 字段。它一直在修剪。该怎么办?有没有办法增加 SharePoint 2010 中的 URL 字段字符限制? 或者解决方法来容纳长 URL。例如,以下 URL
关闭。这个问题是off-topic .它目前不接受答案。 想改进这个问题? Update the question所以它是on-topic对于堆栈溢出。 9年前关闭。 Improve this que
我们从客户以前的开发人员那里继承了相当多的 Google Apps 脚本项目。 Apps 脚本通过嵌入式小部件部署在 Google 网站 (sites.google.com) 的各个页面上。每当我们需
我正在编写一些文档,但遇到了一些词汇问题: http://www.example.com/en/public/img/logo.gif 被称为“绝对”网址,对吗? ../../public/img/l
我们从客户以前的开发人员那里继承了相当多的 Google Apps 脚本项目。 Apps 脚本通过嵌入式小部件部署在 Google 网站 (sites.google.com) 的各个页面上。每当我们需
我是一名优秀的程序员,十分优秀!