openai-api - OpenAI API Codex 模型中的上下文窗口长度

标签 openai-api gpt-3

完成窗口长度是否包含在 OpenAI Codex 模型的上下文窗口长度中?

对于 da-vinci,上下文窗口长度设置为 4000 个标记。

据我了解,举个例子,如果提示长度是3500个 token ,那么剩下的500就是用来完成的。并且无法使用整个 4000 token 作为提示。

我很确定我的理解,但让知识渊博的人确认它会很有帮助。

最佳答案

da-vinci 的上下文长度为 4096 个标记。响应的提示 token 和max_tokens不能大于上下文长度。

这是来自 OpenAI API 文档:

The token count of your prompt plus max_tokens cannot exceed the model's context length. Most models have a context length of 2048 tokens (except for the newest models, which support 4096).

引用:https://platform.openai.com/docs/api-reference/completions/create

关于openai-api - OpenAI API Codex 模型中的上下文窗口长度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/75403409/

相关文章:

openai-api - OpenAI GPT-4 API : Why does gpt-4-0613 hallucinate (make up) function parameters?

python - OpenAI API 错误 : "Module ' openai' has no attribute 'ChatCompletion' , 您的意思是 'Completion' 吗?”

python - OpenAI GPT3 搜索 API 无法在本地运行

javascript - OpenAI gpt-3.5-turbo : Request failed with status code 400

python - AzureOpenAI 和 LangChain 奇怪,多个答案

azure - 没有区域可用 Azure OpenIA

python - Python 中的无效 URL (POST/v1/chat/completions) 错误

nlp - GPT-3 基于关键词的问答

python - 如何让openAI API只响应特定类别的请求?

python - OpenAI API 错误 500 : "The server had an error while processing your request", 503: "Service Unavailable"或 504: "Gateway Timeout"