完成窗口长度是否包含在 OpenAI Codex 模型的上下文窗口长度中?
对于 da-vinci
,上下文窗口长度设置为 4000
个标记。
据我了解,举个例子,如果提示长度是3500
个 token ,那么剩下的500
就是用来完成的。并且无法使用整个 4000
token 作为提示。
我很确定我的理解,但让知识渊博的人确认它会很有帮助。
最佳答案
da-vinci 的上下文长度为 4096 个标记。响应的提示 token 和max_tokens不能大于上下文长度。
这是来自 OpenAI API 文档:
The token count of your prompt plus max_tokens cannot exceed the model's context length. Most models have a context length of 2048 tokens (except for the newest models, which support 4096).
引用:https://platform.openai.com/docs/api-reference/completions/create
关于openai-api - OpenAI API Codex 模型中的上下文窗口长度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/75403409/