javascript - OpenAI Api 的输出延迟且随机

Question

当我键入少于 3-5 个字符时，OpenAI API 会随机输出并延迟大约 5 秒(取决于 openai 输出的长度)进行回复。尝试更改模型并将 max_tokens 降低到 500。

#main.JS

const userInput = document.querySelector('.user-input');
const inputText = userInput.value;
      const data = {
        model: 'text-davinci-003',
        prompt: inputText,
        temperature: 0.7,
        max_tokens: 2048,
        top_p: 1,
        frequency_penalty: 0,
        presence_penalty: 0
      };
  
      const options = {
        method: 'POST',
        headers: {
          'Content-Type': 'application/json',
          'Authorization': `Bearer ${openaiApiKey}`
        },
        body: JSON.stringify(data)
      };
  
      try {
        const response = await fetch('https://api.openai.com/v1/completions', options);
        const data = await response.json();
        const choices = data.choices;
        const text = choices[0].text.trim();
        addMessage(text, 'bot');
      } catch (error) {
        console.error(error);
      }

#index.html
<textarea class="user-input" id="user-input"></textarea>

What i expecting

Answer 1

当他们收到空提示时会发生这种情况。确保您正在构建并发送提示。