Limites de taxa

Compreender e gerenciar limites de taxa de API

Como funcionam os limites de taxa

Os limites de taxa controlam quantas solicitações de API e tokens sua conta pode consumir por minuto para cada modelo. Existem dois tipos de limites:

• RPM (Solicitações por Minuto): Número máximo de chamadas de API por minuto.
• TPM (Tokens por Minuto): Número máximo de tokens processados ​​por minuto.

Os limites são aplicados no nível da conta — eles são compartilhados entre todos os espaços de trabalho e chaves de API em uma conta.

Os limites de taxa também se aplicam por segundo: RPS = RPM / 60, TPS = TPM / 60. Solicitações intermitentes em um único segundo podem acionar a limitação mesmo se o uso total permanecer abaixo do limite por minuto.

Veja seus limites de taxa

O local onde você verifica os limites de taxa depende do espaço de trabalho:

• Espaço de trabalho padrão: o espaço de trabalho padrão usa limites no nível da conta. Para visualizar os limites de RPM e TPM de um modelo, abra o Model Marketplace, selecione um modelo e verifique a seção Limites de taxa e contexto em sua página de detalhes.
• Subespaços de trabalho: vá para Configurações > Espaços de trabalho, clique em Editar em um subespaço de trabalho e, em seguida, clique em Editar modelos. Cada modelo mostra seus valores de Chamadas/min (RPM) e Tokens/min (TPM).

Definir limites de taxa por espaço de trabalho

Você pode definir limites personalizados de RPM e TPM para modelos individuais em um espaço de trabalho.

Go to the Workspaces page

Vá para **Configurações** > [Espaços de trabalho](https://home.qwencloud.com/settings/workspaces) e clique em **Editar** em um subespaço de trabalho.

Add models and set limits

Em **Permissões do modelo**, clique em **Editar modelos** para adicionar modelos. Para cada modelo, defina os valores **Chamadas/min** (RPM) e **Tokens/min** (TPM) e clique em **Aplicar**.

Save changes

Clique em **Salvar alterações** para aplicar os novos limites de taxa.

Os valores de RPM e TPM definidos não podem exceder os limites no nível da conta desse modelo. O espaço de trabalho padrão usa limites no nível da conta e não pode ser modificado.

Aumentar temporariamente os limites de taxa

Se precisar de maior rendimento para um modelo específico, você pode solicitar um aumento temporário nas configurações da sua conta.

Go to the Rate Limits page

Vá para **Configurações** > [Limites de taxa](https://home.qwencloud.com/settings/rate-limit).

Peça um aumento.

Clique em **Aumentar limite de taxa temporariamente**. Selecione o modelo e insira o **Token Rate Limit** desejado (**Tokens / 60 s**). A caixa de diálogo mostra a **Cota Atual** e o **Limite Superior**.

Submit

Clique em **Enviar** para aplicar o aumento temporário.

Aplique cotas com base nas necessidades reais. A capacidade não utilizada pode ser reduzida para limites padrão após um período de inatividade.

Modelos que suportam aumentos temporários de limite de taxa

Os modelos a seguir oferecem suporte à solicitação de aumento temporário do limite de taxa por meio do console:

• qwen3.6-plus

• qwen3.6-flash

• qwen3.5-flash

• qwen3.5-plus

• qwen-plus

• qwen-plus-latest

• qwen3.7-max

• incorporação de texto-v4

• qwen3-vl-plus

• qwen-flash

  A lista de modelos suportados pode ser atualizada ao longo do tempo. Consulte os Limites de Tarifa no console para obter as informações mais atuais.

A página Limites de taxa também mostra um histórico de todas as solicitações de aumento temporário em Registros de aumento de limite de taxa, incluindo Enviado em, Código de modelo e Limite de TPM da conta para cada solicitação.

Erros de limite de taxa

Quando um limite de taxa é acionado, a API retorna o código de status HTTP 429. A mensagem de erro indica qual limite foi atingido:

Os limites são redefinidos em um minuto. Para outros erros, consulte Mensagens de erro.

Melhores práticas

Suavize sua taxa de solicitação

Distribua as solicitações uniformemente ao longo do tempo, em vez de enviá-las em lotes. Use agendamento de taxa constante, espera exponencial ou uma fila de solicitações para evitar o acionamento de limites por segundo.

Use um modelo de backup

Se uma solicitação tiver taxa limitada, recorra a um modelo alternativo para manter a disponibilidade:

import os
import asyncio
from openai import AsyncOpenAI, APIStatusError

API_KEY = os.getenv("DASHSCOPE_API_KEY")
MODEL = "qwen-plus"
BACKUP_MODEL = "qwen-plus-2025-07-14"
QUESTION = "Who are you?"
NUM_REQUESTS = 10

client = AsyncOpenAI(
  api_key=API_KEY,
  base_url="https://maas.qwencloudapi.com/compatible-mode/v1"
)

async def send_request(model):
  try:
    await client.chat.completions.create(
      model=model,
      messages=[{"role": "user", "content": QUESTION}]
    )
    return True
  except APIStatusError as e:
    if e.status_code == 429:
      print(f"[Rate limit triggered] Model {model}")
      return False
    raise
  except Exception as e:
    print(f"[Request failed] Model {model}, Error: {e}")
    return False

async def task(i):
  if await send_request(MODEL):
    return True
  return await send_request(BACKUP_MODEL)

async def main():
  results = await asyncio.gather(*(task(i) for i in range(NUM_REQUESTS)))
  print(f"Successful: {sum(results)}, Failed: {len(results) - sum(results)}")

if __name__ == "__main__":
  asyncio.run(main())

Divida tarefas grandes

Conversas longas ou documentos grandes consomem muitos tokens rapidamente. Divida tarefas em lotes grandes em lotes menores e envie-as em momentos diferentes para permanecer dentro dos limites do TPM.

Escolha modelos com limites mais altos

Versões de modelos estáveis ou mais recentes normalmente têm limites de taxa mais altos do que instantâneos mais antigos. Sempre que possível, utilize a versão mais recente de um modelo.

Usar inferência em lote

Se você não precisar de resultados em tempo real, use a API Batch. Os trabalhos em lote não estão sujeitos a limites de taxa em tempo real, mas podem apresentar filas e atrasos no processamento.