BRASILGerenciar implantações
Monitore, dimensione e gerencie o ciclo de vida das implantações do seu modelo em QwenCloud.
Lista de implantação
Vá para a página Implantações no QwenCloud console para visualizar todas as implantações em seu espaço de trabalho.
- Pesquisar por nome de implantação.
- Filtrar por status.
Cada entrada mostra o nome da implantação, modelo, método de cobrança, status, horário da última atualização e ações disponíveis.
Detalhe da implantação
Clique no nome de uma implantação para abrir sua página de detalhes, que possui duas guias.
Visão geral
Exibe as informações de configuração e cobrança da implantação:
- Informações básicas -- Nome do serviço, status, carimbos de data/hora criados/atualizados e nome do modelo.
- Informações de cobrança -- Método de cobrança e tipo de pagamento.
- Configuração de implantação -- Configurações de limitação de taxa (RPM e TPM), réplicas e especificação de unidade de modelo.
Monitoramento
Fornece métricas de desempenho históricas e em tempo real:
- Estatísticas resumidas -- Total de modelos, total de chamadas, falhas, TTFT médio (tempo até o primeiro token) e latência média.
- Gráficos RPM/TPM -- Solicitações por minuto e tokens por minuto ao longo do tempo.
- Gráficos TTFT/Latência -- Tempo até o primeiro token e latência ponta a ponta ao longo do tempo.
Status de implantação
| Estado | Descrição |
|---|---|
| Implantando | Os recursos estão sendo provisionados. A implantação ainda não está pronta para inferência. |
| Ativo | A implantação está em execução e aceitando solicitações de inferência. O faturamento está ativo. |
| Parado | A implantação foi interrompida manualmente. Nenhum faturamento é incorrido. |
| Erro | A implantação encontrou um erro durante o provisionamento ou o tempo de execução. |
Ações
Você pode executar as seguintes ações na lista de implantação ou na página de detalhes:
-
Tentar -- Envie uma solicitação de inferência de teste diretamente do console.
-
Parar – Pause a implantação. A cobrança é interrompida enquanto a implantação é interrompida.
-
Iniciar – Retoma uma implantação interrompida. A cobrança será retomada quando o status retornar para Ativo.
-
Excluir -- Remova permanentemente a implantação. Esta ação não pode ser desfeita.
A exclusão de uma implantação é irreversível. O serviço é encerrado imediatamente e todos os recursos associados são liberados.
Dimensionamento
Você pode ajustar a capacidade de implantação sem recriar o serviço. Abra a página de detalhes da implantação e modifique as configurações de capacidade. As alterações entram em vigor em alguns minutos.