Visão geral do ajuste fino

Melhore o desempenho do modelo para seu caso de uso ajustando Qwen modelos em QwenCloud com SFT e LoRA.

O ajuste fino adapta um modelo pré-treinado ao seu caso de uso específico usando seus próprios dados. Comparado apenas com a engenharia imediata, o ajuste fino pode:

• Melhore a precisão em tarefas específicas de domínio
• Reduza a latência substituindo avisos de poucos disparos por comportamento aprendido
• Alinhe os resultados com as preferências humanas ou a voz da marca
• Substitua modelos maiores por modelos menores ajustados com menor custo

Pré-requisitos

Antes de criar um trabalho de ajuste fino, você precisa de:

• A QwenCloud conta. Faça login no console.
• Um conjunto de dados publicado no formato JSONL. Consulte Criar um conjunto de dados e Gerenciar conjuntos de dados para publicá-lo.

Método de treinamento

Ajuste fino ativado QwenCloud usa SFT (ajuste fino supervisionado) - você treina o modelo em pares de entrada/saída para ensinar-lhe as respostas desejadas. Os dados de treinamento são formatados como mensagens ChatML com turnos de usuário/assistente.

Modo de treinamento

Todos os trabalhos de ajuste fino usam LoRA (Efficient Training), que treina pesos de adaptadores de classificação baixa sobre o modelo base congelado. Essa abordagem é mais rápida e de menor custo do que o treinamento completo de parâmetros.

Modelos suportados

Você também pode selecionar um modelo personalizado previamente ajustado como modelo base para continuar o treinamento iterativo. Ao criar um trabalho de ajuste fino, alterne para a guia Modelos personalizados no seletor de modelo base para escolher um de seus próprios modelos.

Formato dos dados

Cada linha do seu arquivo JSONL contém uma conversa multifacetada no formato ChatML:

{"messages": [
  {"role": "system", "content": "You are a helpful assistant."},
  {"role": "user", "content": "What is fine-tuning?"},
  {"role": "assistant", "content": "Fine-tuning adapts a pre-trained model to a specific task using custom training data."}
]}

Dicas sobre conjuntos de dados

• Escala: o ajuste fino requer pelo menos várias centenas de exemplos de alta qualidade. Milhares de exemplos normalmente produzem melhores resultados.
• Diversidade: cubra a variedade de cenários que seu modelo encontrará na produção. Equilibre as proporções dos dados para corresponder aos padrões de uso reais.
• Qualidade: certifique-se de que as respostas do assistente reflitam o comportamento exato que você want. Resultados de baixa qualidade em dados de treinamento levam a um comportamento de modelo de baixa qualidade.

##Próximas etapas

• Criar um conjunto de dados - Preparar dados de treinamento para ajuste fino
• Crie um trabalho de ajuste fino no console
• Gerenciar trabalhos de ajuste fino - Monitore o progresso e publique pontos de verificação para criar modelos personalizados
• Visão geral da implantação – Implante seu modelo personalizado para atender solicitações de inferência