Transfer learning, ou aprendizado por transferência, usa um modelo treinado anteriormente como ponto de partida para outra tarefa. Em vez de aprender todos os parâmetros desde o início, o projeto pode reaproveitar representações úteis e adaptar uma parte do modelo aos exemplos disponíveis.

Congelar camadas ou fazer fine-tuning?

Uma estratégia é congelar parte das camadas pré-treinadas e treinar apenas uma nova camada de saída. Isso reduz o número de parâmetros que mudam. Outra é fazer fine-tuning, liberando algumas ou todas as camadas para ajuste. O melhor caminho depende da proximidade entre a tarefa original e a nova, do tamanho e da qualidade do conjunto de dados e do orçamento de cálculo.

Um fluxo de trabalho simples

1. Escolha um modelo cujo tipo de entrada e tarefa anterior sejam compatíveis.

2. Leia a documentação, a licença, os limites conhecidos e os requisitos de execução.

3. Prepare divisões sem vazamento e crie uma linha de base com a camada final adaptada.

4. Compare o modelo congelado com um fine-tuning controlado usando validação.

5. Avalie erros em dados independentes e registre versão dos pesos e do código.

Quando o transfer learning não resolve

Um modelo pré-treinado pode representar mal um domínio muito diferente, ter restrições de licença ou apresentar desempenho desigual entre grupos. Reutilizar pesos também não elimina viés, vazamento ou necessidade de revisão. Se o conjunto for muito pequeno, a validação pode ser instável; nesse caso, simplifique a tarefa e reúna mais exemplos relevantes.

A diferença entre os dados originais e os novos é chamada, em termos gerais, de mudança de domínio. Um modelo treinado em imagens de catálogo pode não funcionar tão bem em fotos noturnas feitas por celular. Antes de ajustar mais camadas, compare exemplos lado a lado e verifique se o conjunto de validação representa as condições de uso.

A decisão prática

Transfer learning é um ponto de partida, não uma garantia de resultado. Compare custo, latência, memória, licença e qualidade com uma alternativa simples. Para muitas tarefas de visão, começar por pesos pré-treinados é um experimento eficiente; em outros domínios, um modelo menor ou outro tipo de aprendizado pode ser mais adequado.

Ao compartilhar o resultado, informe qual modelo e versão foram usados, quais camadas foram ajustadas, como os dados foram divididos e quais limitações apareceram. Essa documentação permite repetir o experimento e ajuda a equipe a distinguir uma melhoria real de uma diferença causada pela amostra.