Técnicas de otimização e monitoramento de modelos
Otimizar modelos para casos de uso específicos é crucial. Para ML tradicional, modelos pré-treinados de ajuste fina ou treinamento do zero são estratégias comuns. A GENAI apresenta opções adicionais, como a geração de recuperação upmentada (RAG), que permite que o uso de dados privados forneça contexto e, finalmente, melhore as saídas do modelo. A escolha entre modelos de uso geral e específico da tarefa também desempenha um papel crítico. Você realmente precisa de um modelo de uso geral ou pode usar um modelo menor que é treinado para o seu caso de uso específico? Os modelos de uso geral são versáteis, mas geralmente menos eficientes do que os modelos menores e especializados, construídos para tarefas específicas.
O monitoramento do modelo também requer abordagens distintamente diferentes para IA generativa e modelos tradicionais. Os modelos tradicionais dependem de métricas bem definidas, como precisão, precisão e pontuação de F1, que são simples de avaliar. Por outro lado, os modelos generativos de IA geralmente envolvem métricas um pouco mais subjetivas, como envolvimento ou relevância do usuário. Ainda faltam boas métricas para os modelos Genai e realmente se resume ao caso de uso individual. Avaliar um modelo é muito complicado e às vezes pode exigir suporte adicional das métricas de negócios para entender se o modelo está agindo de acordo com o plano. Em qualquer cenário, as empresas devem projetar arquiteturas que possam ser medidas para garantir que elas forneçam a saída desejada.
Avanços na engenharia de ML
O aprendizado de máquina tradicional há muito se baseia em soluções de código aberto, desde arquiteturas de código aberto como LSTM (memória de curto prazo longa) e YOLO (você olha apenas uma vez), para abrir bibliotecas de código-fonte como XGboost e Scikit-Learn. Essas soluções se tornaram os padrões para a maioria dos desafios, graças a ser acessível e versátil. Para a Genai, no entanto, soluções comerciais como os modelos GPT da OpenAI e Gemini do Google atualmente dominam devido a altos custos e complexidades complexas de treinamento. Construir esses modelos a partir do zero significa requisitos de dados maciços, treinamento complexo e custos significativos.
