Minha atual estratégia de seleção de modelos é embaraçosamente simples… e errada: escolho o modelo mais capaz (caro) porque temo que o mais barato possa errar. Isso me faz gastar muito, é claro, e é por isso que eu (como você, talvez?) continuo a lutar com um dos desafios mais fundamentais da IA: como posso saber quando um modelo mais barato é suficiente para uma tarefa? Ou, realmente, qual modelo devo usar?
Perguntei a um amigo, Leo Zheng, que lidera o marketing da Fireworks AI, uma empresa de infraestrutura de IA que administra e melhora modelos abertos. Certamente era seu trabalho saber? Sua resposta me surpreendeu. Achei que a resposta se resumiria aos modelos, mas isso não acontece. A Fireworks, disse ele, quer “permitir que cada empresa possua o ciclo de aprendizagem contínuo dentro de suas quatro paredes”. A ideia é abstrair as atualizações do modelo enquanto as empresas alimentam o sistema com novos sinais à medida que o comportamento do cliente muda.
Foi quando clicou. Eu estava perguntando como automatizar a escolha do modelo, mas o problema mais difícil é construir um ciclo de feedback que diga à empresa o que funcionou. A escolha do modelo torna-se então simplesmente uma ação importante que o sistema pode realizar, e não a decisão fundamental que um desenvolvedor deve acerte com antecedência. Indiscutivelmente, o componente mais importante é a integração dos dados empresariais no ciclo de aprendizagem contínuo descrito por Zheng.
