Essa restrição forçada de design à engenharia, repetiu Bandta, retardará a adoção empresarial de fluxos de trabalho orientados por agentes: “O contexto é a memória de trabalho do agente, portanto, reduzi-lo em um terço altera o que você pode confiar nele para fazer”.
Construir para mudar plataformas de IA, não limites fixos?
De forma mais ampla, os analistas salientaram que o episódio é um lembrete de que as empresas devem evitar associar fortemente os fluxos de trabalho de desenvolvimento de software às atuais características operacionais das plataformas de codificação de IA geridas, uma vez que os limites de contexto, os preços, o comportamento do tempo de execução e a disponibilidade do modelo são suscetíveis de evoluir com pouco ou nenhum aviso prévio.
“As empresas devem evitar depender de qualquer janela de contexto única, avaliar continuamente as ferramentas de codificação de IA em cargas de trabalho reais e criar fluxos de trabalho em torno de recuperação, design modular e orquestração de agentes para que permaneçam resilientes à medida que os modelos evoluem”, disse Jain.
