Charlie Dai, vice-presidente e analista principal da Forrester, disse que Fara-7B mostra como agentes leves e residentes em dispositivos se tornarão mais importantes à medida que as organizações aceleram sua adoção de IA de agente.

“Para as empresas, isto sinaliza uma descentralização gradual das cargas de trabalho de IA, reduzindo a dependência da infraestrutura de hiperescala, ao mesmo tempo que exige novas estratégias para governança de ponta e gestão do ciclo de vida do modelo”, acrescentou Dai.

A tendência também reflete um movimento mais amplo em direção a arquiteturas híbridas de IA, onde os agentes locais lidam com fluxos de trabalho sensíveis à privacidade e os sistemas em nuvem continuam a fornecer escala, de acordo com Tulika Sheel, vice-presidente sênior da Kadence International.

Ao manter os dados locais e reduzir a dependência da computação em hiperescala, os pequenos agentes no dispositivo oferecem uma maneira prática de automatizar tarefas de desktop confidenciais ou repetitivas sem expor informações a sistemas externos.