Essa reformulação atinge profundamente a rede e a movimentação de dados. A Nvidia anunciou recentemente planos de investir US$ 2 bilhões cada nas empresas fotônicas Lumentum e Coherent, o que ressalta onde estão surgindo os pontos de pressão. A questão não é mais apenas a computação bruta. É também a rapidez com que os dados podem se mover entre processadores, racks e clusters sem criar gargalos inaceitáveis ou ineficiências de energia. À medida que os sistemas de IA aumentam, a latência, o rendimento e a utilização de energia tornam-se preocupações económicas de primeira ordem.
Tudo isto sugere que a IA certamente impulsionará mais procura por computação em nuvem pública, mas fá-lo-á de forma desigual. Os provedores de nuvem pública continuam sendo a maneira mais rápida de acessar infraestrutura avançada, escala global e serviços gerenciados de IA. Ao mesmo tempo, o perfil de custos de grandes e persistentes cargas de trabalho de IA está a levar muitas empresas a reconsiderar se o modelo tradicional de hiperescala deve continuar a ser o destino padrão para todas as fases do ciclo de vida da IA.
A maior parte da IA começa na nuvem pública
Quando as empresas estão experimentando, a velocidade é mais importante do que a otimização. As nuvens públicas oferecem às equipes acesso imediato a GPUs, APIs de modelo básico, bancos de dados vetoriais, ferramentas de orquestração, controles de segurança e serviços de integração. Eles também permitem que as empresas iniciem pilotos rapidamente, sem esperar por ciclos de aquisição, expansões de data centers ou equipes de infraestrutura especializadas.
Dado o elevado nível de incerteza, a nuvem pública é muitas vezes a escolha certa para a IA de primeira geração. As empresas ainda não sabem quais casos de uso agregarão valor, quanto tráfego de inferência verão ou qual modelo de arquitetura sobreviverá. Nesta fase, a capacidade de experimentar muitas coisas rapidamente é mais importante do que extrair cada dólar da infra-estrutura subjacente. Os serviços gerenciados reduzem o atrito, e o atrito é inimigo da adoção antecipada.
