As empresas estão analisando seriamente as neonuvens, os provedores de nuvem especializados construídos principalmente em torno da infraestrutura de IA, especialmente GPUs, redes de alta velocidade e clusters de computação em grande escala para treinamento e inferência de modelos. Ao contrário dos hiperscaladores tradicionais, que fornecem plataformas amplas para quase todos os tipos de carga de trabalho empresarial, as neonuvens tendem a se concentrar mais estritamente na computação acelerada. CoreWeave, Lambda, Crusoe Cloud e outros estão comumente associados a este mercado emergente de infraestrutura de IA.
O interesse não é difícil de entender. As empresas estão sob pressão para transferir projetos de IA generativa, aprendizado de máquina e análises avançadas do laboratório para a produção. Ao mesmo tempo, o acesso a grandes blocos de capacidade de GPU tornou-se caro, restrito e, em alguns casos, difícil de obter dos principais hiperescaladores. Muitas empresas estão descobrindo que as neoclouds podem oferecer melhor economia, acesso mais rápido à capacidade ou configurações mais alinhadas com as cargas de trabalho de IA.
Isso não significa que AWS, Microsoft Azure e Google Cloud estejam sendo substituídos. Eles continuam sendo o ambiente operacional padrão para a maioria das implantações de nuvem corporativa. Eles fornecem planos administrativos maduros, ferramentas de segurança, estruturas de conformidade, presença global, serviços gerenciados e ecossistemas operacionais que as empresas passaram anos aprendendo a usar.
No entanto, a IA mudou a conversa sobre infraestrutura. As empresas estão menos preocupadas com a nuvem em que são padronizadas e concentram-se, em vez disso, em obter a capacidade de IA de que necessitam, quando precisam, a um preço que não destrua o caso de negócio.
Isso traz à tona uma das perguntas mais comuns que recebo dos clientes: “Quão diferente é manter esses sistemas remotos de IA em nuvem em comparação com o que já fazemos na AWS, Azure ou Google Cloud?” Minha resposta é que os fundamentos das operações em nuvem ainda se aplicam, mas o modelo administrativo muda de maneiras importantes. Neoclouds não são simplesmente hiperscaladores mais baratos. São ambientes de infraestrutura especializados e a especialização sempre cria compensações.
As maiores diferenças administrativas aparecem em três áreas: segurança, desempenho e continuidade dos negócios/recuperação de desastres.
Segurança menos desenvolvida
A segurança no mundo hiperescalador está madura porque o ecossistema administrativo está maduro. AWS, Microsoft e Google passaram anos construindo sistemas de identidade profundamente integrados, serviços de gerenciamento de chaves, ferramentas de registro, mecanismos de políticas, programas de conformidade, controles de rede, recursos de gerenciamento de vulnerabilidades e serviços de monitoramento de segurança. As empresas ainda configuram incorretamente esses serviços o tempo todo, mas os blocos de construção são bem conhecidos e amplamente compreendidos.
Com as neonuvens, a administração da segurança pode exigir uma propriedade empresarial mais direta. Alguns provedores possuem fortes capacidades de segurança e práticas operacionais maduras. Outros ainda estão desenvolvendo os tipos de controles de nível empresarial que as grandes organizações esperam dos hiperescaladores. Isso significa que os administradores não podem presumir que a federação de identidades, os controles de acesso privilegiado, o registro de auditoria, a criptografia, a segmentação de rede e os relatórios de conformidade se comportarão de maneira familiar.
Isso é importante porque as cargas de trabalho de IA geralmente envolvem alguns dos dados mais valiosos que uma empresa possui. Conjuntos de treinamento, dados de ajuste fino, prompts, incorporações, pesos de modelo, bancos de dados vetoriais e resultados de inferência podem conter propriedade intelectual, dados de clientes, informações regulamentadas ou lógica de negócios confidencial. Se uma empresa estiver usando dados operacionais proprietários para ajustar um modelo, os riscos administrativos serão maiores do que simplesmente ativar a computação remota.
O modelo de responsabilidade partilhada ainda se aplica, mas deve ser examinado fornecedor por fornecedor. As empresas precisam entender quem controla as chaves de criptografia, como o acesso administrativo é concedido e revogado, como os logs são exportados para o centro de operações de segurança, como os dados são isolados entre os locatários e como o acesso do pessoal do provedor é controlado. Estas não são questões burocráticas. São questões de modelo operacional.
Gestão prática de desempenho
A segunda diferença é o desempenho. A administração tradicional da nuvem treinou as empresas para pensar em abstrações. Os administradores selecionam tipos de instância, classes de armazenamento, bancos de dados gerenciados, políticas de escalonamento automático e painéis de observabilidade. O hardware subjacente é importante, mas geralmente está oculto atrás de um modelo de serviço.
A IA muda isso. Com as neoclouds, a administração do desempenho muitas vezes fica muito mais próxima da infraestrutura física. O tipo de GPU, a memória da GPU, o design de interconexão, a taxa de transferência de armazenamento, a topologia do cluster, o agendamento de tarefas, a localidade dos dados e a latência da rede podem ter um efeito direto sobre o bom desempenho de uma carga de trabalho de IA ou o desperdício de dinheiro.
A economia da GPU é implacável. Uma GPU ociosa ou subutilizada é um grande problema financeiro. Se os pipelines de dados não conseguirem alimentar os aceleradores com rapidez suficiente, se o treinamento distribuído estiver mal configurado ou se a taxa de transferência do armazenamento se tornar o gargalo, a empresa poderá perder rapidamente a vantagem de custo que tornou a neonuvem atraente em primeiro lugar.
Portanto, os administradores precisam entender mais do que operações básicas na nuvem. Eles precisam saber como as cargas de trabalho de IA se comportam em escala. Eles precisam entender como os trabalhos de treinamento consomem recursos de armazenamento e de rede, como a demanda de inferência flutua, como os clusters são alocados e como medir a utilização real do acelerador. Isto requer uma colaboração mais estreita entre operações em nuvem, engenharia de IA, engenharia de dados, engenharia de plataforma e finanças.
O planejamento de capacidade também muda. Os hiperscaladores criaram a expectativa de elasticidade quase infinita, embora essa expectativa sempre tenha sido um tanto exagerada. No mercado de IA, é ainda menos confiável. As neoclouds podem fornecer melhor acesso à capacidade da GPU, mas essa capacidade pode vir através de reservas, clusters fixos, compromissos específicos de hardware ou janelas contratuais. Os administradores precisam alinhar cronogramas de treinamento, ciclos de experimentação, crescimento de inferências e controles orçamentários com o modelo de capacidade real do fornecedor.
A administração de desempenho em neoclouds não envolve apenas observar painéis. Trata-se de gerenciar a economia da carga de trabalho no nível da infraestrutura.
Planos detalhados de recuperação de desastres
A terceira diferença é a continuidade dos negócios e a recuperação de desastres. Muitas empresas ainda acreditam que se algo for executado na nuvem, a resiliência estará incluída. Essa suposição é perigosa em qualquer ambiente de nuvem, mas ainda mais quando se trata de infraestrutura especializada de IA.
Os hiperescaladores fornecem grandes presenças globais, múltiplas regiões, zonas de disponibilidade, serviços de replicação, ferramentas de backup, opções de failover gerenciadas e padrões de resiliência bem documentados. As Neoclouds podem não oferecer a mesma profundidade geográfica ou a mesma gama de serviços de continuidade nativos. Os administradores devem ser muito mais explícitos sobre os objetivos de recuperação, projeto de failover, replicação e procedimentos de restauração.
As cargas de trabalho de IA complicam ainda mais isso. Recuperar um sistema de IA não é o mesmo que restaurar um servidor de aplicativos tradicional. As empresas precisam proteger conjuntos de dados, pontos de verificação de treinamento, artefatos de modelo, armazenamentos de recursos, bancos de dados de vetores, pipelines de orquestração, imagens de contêiner, arquivos de configuração e endpoints de inferência. Se um ambiente neocloud ficar indisponível, a empresa pode reiniciar o treinamento a partir de um ponto de verificação? A inferência pode passar para outro ambiente? O mesmo modelo pode ser executado em diferentes aceleradores, drivers, estruturas e suposições de rede?
Essas perguntas precisam de respostas antes da interrupção, não durante ela. Algumas cargas de trabalho de IA podem tolerar atrasos. Um trabalho de treinamento pode ser pausado e reiniciado posteriormente sem grande impacto nos negócios. Outras cargas de trabalho, especialmente sistemas de inferência de produção incorporados em processos voltados para o cliente, podem exigir metas de recuperação muito mais agressivas.
As empresas devem avaliar as neonuvens com expectativas realistas. A economia pode abrir a porta e a capacidade pode tornar a decisão urgente. O sucesso a longo prazo da adoção da neocloud, no entanto, dependerá de quão bem as empresas administram as diferenças.
