Então mudamos o foco. Em vez de forçar a IA generativa a fluxos de trabalho fragmentados, decidimos projetar uma plataforma que parecia nativa do nosso ambiente existente. Isso levou ao LMOS, o sistema operacional do Modelo de Idioma, um PaaS soberano para a construção e escala de agentes de IA no Deutsche Telekom. O LMOS oferece uma experiência semelhante a Heroku para agentes, abstraindo o gerenciamento de ciclo de vida, modelos de implantação, classificadores, observabilidade e escala, enquanto apoia a confiabilidade de versão, multitenância e grau de empresa.
No centro do LMOS está o ARC, uma estrutura baseada em Kotlin para definir o comportamento do agente por meio de uma linguagem concisa específica de domínio (DSL). Os engenheiros poderiam construir agentes usando as APIs e as bibliotecas que eles já conheciam. Não há necessidade de introduzir pilhas inteiramente novas ou refirar os fluxos de trabalho de desenvolvimento. Ao mesmo tempo, o ARC foi construído para integrar-se de maneira limpa às ferramentas de ciência de dados existentes, facilitando a conexão de componentes personalizados para avaliação, ajuste fino ou experimentação, quando necessário.
O ARC também introduziu a ADL (Language da definição do agente), que permite que as equipes de negócios definam diretamente a lógica do agente e os fluxos de trabalho, reduzindo a necessidade de envolvimento da engenharia em todas as iterações e permitir a colaboração mais rápida entre as funções. Juntos, o LMOS Arc e a ADL ajudaram a preencher a lacuna entre negócios e engenharia, enquanto se integrando de maneira limpa com padrões abertos e ferramentas de ciência de dados, acelerando como os agentes foram construídos, iterados e implantados em toda a organização.
