Juntamente com a integração próxima da primavera, Johnson citou essas características distintivas da embabelista:
- Embabel apresenta uma etapa de planejamento. A estrutura descobre ações e metas do código do aplicativo e planeja a meta mais apropriada, dada a entrada do usuário ou outra entrada do sistema. O planejamento é realizado por meio de um algoritmo AI não LLM que fornece uma abordagem determinística e explicável ao planejamento.
- A Embabel incentiva a construção de um modelo de domínio rico em um aplicativo, normalmente aulas de dados de Kotlin ou registros Java. Isso garante que os prompts sejam seguros de tipo, capazes de ferramentas e sobrevivam à refatoração. Ele também permite que o comportamento seja adicionado aos objetos de domínio, que podem ser expostos como ferramentas LLM, bem como usadas no código.
Johnson disse que, embora a Embabel abraça o protocolo de contexto do modelo, é necessária uma tecnologia de orquestração de nível superior. Os motivos incluem a necessidade de explicação, descoberta, capacidade de misturar modelos, a capacidade de injetar guardrails a qualquer momento de um fluxo, a capacidade de gerenciar a execução do fluxo, a composibilidade dos fluxos em escala e a integração mais segura com sistemas existentes, como bancos de dados, onde é perigoso para permitir que o acesso a llms, observou Johnson.
“É cedo, mas temos grandes planos”, disse Johnson. “Queremos não apenas construir a melhor plataforma de agentes na JVM, mas para construir a melhor plataforma de agentes, período”.
