O LM Studio facilita a execução de LLMs no próprio hardware, seja como um aplicativo de desktop ou um servidor para outras pessoas na organização. Mas o LM Studio não é o único projeto desse tipo. Unsloth, uma equipe de dois irmãos (Daniel e Michael Han), criou seu próprio aplicativo local para execução e treinamento de modelos em hardware local, chamado Unsloth Desktop.
Unsloth Desktop, um aplicativo de código aberto licenciado pelo Apache, pretende fazer mais do que apenas hospedar modelos localmente. Ele também pode ser usado como um ambiente de trabalho de treinamento de modelo, pode ser usado para geração de imagens, bem como bate-papo padrão e é executado em várias plataformas (Microsoft Windows, macOS e Linux).
Ao contrário do LM Studio, o Unsloth Desktop não funciona como um aplicativo de desktop em janela. Quando iniciado, ele abre um console (útil para depuração, com certeza) e, em seguida, abre uma guia do navegador da web para fornecer uma GUI. Embora as atualizações internas (por exemplo, para llama.cpp ou outras bibliotecas de suporte) sejam tratadas automaticamente de dentro do programa, as atualizações completas exigem a execução de um comando no console. Isso torna o trabalho com o Unsloth Desktop um pouco mais complicado do que o aplicativo de desktop típico.
