LM Studio facilite l’exécution de LLM sur son propre matériel, que ce soit en tant qu’application de bureau ou serveur pour d’autres membres de son organisation. Mais LM Studio n’est pas le seul projet du genre. Unsloth, une équipe de deux frères (Daniel et Michael Han), a créé sa propre application locale pour exécuter et former des modèles sur du matériel local, appelée Unsloth Desktop.
Unsloth Desktop, une application open source sous licence Apache, a l’intention de faire plus que simplement héberger des modèles localement. Il peut également être utilisé comme atelier de formation de modèles, peut être utilisé pour la génération d’images ainsi que pour le chat standard, et fonctionne sur plusieurs plates-formes (Microsoft Windows, macOS et Linux).
Contrairement à LM Studio, Unsloth Desktop ne fonctionne pas comme une application de bureau fenêtrée. Une fois lancé, il ouvre une console (pratique pour le débogage, bien sûr), puis ouvre un onglet de navigateur Web pour fournir une interface graphique. Bien que les mises à jour internes (par exemple pour llama.cpp ou d’autres bibliothèques de support) soient gérées automatiquement à partir du programme, les mises à jour complètes nécessitent l’exécution d’une commande sur la console. Cela rend le travail avec Unsloth Desktop un peu plus compliqué qu’une application de bureau classique.
