Le modèle précédent Granite 3.1 prend en charge une fenêtre de contexte de 128 000 jetons et IBM les a formés en vue d'exploiter les plus grandes sociétés. La situation est similaire avec le modèle Granite 3.2, qui est disponible sur la plate-forme de visage étreint. Des versions sélectionnées du modèle sont désormais disponibles chez IBM Watsonx.ai, Ollam, Replicate et LM Studio, et bientôt ils apparaîtront également dans la version RHEL AI 1.5, grâce à laquelle la communauté open source pourra également l'utiliser.

La version VLM (Vision Langauge Model (VLM), qui est capable d'analyser le document, afin qu'elle puisse être utilisée dans les affaires. IBM a utilisé son propre ensemble d'outils de docke.

Tous les modèles de granit 3.2 ont la capacité de raisonner « chaîne de pensée » et sont disponibles en deux versions avec différentes quantités de paramètres (2b et 8b) à leur disposition, avec la capacité d'allumer et d'arrêter ce mécanisme pour optimiser les performances. IBM affirme que grâce à l'utilisation de méthodes innovantes de mise à l'échelle, le modèle Granite 3.2 8b peut être calibré pour correspondre aux modèles beaucoup plus importants qui nécessitent un raisonnement mathématique.

A lire également