La bataille pour les modèles linguistiques d’IA bat son plein. Microsoft a reconnu que les utilisateurs recherchaient non seulement des modèles solides – qui ne peuvent être exécutés que sur des systèmes informatiques efficaces – mais également des solutions de ce type moins avancées et moins exigeantes. C'est pourquoi il a présenté hier le Phi-3 Mini, un modèle d'IA d'entrée de gamme.
Ce sera le premier des trois petits modèles d’IA que Microsoft introduira dans son offre dans les mois à venir. Le modèle Phi-3 a été entraîné à l'aide de 3,8 milliards de paramètres et, selon ses créateurs, il peut rivaliser avec succès avec le modèle GPT-3.5. Les prochains modèles s'appellent Phi-3 Small et Phi-3 Medium. Le premier doit être entraîné à l’aide de 7 milliards de paramètres et le second à 14 milliards de paramètres. Ce n’est pas grand-chose compte tenu du fait que le modèle Llama 3 annoncé par Meta doit être entraîné à l’aide de 700 milliards de paramètres.
Il faut savoir que la force de chaque modèle d’IA dépend principalement du nombre de paramètres impliqués dans sa formation. Tous les modèles Phi-3 annoncés ne prétendent pas être haut de gamme, mais ils sont parfaits pour les smartphones et autres appareils à faible puissance de calcul. Microsoft les utilisera certainement dans ses appareils mobiles compatibles avec l'IA et dotés d'une puissance de calcul limitée. Microsoft affirme que malgré sa puissance limitée, le Phi-3 Mini fonctionne plutôt bien, même s'il n'est pas à la hauteur de modèles tels que le GPT-4 ou le GPT-4 Turbo.
