Les entreprises s’intéressent sérieusement aux néoclouds, les fournisseurs de cloud spécialisés construits principalement autour de l’infrastructure de l’IA, en particulier des GPU, des réseaux à haut débit et des clusters de calcul à grande échelle pour la formation et l’inférence de modèles. Contrairement aux hyperscalers traditionnels qui fournissent de larges plates-formes pour presque tous les types de charges de travail d’entreprise, les néoclouds ont tendance à se concentrer plus étroitement sur le calcul accéléré. CoreWeave, Lambda, Crusoe Cloud et d’autres sont tous communément associés à ce marché émergent des infrastructures d’IA.
L’intérêt n’est pas difficile à comprendre. Les entreprises sont sous pression pour faire sortir les projets d’IA générative, d’apprentissage automatique et d’analyse avancée du laboratoire vers la production. Dans le même temps, l’accès à de gros blocs de capacité GPU est devenu coûteux, contraint et, dans certains cas, difficile à obtenir auprès des principaux hyperscalers. De nombreuses entreprises découvrent que les néoclouds peuvent offrir de meilleures économies, un accès plus rapide à la capacité ou des configurations plus étroitement alignées sur les charges de travail d’IA.
Cela ne signifie pas qu’AWS, Microsoft Azure et Google Cloud soient remplacés. Ils restent l’environnement d’exploitation par défaut pour la plupart des déploiements cloud d’entreprise. Ils fournissent des plans administratifs matures, des outils de sécurité, des cadres de conformité, une empreinte mondiale, des services gérés et des écosystèmes opérationnels que les entreprises ont passé des années à apprendre à utiliser.
Cependant, l’IA a changé la donne sur les infrastructures. Les entreprises se soucient moins du cloud sur lequel elles sont standardisées et se concentrent plutôt sur l’obtention de la capacité d’IA dont elles ont besoin, quand elles en ont besoin, à un prix qui ne détruit pas leur rentabilité.
Cela soulève l’une des questions les plus fréquentes que je reçois de la part des clients : « Dans quelle mesure est-il différent de maintenir ces systèmes cloud d’IA à distance par rapport à ce que nous faisons déjà sur AWS, Azure ou Google Cloud ? » Ma réponse est que les principes fondamentaux des opérations cloud s’appliquent toujours, mais que le modèle administratif change de manière importante. Les Neoclouds ne sont pas simplement des hyperscalers moins chers. Il s’agit d’environnements d’infrastructure spécialisés, et la spécialisation crée toujours des compromis.
Les plus grandes différences administratives apparaissent dans trois domaines : la sécurité, les performances et la continuité des activités/reprise après sinistre.
Une sécurité moins développée
La sécurité dans le monde hyperscaler est mature parce que l’écosystème administratif est mature. AWS, Microsoft et Google ont passé des années à créer des systèmes d’identité profondément intégrés, des services de gestion de clés, des outils de journalisation, des moteurs de politiques, des programmes de conformité, des contrôles réseau, des capacités de gestion des vulnérabilités et des services de surveillance de la sécurité. Les entreprises configurent toujours mal ces services, mais les éléments constitutifs sont bien connus et largement compris.
Avec les néoclouds, l’administration de la sécurité peut nécessiter une propriété plus directe de l’entreprise. Certains fournisseurs disposent de solides capacités de sécurité et de pratiques opérationnelles matures. D’autres sont encore en train de développer les types de contrôles de niveau entreprise que les grandes organisations attendent des hyperscalers. Cela signifie que les administrateurs ne peuvent pas supposer que la fédération des identités, les contrôles d’accès privilégiés, la journalisation d’audit, le chiffrement, la segmentation du réseau et les rapports de conformité se comporteront de manière familière.
Cela est important car les charges de travail d’IA impliquent souvent certaines des données les plus précieuses que possède une entreprise. Les ensembles de formation, les données de réglage fin, les invites, les intégrations, les pondérations de modèle, les bases de données vectorielles et les sorties d’inférence peuvent contenir de la propriété intellectuelle, des données client, des informations réglementées ou une logique métier confidentielle. Si une entreprise utilise des données opérationnelles propriétaires pour affiner un modèle, les enjeux administratifs sont plus importants que la simple mise en place d’un système de calcul à distance.
Le modèle de responsabilité partagée s’applique toujours, mais il doit être examiné fournisseur par fournisseur. Les entreprises doivent comprendre qui contrôle les clés de chiffrement, comment l’accès administratif est accordé et révoqué, comment les journaux sont exportés vers le centre des opérations de sécurité, comment les données sont isolées entre les locataires et comment l’accès du personnel du fournisseur est régi. Ce ne sont pas des questions de paperasse. Ce sont des questions de modèle opérationnel.
Gestion pratique des performances
La deuxième différence concerne les performances. L’administration cloud traditionnelle a appris aux entreprises à penser de manière abstraite. Les administrateurs sélectionnent les types d’instances, les classes de stockage, les bases de données gérées, les politiques de mise à l’échelle automatique et les tableaux de bord d’observabilité. Le matériel sous-jacent est important, mais il est généralement caché derrière un modèle de service.
L’IA change cela. Avec les néoclouds, l’administration des performances se rapproche souvent beaucoup plus de l’infrastructure physique. Le type de GPU, la mémoire GPU, la conception de l’interconnexion, le débit de stockage, la topologie du cluster, la planification des tâches, la localisation des données et la latence du réseau peuvent tous avoir un effet direct sur le bon fonctionnement d’une charge de travail d’IA ou sur le gaspillage d’argent.
L’économie des GPU est impitoyable. Un GPU inutilisé ou sous-utilisé constitue un problème financier majeur. Si les pipelines de données ne peuvent pas alimenter les accélérateurs assez rapidement, si la formation distribuée est mal configurée ou si le débit de stockage devient le goulot d’étranglement, l’entreprise peut rapidement perdre l’avantage en termes de coûts qui a rendu le néocloud attrayant au départ.
Les administrateurs doivent donc comprendre plus que les opérations cloud de base. Ils doivent savoir comment les charges de travail d’IA se comportent à grande échelle. Ils doivent comprendre comment les tâches de formation consomment les ressources de stockage et de réseau, comment la demande d’inférence fluctue, comment les clusters sont alloués et comment mesurer l’utilisation réelle de l’accélérateur. Cela nécessite une collaboration plus étroite entre les opérations cloud, l’ingénierie de l’IA, l’ingénierie des données, l’ingénierie des plateformes et la finance.
La planification des capacités change également. Les hyperscalers ont créé l’attente d’une élasticité quasi infinie, même si cette attente a toujours été quelque peu exagérée. Sur le marché de l’IA, c’est encore moins fiable. Les Neoclouds peuvent offrir un meilleur accès à la capacité GPU, mais cette capacité peut provenir de réservations, de clusters fixes, d’engagements matériels spécifiques ou de fenêtres contractuelles. Les administrateurs doivent aligner les calendriers de formation, les cycles d’expérimentation, la croissance des inférences et les contrôles budgétaires avec le modèle de capacité réel du fournisseur.
L’administration des performances dans les néoclouds ne consiste pas seulement à surveiller les tableaux de bord. Il s’agit de gérer l’économie de la charge de travail au niveau de l’infrastructure.
Plans détaillés de reprise après sinistre
La troisième différence concerne la continuité des activités et la reprise après sinistre. Trop d’entreprises croient encore que si quelque chose fonctionne dans le cloud, la résilience est incluse. Cette hypothèse est dangereuse dans tout environnement cloud, mais encore plus lorsqu’il s’agit d’une infrastructure d’IA spécialisée.
Les hyperscalers offrent de vastes empreintes mondiales, plusieurs régions, des zones de disponibilité, des services de réplication, des outils de sauvegarde, des options de basculement gérées et des modèles de résilience bien documentés. Les Neoclouds peuvent ne pas offrir la même profondeur géographique ni la même gamme de services de continuité natifs. Les administrateurs doivent être beaucoup plus explicites sur les objectifs de récupération, la conception du basculement, la réplication et les procédures de restauration.
Les charges de travail de l’IA compliquent encore davantage les choses. Récupérer un système d’IA n’est pas la même chose que restaurer un serveur d’applications traditionnel. Les entreprises doivent protéger les ensembles de données, les points de contrôle de formation, les artefacts de modèles, les magasins de fonctionnalités, les bases de données vectorielles, les pipelines d’orchestration, les images de conteneurs, les fichiers de configuration et les points de terminaison d’inférence. Si un environnement néocloud devient indisponible, l’entreprise peut-elle reprendre la formation à partir d’un point de contrôle ? L’inférence peut-elle se déplacer vers un autre environnement ? Le même modèle peut-il fonctionner sur différents accélérateurs, pilotes, cadres et hypothèses de réseau ?
Ces questions nécessitent des réponses avant la panne, pas pendant celle-ci. Certaines charges de travail d’IA peuvent tolérer des retards. Une tâche de formation peut être suspendue et redémarrée ultérieurement sans impact majeur sur l’activité. D’autres charges de travail, notamment les systèmes d’inférence de production intégrés dans les processus orientés client, peuvent nécessiter des objectifs de récupération beaucoup plus agressifs.
Les entreprises doivent évaluer les néoclouds avec des attentes réalistes. Les aspects économiques peuvent ouvrir la porte et la capacité peut rendre la décision urgente. Le succès à long terme de l’adoption du néocloud dépendra cependant de la manière dont les entreprises gèrent les différences.
