Un serveur autonome, compatible avec l’IA, offrant zéro temps d’arrêt planifié
De nouvelles innovations sur l’ensemble de la pile, du silicium aux applications, offrent une valeur ajoutée unique et une meilleure continuité d’activité. IBM fait passer sa gamme de serveurs Unix en génération Power11.
A première vue, peu de changements par rapport aux Power10 qu’ils remplacent : le format, le nombre de processeurs et la quantité de RAM sont les mêmes. En revanche, les options et les fonctions sont plus nombreuses.
Ainsi, le nombre de cœurs utilisables par processeur grimpe à 30 (20 ou 24 sur les modèles précédents). Ces nouvelles machines pourront également être dotées des cartes accélératrices Spyre pour l’inférence d’IA. Ce sont les cartes qu’IBM propose déjà sur sa dernière génération de ses mainframes, les z17.
L’héritage mainframe est évident. IBM capitalise sur son savoir-faire historique, affichant un taux de disponibilité exceptionnel de 99,9999 %, soit moins de 32 secondes d’indisponibilité par an.
Des coeurs en réserve
Avec les serveurs basés sur processeurs Power11, les clients peuvent s’attendre à zéro temps d’arrêt planifié pour la maintenance système grâce à de nouvelles technologies telles que l’application automatique de correctifs (autonomous patching) et le déplacement automatisé des charges de travail avec Live Partition Mobility. En outre, IBM intègre dans ses Power11 une technologie de cœurs de réserve (déjà vue sur mainframe) qui permet de maintenir le fonctionnement des serveurs même en cas de défaillance d’un cœur CPU, grâce à des cœurs « en attente » activés automatiquement.
Un dispositif Power Cyber Vault, certifié conforme aux exigences NIST, promet de détecter et bloquer des malwares en moins d’une minute. Qui plus est, le système d’auto-diagnostic est désormais appuyé sur une IA qui rend la maintenance plus proactive et réduit d’autant les temps d’arrêt.
Spyre, pour la fin de l’année
Sans surprise, le marketing d’IBM met en avant les capacités de ses nouvelles machines à animer les workloads de l’IA. Ici, l’accent est surtout mis sur les inférences plus que les apprentissages. Les processeurs Power11 sont dotés de la même unité MMA d’accélération des calculs matriciels que le Power10. Ce n’est pas un NPU à part entière, mais cela s’en approche. En pratique, chaque cœur Power11 embarque en réalité 4 unités MMA. IBM ne donne pas de mesures de performance en TOPS de ces MMA. Mais met en avant le fait que les TOPS ne sont qu’une partie de l’histoire et que les traitements IA bénéficient surtout de l’impressionnante bande passante mémoire des Power11 : 1200 Go/sec !
Quant à l’accélérateur Spyre, il n’arrivera en option qu’au terme de cette année. Cette puce comprend les mainframes 32 cœurs conçus pour exécuter très rapidement des fonctions matricielles et vectorielles en 4, 8 ou 16 bits. Ces fonctions sont nécessaires pour piocher des éléments de réponse dans un LLM, selon les valeurs numériques des tokens issus du prompt de l’utilisateur. La puissance est évaluée à 300 TOPS, soit trois fois mieux environ que les puces qui combinent NPU et GPU sur stations de travail dédiées à l’IA.