La technologie de désagrégation de la mémoire basée sur CXL ouvre une nouvelle direction pour les frameworks de solutions Big Data

Une équipe du Laboratoire d’architecture informatique et des systèmes de mémoire (CAMEL) du KAIST a présenté une nouvelle solution de liaison express de calcul (CXL) dont la désagrégation de la mémoire directement accessible et haute performance ouvre de nouvelles directions pour le traitement de la mémoire du Big Data. Le professeur Myoungsoo Jung a déclaré que la technologie de l’équipe améliore considérablement les performances par rapport à la désagrégation de la mémoire basée sur l’accès direct à la mémoire à distance (RDMA) existante.

CXL est un nouveau multiprotocole dynamique basé sur PCIe (peripheral component interconnect-express) conçu pour utiliser efficacement les dispositifs de mémoire et les accélérateurs. De nombreux centres de données d’entreprise et fournisseurs de mémoire y prêtent attention en tant que multiprotocole de nouvelle génération pour l’ère du Big Data.

Les applications Big Data émergentes telles que l’apprentissage automatique, l’analyse de graphes et les bases de données en mémoire nécessitent de grandes capacités de mémoire. Cependant, la mise à l’échelle de la capacité de mémoire via une interface mémoire antérieure telle que le double débit de données (DDR) est limitée par le nombre d’unités centrales de traitement (CPU) et de contrôleurs de mémoire. Par conséquent, la désagrégation de la mémoire, qui permet de connecter un hôte à la mémoire ou aux nœuds de mémoire d’un autre hôte, est apparue.

RDMA est un moyen par lequel un hôte peut accéder directement à la mémoire d’un autre hôte via InfiniBand, le protocole réseau couramment utilisé dans les centres de données. De nos jours, la plupart des technologies de désagrégation de mémoire existantes utilisent RDMA pour obtenir une grande capacité de mémoire. Par conséquent, un hôte peut partager la mémoire d’un autre hôte en transférant les données entre la mémoire locale et distante.

Bien que la désagrégation de la mémoire basée sur RDMA fournisse une grande capacité de mémoire à un hôte, deux problèmes critiques existent. Tout d’abord, la mise à l’échelle de la mémoire nécessite toujours l’ajout d’un processeur supplémentaire. Étant donné que la mémoire passive telle que la mémoire dynamique à accès aléatoire (DRAM) ne peut pas fonctionner par elle-même, elle doit être contrôlée par le processeur. Deuxièmement, les copies de données redondantes et les interventions sur la structure logicielle pour la désagrégation de la mémoire basée sur RDMA entraînent une latence d’accès plus longue. Par exemple, la latence d’accès à la mémoire distante dans la désagrégation de la mémoire basée sur RDMA est de plusieurs ordres de grandeur plus longue que l’accès à la mémoire locale.

Pour résoudre ces problèmes, l’équipe du professeur Jung a développé le cadre de désagrégation de la mémoire basé sur CXL, y compris des processeurs personnalisés compatibles CXL, des périphériques CXL, des commutateurs CXL et des modules de système d’exploitation compatibles CXL. Le dispositif CXL de l’équipe est un nœud de mémoire purement passif et directement accessible qui contient plusieurs modules de mémoire double en ligne DRAM (DIMM) et un contrôleur de mémoire CXL. Étant donné que le contrôleur de mémoire CXL prend en charge la mémoire dans le dispositif CXL, un hôte peut utiliser le nœud de mémoire sans intervention du processeur ou du logiciel. Le commutateur CXL de l’équipe permet d’augmenter la capacité de mémoire d’un hôte en connectant hiérarchiquement plusieurs périphériques CXL au commutateur CXL, autorisant plus de centaines de périphériques. Au-dessus des commutateurs et des appareils, le système d’exploitation compatible CXL de l’équipe supprime la copie de données redondante et la conversion de protocole présentées par le RDMA conventionnel, ce qui peut réduire considérablement la latence d’accès aux nœuds de mémoire.

Dans un test comparant le chargement de données 64B (cacheline) à partir de dispositifs de pooling de mémoire, la désagrégation de mémoire basée sur CXL a montré des performances de chargement de données 8,2 fois supérieures à la désagrégation de mémoire basée sur RDMA et même des performances similaires à la mémoire DRAM locale. Dans les évaluations de l’équipe pour un benchmark de données volumineuses tel qu’un test basé sur l’apprentissage automatique, la technologie de désagrégation de mémoire basée sur CXL a également montré un maximum de performances 3,7 fois plus élevées que les technologies de désagrégation de mémoire basées sur RDMA précédentes.

« Échappant à la désagrégation de mémoire conventionnelle basée sur RDMA, notre infrastructure de désagrégation de mémoire basée sur CXL peut fournir une évolutivité et des performances élevées pour divers centres de données et infrastructures de services cloud », a déclaré le professeur Jung. Il a poursuivi en soulignant : “Notre recherche sur la désagrégation de la mémoire basée sur CXL apportera un nouveau paradigme pour les solutions de mémoire qui mènera l’ère des mégadonnées.”

Fourni par KAIST