Samsung ha introdotto la memoria ibrida che combina DRAM e NAND

Chiamato CMM-H TM (CXL Memory Module-hybrid for Tiered Memory), il nuovo dispositivo CXL di Samsung è una memoria ibrida che combina DRAM e NAND. Dispone di RAM aggiuntiva e memoria flash, è possibile accedere da remoto a processori e acceleratori.

La combinazione di memoria DRAM e memoria flash NAND in questo sistema dovrebbe fornire ai server un modo economico per aumentare la capacità di memoria senza utilizzare la memoria DDR5 installata internamente, che spesso non è un'opzione nei server con carichi pesanti.

La soluzione di Samsung utilizza Compute Express Link (CXL), che fornisce comunicazione sincrona tra processori e acceleratori, consentendo loro di utilizzare le stesse aree di memoria dei dispositivi collegati tramite CXL. La memoria remota, o in questo caso un dispositivo di memoria ibrido RAM/Flash, è accessibile tramite il bus PCIe, che ha un costo di circa 170-250 ns di latenza, più o meno il costo di un NUMA (Uniform Memory Access). Salto.

La memoria CMM-H TM è un prodotto separato dalla memoria Samsung CMM-H CXL. Samsung afferma che questa è la prima memoria CXL multistrato basata su FPGA.Risolvi le sfide di gestione della memoria, riduci i tempi di inattività, ottimizza il layout per la memoria a più livelli e aumenta le prestazioni, il tutto riducendo significativamente il costo totale di proprietà.“.

Sebbene la nuova memoria CMM-H non sia veloce quanto la DRAM, aggiunge più capacità tramite la memoria flash NAND, ma riduce significativamente la latenza attraverso la funzione di cache di memoria intelligente integrata nel dispositivo di espansione. I dati utilizzati di frequente vengono spostati sui chip DRAM per migliorare la velocità, mentre i dati utilizzati meno frequentemente vengono archiviati nella memoria NAND.

READ  Google Gemini: tutti i dettagli su uno dei più grandi aggiornamenti finora: Life

Samsung dice Questo comportamento si verifica automaticamente, ma alcune applicazioni e carichi di lavoro possono fornire al dispositivo linee guida per migliorare le prestazioni tramite le API. Ciò aggiungerà naturalmente una certa latenza ai dati memorizzati nella cache, il che non è l'ideale per tutte le situazioni, afferma. L'hardware di Tom.

Tuttavia, la nuova scheda di espansione di memoria Samsung offrirà agli utenti nuovi modi per espandere la capacità di memoria dei propri server. Questo nuovo paradigma di progettazione sta diventando sempre più importante poiché i modelli linguistici di grandi dimensioni più avanzati continuano a richiedere più memoria dalle macchine host e dagli acceleratori.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *