El equipo de ingeniería de Meta publicó hoy una publicación de blog interesante sobre la descarga transparente de memoria (TMO) como una nueva característica del kernel de Linux que desarrollaron y que ya se usa en producción en los servidores de Facebook/Meta. Dentro de los centros de datos de Meta, esta funcionalidad TMO ahorra entre un 20 y un 32 % de memoria por servidor en sus millones de servidores.
Meta describe la descarga de memoria transparente como:
Un nuevo mecanismo del kernel de Linux que mide el trabajo perdido debido a la escasez de recursos en CPU, memoria y E/S en tiempo real. Guiado por esta información y sin ningún conocimiento previo de la aplicación, TMO ajusta automáticamente la cantidad de memoria para descargar en un dispositivo heterogéneo, como una memoria comprimida o un SSD. Lo hace de acuerdo con las características de rendimiento del dispositivo y la sensibilidad de la aplicación a los accesos de memoria más lentos. TMO identifica de manera integral las oportunidades de descarga no solo de los contenedores de aplicaciones, sino también de los contenedores sidecar que brindan funciones a nivel de infraestructura.
TMO ha estado funcionando en producción durante más de un año y ha ahorrado entre un 20 % y un 32 % de la memoria total en millones de servidores en nuestra amplia flota de centros de datos. Hemos actualizado con éxito los componentes del sistema operativo de TMO en el kernel de Linux.
El trabajo del lado del kernel de Linux ya incluye la información de bloqueo de presión (PSI) en el kernel y luego en el espacio de usuario que tienen”Senpai”como agente del espacio de usuario.
La descarga a menudo se realiza en unidades de estado sólido NVMe que son más baratas por GB que la memoria del servidor. Las próximas plataformas de servidor con Compute Express Link (CXL) también tienen un gran potencial para el uso de la descarga de memoria transparente.
Aquellos interesados en obtener más información sobre el esfuerzo de Facebook/Meta Transparent Memory Offloading (TMO) pueden ver el Blog de ingeniería de Meta para conocer todos los detalles técnicos interesantes.
