Pasukan kejuruteraan Meta hari ini menerbitkan catatan blog yang menarik tentang Transparent Memory Offloading (TMO) sebagai ciri kernel Linux baharu yang mereka bangunkan yang telah digunakan dalam pengeluaran di pelayan Facebook/Meta. Dalam pusat data Meta, fungsi TMO ini menjimatkan 20~32% memori setiap pelayan merentas berjuta-juta pelayan mereka.
Meta menerangkan Pemunggahan Memori Telus sebagai:
Mekanisme kernel Linux baharu yang mengukur kerja yang hilang akibat kekurangan sumber merentas CPU, memori dan I/O dalam masa nyata. Berpandukan maklumat ini dan tanpa pengetahuan aplikasi terlebih dahulu, TMO melaraskan secara automatik jumlah memori untuk dimuatkan ke peranti heterogen, seperti memori termampat atau SSD. Ia berbuat demikian mengikut ciri prestasi peranti dan sensitiviti aplikasi kepada akses memori yang lebih perlahan. TMO secara holistik mengenal pasti peluang pemunggahan daripada bukan sahaja bekas aplikasi tetapi juga bekas kereta sampingan yang menyediakan fungsi peringkat infrastruktur.
TMO telah berjalan dalam pengeluaran selama lebih daripada setahun dan telah menjimatkan 20 peratus hingga 32 peratus daripada jumlah memori merentas berjuta-juta pelayan dalam kumpulan pusat data kami yang luas. Kami telah berjaya menstrimkan komponen OS TMO ke dalam kernel Linux.
Kerja sisi kernel Linux termasuk Maklumat Gerai Tekanan (PSI) dalam kernel sudah dan kemudian dalam ruang pengguna mereka mempunyai”Senpai”sebagai ejen ruang pengguna.
Pemuatan sering dilakukan pada pemacu keadaan pepejal NVMe yang lebih murah per GB daripada memori pelayan. Platform pelayan akan datang dengan Compute Express Link (CXL) juga mempunyai banyak potensi untuk penggunaan Transparent Memory Offloading.
Mereka yang berminat untuk mengetahui lebih lanjut tentang usaha Facebook/Meta Transparent Memory Offloading (TMO) boleh melihat Blog kejuruteraan meta untuk semua butiran teknikal yang menarik.
