Ampere Computing pagi ini mengumumkan bahwa keluarga prosesor AmpereOne mereka telah memasuki produksi dan memberikan detail tambahan tentang prosesor server Arm yang dirancang sendiri ini.
Inti AmpereOne yang baru adalah desain inti kustom in-house seperti yang diungkapkan sebelumnya oleh perusahaan. Dalam mendesain AmpereOne secara tepat untuk penyedia layanan cloud, AmpereOne menawarkan hingga 192 inti fisik per soket–jauh di atas 128 inti yang sudah mengesankan yang saat ini disediakan oleh Ampere Altra Max.
Saya diberi pengarahan sebelumnya tentang roadmap Ampere Computing yang diperbarui dan sementara AmpereOne sedang dalam produksi dan pengambilan sampel dengan pelanggan, Saya belum memiliki kesempatan untuk menguji platform AmpereOne apa pun secara langsung untuk melihat secara independen kinerja dan efisiensi dayanya. Mudah-mudahan itu akan segera terjadi. Beberapa detail tentang AmpereOne masih terbatas, seperti tidak ada tabel SKU dengan kecepatan clock, informasi harga, atau ketersediaan oleh penyedia layanan cloud publik yang diungkapkan selama pengarahan lanjutan. Seperti yang diharapkan, AmpereOne beralih ke DDR5 dan PCIe Gen 5.0–sesuai dengan kemampuan AMD EPYC”Genoa”terbaru dan prosesor”Sapphire Rapids”Intel Xeon Scalable.
Baru dengan inti khusus AmpereOne adalah Bfloat16, penandaan memori, enkripsi memori kunci tunggal, virtualisasi aman, manajemen daya yang ditingkatkan, dan serangkaian peningkatan lainnya dibandingkan prosesor Ampere Altra dan Ampere Altra Max sebelumnya.
Salah satu aspeknya Saya paling terkejut dengan AmpereOne adalah bahwa mereka setidaknya untuk saat ini membatasinya ke jumlah inti yang lebih tinggi yang tidak dicakup oleh Ampere Altra/Altra Max. Dengan kata lain, AmpereOne adalah untuk jumlah inti 136/144/160/176/192… Saat ini tidak ada prosesor AmpereOne yang direncanakan untuk 128 inti atau kurang yang saat ini dicakup oleh keluarga Ampere Altra. Agaknya ini karena taruhan besar mereka untuk mengarahkan prosesor baru secara tepat untuk penyedia layanan cloud yang tertarik untuk memaksimalkan kepadatan VM. Saya telah bertanya tentang kemungkinan prosesor pengembang AmpereOne dengan jumlah inti yang lebih rendah atau bagi mereka yang menginginkan lebih sedikit inti tetapi tertarik dengan AmpereOne untuk BFloat16 atau kemampuan baru lainnya yang ditemukan dengan prosesor baru ini, tetapi saat ini mereka tidak memiliki produk yang direncanakan di segmen ini. Dengan kata lain, menjadi besar atau pulang.
Di ujung atas dengan AmpereOne pada 192 jumlah inti adalah sekitar pelaporan daya penggunaan 350 Watt. AmpereOne memanfaatkan memori DDR5 8 saluran seperti Intel Sapphire Rapids tetapi di bawah DDR5 12 saluran yang dinikmati oleh AMD Genoa.
Inti khusus Ampere menampilkan cache data L1 4 arah 64KB per core, cache instruksi L1 16KB per core, dan cache L2 2MB per core. Dikatakan ada peningkatan efisiensi daya, mungkin sebagian karena peningkatan dalam proses pembuatan TSMC tetapi detail pastinya tidak dijelaskan.
Ampere Computing melaporkan jauh lebih banyak VM per rak sebanyak mungkin dengan AmpereOne, yang mendasarkan penilaian mereka hanya pada jumlah inti CPU fisik yang mungkin dan satu VM per inti fisik. Jadi klaim ini agak meragukan karena hanya melaporkan jumlah inti maksimum per rak yang mungkin tanpa potensi daya/kinerja apa pun dari VM tersebut.
Tolok ukur awal yang disediakan oleh Ampere untuk AmpereOne agak terbatas: patokan Difusi Stabil untuk AI generatif dan kemudian menggunakan DLRM untuk rekomendasi AI. AmpereOne dilaporkan menawarkan 2,3x lebih banyak frame per detik daripada AMD EPYC 9654″Genoa”dan lebih dari dua kali jumlah kueri per detik untuk DLRM dibandingkan EPYC 9654. Sayangnya, hanya dua tolok ukur kinerja AI ini yang ditampilkan untuk pengumuman hari ini.
Satu hal yang penting untuk diketahui adalah saat membaca catatan akhir presentasi mereka, dengan benchmark DLRM mereka menguji AmpereOne menggunakan FP16 sedangkan untuk AMD EPYC 9654 diuji menggunakan FP32. AmpereOne melihat rata-rata daya sistem selama DLRM pada 534 Watt hingga AMD EPYC Genoa 9654 pada 512 Watt.
Ampere Computing mengakhiri pengarahan mereka dengan menunjukkan rangkaian mitra yang luas dari vendor perangkat keras seperti Giga Computing, Foxconn, HPE, dan Supermicro ke cloud publik seperti Microsoft Azure, Tencent Cloud, Google Cloud, dan lainnya. Ini menunjukkan mitra mereka saat ini dan belum ada kabar kapan kami akan melihat perangkat keras AmpereOne apa pun atau mulai melihat 192 prosesor server inti ini di cloud publik.
Saya diberitahu selama pengarahan saya bahwa berkat upstreaming kernel awal mereka serta sudah memiliki dukungan kompiler untuk GCC dan LLVM Dentang, distribusi Linux AArch64 utama harus siap untuk berjalan di AmpereOne. Patch kompiler sebelumnya mengonfirmasi bahwa AmpereOne didasarkan pada ARMv8.6 ISA.
Itu saja untuk saat ini dengan informasi dari pengungkapan roadmap Ampere Computing hari ini. Mudah-mudahan kita akan segera menemukan perangkat keras AmpereOne untuk pengujian guna memberikan tampilan independen pada performa dan efisiensi dayanya di berbagai tolok ukur yang lebih luas.
