CloudFlare telah lama mengandalkan Nginx sebagai bagian dari tumpukan proxy HTTP-nya tetapi sekarang telah menggantinya dengan perangkat lunak Pingora buatan Rust yang dikatakan melayani lebih dari satu triliun permintaan per hari dan memberikan kinerja yang lebih baik sementara hanya menggunakan sekitar sepertiga dari CPU dan sumber daya memori.
CloudFlare telah”mengatasi”Nginx dan akhirnya membuat tumpukan proxy HTTP mereka sendiri. CloudFlare menemukan bahwa arsitektur proses pekerja Nginx memiliki kekurangan, terutama di sekitar sumber daya CPU. Nginx juga terbukti sulit untuk memenuhi kebutuhan mereka.
Insinyur CloudFlare telah mengembangkan Pingora dari awal sebagai solusi internal. Bahasa pemrograman Rust dipilih karena keamanan memorinya sambil tetap memberikan kinerja seperti C. CloudFlare juga mengimplementasikan perpustakaan HTTP mereka sendiri untuk Rust agar sesuai dengan semua kebutuhan mereka yang berbeda. Pingora menggunakan arsitektur multi-utas daripada multi-proses.
Mengenai manfaat kinerja dengan Pingora:
Dalam produksi, Pingora mengkonsumsi CPU sekitar 70% lebih sedikit dan memori 67% lebih sedikit dibandingkan dengan layanan lama kami dengan beban lalu lintas yang sama.
Di luar kemenangan performa yang mengejutkan, Pingora juga dianggap lebih aman berkat penggunaan Rust.
Mereka yang ingin mempelajari lebih lanjut tentang proyek Pingora CloudFlare dapat melakukannya melalui blog CloudFlare. Satu-satunya downside adalah bahwa Pingora belum open-source–CloudFlare mengatakan mereka sedang mengerjakan rencananya, tetapi sampai sekarang proxy HTTP ini belum bersifat publik.
