AWS akhirnya memecahkan teka-teki yang sudah bertahun-tahun menghantui para insinyur jaringan. Selama ini, jaringan data center menggunakan struktur hierarkis—seperti bagan organisasi perusahaan—di mana data harus "lapor ke atasan" dulu sebelum sampai ke tujuan. Sistem ini memang rapi, tapi boros energi dan rawan kemacetan di titik-titik tertentu.
"Bayangkan sebuah perusahaan di mana Anda harus bicara dengan bos Anda dulu untuk menyampaikan pesan ke departemen lain," ujar Matt Rehder, VP of Global Network Engineering AWS, dalam sebuah wawancara. "Itu tidak efisien."
Ide tentang jaringan acak sebenarnya sudah ada sejak 2012. Akademisi mengusulkan topologi bernama Jellyfish yang menggunakan graf acak murni. Namun, implementasinya mentah di lapangan.
Masalah pertama: aturan routing yang rumit. Setiap perangkat jaringan harus diprogram secara manual karena tidak ada struktur hierarki yang menyederhanakan aturan pengiriman data. Kedua, soal kabel. "Dengan graf acak murni, kabel akan berserakan seperti mi instan di seluruh data center," kata Rehder. "Anda bisa membangunnya di laboratorium, tapi tidak mungkin di skala produksi."
AWS tidak lantas menyerah. Kuncinya adalah membuat jaringan acak, tapi tidak sepenuhnya acak. RNG menggunakan graf datar dengan campuran kabel deterministik dan acak.
Dua komponen penting yang membuat RNG berhasil adalah Spraypoint, algoritma routing yang cerdas menemukan jalur antar node, dan Shufflebox, sebuah perangkat optik yang "mengocok" koneksi antar router. "Shufflebox adalah sihir di balik RNG," ungkap Rehder. "Anda colokkan fiber di satu sisi, lalu di dalamnya kabel-kabel itu diacak secara acak dan keluar di port yang berbeda di sisi lain. Ini membuat jaringan acak terasa lebih terstruktur."
Proyek ini mulai terbentuk tiga tahun lalu, berawal dari pesan Slack internal. Seshadhri Comandur, profesor di University of California, Santa Cruz dan Amazon Scholar, dihubungi oleh Ratul Mahajan, profesor University of Washington yang juga ahli jaringan data center. Bersama Giacomo Bernardi, principal applied scientist AWS, mereka akhirnya berhasil menjadi tim pertama di dunia yang menerapkan jaringan data center datar dalam skala besar.
RNG saat ini digunakan untuk server database inti AWS. Untuk beban kerja machine learning, AWS masih mengandalkan jaringan UltraServer yang menyediakan bandwidth penuh. "Server inti bisa lebih efisien karena tidak semua orang berbicara satu sama lain pada waktu yang bersamaan," jelas Rehder.
Dampak finansial dan lingkungan dari inovasi ini sangat signifikan. AWS memperkirakan teknologi ini akan menghemat miliaran dolar dalam biaya perangkat keras dan secara drastis mengurangi emisi CO2. Dengan efisiensi energi hingga 40%, ini menjadi langkah konkret menuju data center yang lebih hijau—sebuah isu yang semakin krusial seiring meledaknya permintaan komputasi awan dan kecerdasan buatan.