Matematika Data Center Telah Berubah, Ciptakan Ruang untuk AI

Matematika Data Center Telah Berubah, Ciptakan Ruang untuk AI - Konsolidasi server merupakan proyek penting bagi organisasi TI (Teknologi Informasi) yang mengelola infrastruktur data center. Tujuannya jelas: memindahkan beban kerja dari sejumlah besar sistem lama yang kurang efisien ke lebih sedikit server dengan kemampuan lebih tinggi, tanpa mengorbankan performa atau mengganggu aplikasi penting. 

Jika dilakukan dengan baik, konsolidasi dapat meningkatkan efisiensi ekonomi infrastruktur server. Konsolidasi dapat membebaskan ruang rak dan kapasitas daya, mengurangi biaya lisensi software per core, serta menciptakan ruang untuk pertumbuhan di masa depan – baik untuk memperluas aplikasi bisnis, analitik, maupun AI.

AMD EPYC Dirancang untuk Meningkatkan Efisiensi

Konsolidasi yang efektif bergantung pada kemampuan memindahkan lebih banyak beban kerja yang ada ke lebih sedikit server tanpa mengorbankan performa atau menimbulkan kompleksitas migrasi yang tidak perlu. 

Baca juga:Review Kamera Realme 15T Berkekuatan 50MP dengan Sensor OmniVision OV50D40

Prosesor AMD EPYC™ menggabungkan kepadatan core tinggi, performa per core yang kuat, dan efisiensi energi pada arsitektur x86 yang sama dengan yang telah digunakan perusahaan. Artinya, tim TI dapat melakukan konsolidasi lebih besar tanpa harus sekaligus menghadapi pertimbangan validasi aplikasi dan migrasi yang dapat muncul saat memindahkan beban kerja ke server berbasis Arm®.

CPU AMD EPYC™ Generasi Kelima mendukung server x86 paling hemat energi saat ini. Portofolio ini menunjukkan kapabilitas untuk mendukung konsolidasi dalam skala besar:

• Konfigurasi dengan kepadatan tinggi (hingga 192 core) untuk menjalankan jumlah beban kerja secara maksimal.
• Opsi frekuensi tinggi (hingga 5GHz) untuk memaksimalkan performa per core dan mengurangi biaya lisensi.
• Konfigurasi seimbang untuk beban kerja yang membutuhkan keduanya.

Ke depannya, AMD memperkirakan prosesor AMD EPYC™ Generasi Keenam “Venice” akan semakin memperluas keunggulan kepadatan core dengan konfigurasi yang menawarkan hingga 256 core.

Rangkaian pilihan tersebut membantu organisasi mengonsolidasikan lebih banyak pekerjaan sekaligus menyesuaikan komputasi dengan beban kerja. Kapasitas yang tersedia juga dapat mendukung kebutuhan berikutnya, termasuk GPU AMD Instinct™ untuk inferensi dan pelatihan AI serta jaringan AMD Pensando™ untuk pergerakan data yang dapat diprediksi.

Konsolidasi Tanpa Mengorbankan Performa

Angkanya sangat signifikan. Perusahaan dapat mengonsolidasikan 100 server dual CPU Intel® Xeon® Platinum 8280 yang telah berusia 5–7 tahun menjadi 14 server berbasis CPU AMD EPYC™ 9965 – pengurangan sebesar 86% – dengan tetap mempertahankan total performa yang sama. Hal ini dapat mengurangi penggunaan daya sebesar 69% dan menurunkan total biaya kepemilikan selama tiga tahun sebesar 41%. 9xx5TCO-001B

Baca juga:Banting dan Injak Laptop di Asus Media Gathering Yogyakarta 2026

Dengan kata lain: [100 server lama × 28 core × 2 socket = 5.600 core] dibandingkan dengan [14 server berbasis CPU AMD EPYC 9965 × 192 core × 2 socket = 5.376 core]. Secara keseluruhan, hal ini dapat membebaskan kapasitas data center dalam jumlah besar. Artinya, ruang rak dalam jumlah signifikan dan daya listrik hingga beberapa kilowatt dapat dialokasikan kembali untuk beban kerja baru di dalam fasilitas data center yang ada – tanpa perlu menambah infrastruktur fisik.

Kemampuan menjalankan lebih banyak pekerjaan per core dapat secara langsung menurunkan biaya software. Untuk software yang dilisensikan berdasarkan socket atau core – seperti banyak paket virtualisasi dan database terkemuka – penggunaan lebih sedikit sistem dan lebih sedikit core berpotensi menghemat jutaan dalam biaya lisensi dan pemeliharaan. Ketika setiap core memiliki biaya, mendapatkan lebih banyak hasil dari setiap core dapat mengubah kurva biaya. (Manfaat ini tidak berlaku dengan cara yang sama untuk software yang dilisensikan berdasarkan pengguna, perangkat, atau model lain yang tidak berbasis core.)

Konsolidasi dalam Praktik

DNSE Securities, perusahaan broker saham online yang berkembang pesat di Vietnam, membutuhkan kepadatan dan performa seperti cloud, tetapi harus mempertahankan infrastrukturnya secara on-premises karena persyaratan regulasi. Lingkungan server yang ada tidak dapat memberikan tingkat konsolidasi yang dibutuhkan DNSE untuk berkembang.

Setelah melakukan benchmarking terhadap sistem AMD dan Intel, DNSE menerapkan CPU AMD EPYC™ Generasi Ketiga dan Keempat di seluruh data center-nya. DNSE mengurangi jumlah rak hingga setengah dan menurunkan konsumsi daya dari 16–17 kilowatt per rak menjadi 7–9 kW per rak.

Saat ini, 90% beban kerja DNSE berjalan pada CPU AMD EPYC, dengan kombinasi prosesor berfrekuensi tinggi untuk sistem perdagangan yang sensitif terhadap latensi dan prosesor dengan jumlah core tinggi untuk berbagai beban kerja terkontainerisasi. Fleksibilitas tersebut – memilih CPU yang tepat untuk pekerjaan yang tepat – memungkinkan DNSE meningkatkan skala tanpa melakukan overprovisioning.

Binh Nguyen, Chief Technology Officer DNSE, mengatakan: “Server yang didukung CPU AMD EPYC akan memungkinkan kami untuk terus membangun infrastruktur dan menjalankan software seperti yang kami lakukan saat ini, tetapi dalam skala yang jauh lebih besar.”

Menciptakan Ruang untuk AI

Di berbagai industri, manfaat langsung dapat diukur: peluang bagi TI untuk mendukung bisnis dengan lebih sedikit server dan rak, penggunaan daya yang lebih rendah, dan biaya lisensi software yang lebih rendah. Namun manfaatnya tidak berhenti di sana. Menjalankan aplikasi bisnis yang ada dengan lebih efisien dapat membuka kapasitas daya, ruang, dan pendinginan untuk infrastruktur baru.

Untuk agentic AI, ruang tambahan tersebut penting di seluruh stack: setiap tindakan agent dapat memicu query database, panggilan API, pembuatan token, dan eksekusi tool. Mengonsolidasikan beban kerja yang ada ke lebih sedikit server yang lebih efisien dapat membantu menciptakan kapasitas untuk mendukung permintaan tambahan tersebut bersama aplikasi bisnis inti.

Fleksibilitas ini menjadi semakin penting ketika AI perusahaan semakin mencakup lingkungan terdistribusi yang terdiri dari frontier models, layanan cloud, infrastruktur on-premises, dan client yang mendukung AI. Beban kerja yang berbeda mungkin paling sesuai dengan model dan lokasi yang berbeda berdasarkan faktor seperti kompleksitas, sensitivitas data, latensi, dan biaya.

Bagi organisasi yang menambahkan AI, hal ini dapat berarti tersedianya ruang untuk menerapkan accelerator dalam batas data center yang ada. Secara lebih luas, hal ini memberikan fleksibilitas kepada tim TI untuk berkembang secara bertahap dan mencocokkan prosesor, accelerator, dan model dengan pekerjaan yang paling sesuai untuk masing-masing – alih-alih membangun ulang sistem berdasarkan satu model atau beban kerja.

Prioritas bagi CIO

Konsolidasi server mungkin bukan agenda CIO yang paling banyak mendapatkan sorotan, tetapi merupakan proyek yang penting dan dapat diukur. Keberhasilannya dapat dilacak melalui jumlah server, ruang rak, penggunaan daya, pengeluaran lisensi, dan total biaya kepemilikan.

Dengan CPU server AMD EPYC, organisasi TI dapat mencapai berbagai tujuan tersebut tanpa mengorbankan performa atau memaksakan satu konfigurasi untuk setiap beban kerja. Hasilnya adalah infrastruktur server yang lebih efisien saat ini dan lebih banyak ruang untuk apa pun yang dibutuhkan bisnis selanjutnya.

Oleh: Alexey Navolokin, General Manager, APAC

Anda mungkin suka:Review Kamera Xiaomi 13T dengan Sensor Sony IMX707, Masih Bersaing dengan HP Sekarang?