Bangun Infrastruktur untuk Dunia AI yang Terus Bergerak

Bangun Infrastruktur untuk Dunia AI yang Terus Bergerak - Tidak ada seorang pun di industri ini yang dapat memastikan seperti apa AI lima tahun dari sekarang.

Tidak ada yang tahu arsitektur model apa yang akan mendominasi berikutnya. Tidak ada yang tahu di titik mana keseimbangan antara training dan inference akan terbentuk. Dan tidak ada yang tahu seberapa banyak AI akan berjalan di data center Anda, di data center milik pihak lain, atau di laptop Anda (atau pada perangkat yang lebih kecil). Namun, para pemimpin infrastruktur tetap harus membuat keputusan dan investasi hari ini untuk membangun fondasi TI yang akan menopang bisnis mereka selama lima hingga tujuh tahun ke depan.

Itulah tantangannya. Kenyataannya, risiko terbesar bukanlah memilih teknologi yang salah hari ini. Risikonya adalah membangun infrastruktur yang tidak dapat beradaptasi dengan perubahan kebutuhan ketika workload terus berkembang esok hari.

Kita perlu memikirkan ulang cara merancang infrastruktur AI. Fokusnya seharusnya bukan pada sebuah chip atau fabric, melainkan pada satu pertanyaan mendasar: Seberapa mudah sistem dapat beradaptasi ketika kebutuhan menjadi berubah?

Baca juga:Review Kamera Xiaomi 13T dengan Sensor Sony IMX707, Masih Bersaing dengan HP Sekarang?

Adaptabilitas Menjadi Prinsip Desain

Beberapa tahun lalu, “infrastruktur AI” sebagian besar berarti proses training berskala besar yang menghasilkan permintaan yang dapat diprediksi dan berbentuk batch pada satu cluster besar. Workload tersebut masih penting, tetapi kini harus berjalan berdampingan dengan inference, Agentic AI, dan kumpulan workload yang semakin terdistribusi dengan kebutuhan yang sangat berbeda.

Inference selalu aktif dan sangat mempertimbangkan latensi serta biaya per request. Agentic AI memperbesar kebutuhan tersebut karena satu request dapat berkembang menjadi serangkaian langkah: mengambil dan membentuk input, memanggil tools, mengeksekusi kode, mengoordinasikan sub-agent, dan mempertahankan state yang bertahan lebih lama dibandingkan satu request.

Perubahan ini bukan hanya menambah jumlah komputasi yang dibutuhkan; bentuk sistemnya pun berubah. Infrastruktur yang dioptimalkan untuk cluster training masa lalu bukan hanya kekurangan kapasitas, tetapi juga memiliki bentuk yang tidak lagi tepat: keseimbangan komputasi, memori, dan jaringan yang menjadi dasar desainnya tidak lagi sesuai dengan ke mana pekerjaan sebenarnya berjalan. Dan Anda tidak dapat menyelesaikan masalah bentuk sistem hanya dengan membeli lebih banyak dari apa yang sudah Anda miliki.

Kuncinya adalah mengoptimalkan sistem secara keseluruhan, bukan hanya komponen individual. Komputasi, memori, networking, storage, software, daya, dan keandalan semuanya harus bekerja bersama. Menskalakan sesuatu yang sudah familiar adalah persoalan anggaran, sedangkan menyerap sesuatu yang baru adalah persoalan arsitektur dan operasional.

Tiga Sifat yang Menjaga Kebebasan Anda

Jika kebutuhan terus berubah, tujuan desain bukanlah memprediksi pemenang, melainkan mempertahankan kebebasan untuk beralih ke apa yang berikutnya. Dalam praktiknya, hal ini bermuara pada tiga sifat yang dapat diaudit:

Adaptable: Anda membutuhkan portofolio yang cukup dalam sehingga ketika workload berubah, jawabannya adalah konfigurasi yang berbeda, bukan vendor yang berbeda. Padukan komputasi yang tepat dengan pekerjaan yang tepat, dengan fondasi software bersama yang membuat pilihan tersebut praktis.

Economical: Ini bukan berarti murah, melainkan membayar untuk alat yang tepat bagi pekerjaan yang tepat. Training adalah keputusan modal yang dibuat sesekali; inference adalah keputusan operasional yang dibuat miliaran kali dalam sehari. Dan sebuah agentic request bukan satu inference, melainkan rangkaian inference, sehingga angka yang perlu diperhatikan adalah biaya per tugas yang selesai, bukan biaya per token.

Open: Ekosistem terbuka menyediakan pilihan melalui standar yang diadopsi secara luas sehingga pelanggan dapat menghindari ketergantungan pada roadmap produk satu vendor. Inilah pilihan nyata di antara vendor, dan itulah alasan mengapa interkoneksi terbuka serta networking terbuka menjadi penting.

Peran Portofolio AMD

Inilah alasan mengapa keluasan teknologi penting. Ini pula alasan AMD berinvestasi di seluruh stack, bukan hanya pada satu produk unggulan. Kebutuhan AI saat ini mencakup:

• Inference, tokenization, orchestration, dan komputasi general-purpose lainnya pada AMD EPYC™ Server CPUs, hingga model kecil dan AI lokal pada platform AMD Radeon™ dan AMD Ryzen™ AI.
• Inference dan fine-tuning large language model pada kartu AMD Instinct™ PCIe.
• Distributed inference dan training pada sistem GPU AMD Instinct™ delapan GPU, yang dapat diskalakan hingga solusi AMD Helios™ rackscale untuk deployment berskala mega.

Produk individual sebenarnya bukan inti persoalannya. Keluasan tanpa cerita software bersama hanyalah sebuah katalog. Keluasan yang didukung software adalah fleksibilitas. Disatukan oleh software AMD ROCm™, hardware untuk sebuah workload dapat berpindah tanpa harus memulai dari awal.

Kami membangun di seluruh stack karena kami percaya setiap bagian harus unggul berdasarkan kemampuannya sendiri, bukan karena stack hanya bekerja jika Anda membeli semuanya. Standar terbuka memungkinkan hal itu: pilih komponen AMD yang paling sesuai untuk workload Anda dan tetap pertahankan kebebasan untuk memilih secara berbeda di tempat lain.

Organisasi yang berhasil dalam lima tahun ke depan bukanlah organisasi yang mampu memprediksi setiap perubahan arah. Mereka adalah organisasi yang memiliki kebebasan dan fleksibilitas untuk berbelok ketika perubahan itu datang.

Kemampuan adaptif, sehingga masa depan - apa pun bentuknya - tetap dapat diakomodasi. Bangun secara ekonomis, sehingga Anda membayar untuk alat yang tepat, bukan yang paling besar. Bangun secara terbuka, sehingga pilihan tetap terjaga - karena ketika Anda tidak memilikinya, Anda akan menanggung biayanya.

Yang dapat kita pastikan adalah AI akan terus berubah. Kita seharusnya membangun infrastruktur dengan asumsi tersebut sejak awal.

Oleh Alexey Navolokin, General Manager, APAC

Anda mungkin suka:Realme 15T 5G Review, Kamera Tajam dengan Desain Familiar