Home
Logic

AI Tidak Bisa Diselesaikan dengan Menambah Hardware


Ada satu kalimat yang belakangan terlalu gampang dipakai untuk menjelaskan semua hal di industri teknologi: kebutuhan AI masih tinggi.

Kalimatnya memang benar, tetapi sudah tidak cukup. Karena masalah AI sekarang bukan lagi sekadar berapa banyak GPU, RAM, atau SSD yang bisa diproduksi. Masalahnya sudah bergeser menjadi berapa banyak hardware yang benar-benar bisa dipasang, diberi listrik, dihubungkan, didinginkan, lalu menghasilkan sesuatu yang berguna.

Microsoft menyebut ukuran baru ini sebagai useful yield. Dell memberi bukti bahwa pesanan fisiknya masih meledak. Vertiv menunjukkan bahwa listrik bahkan mulai dibangun sendiri agar data center tidak perlu menunggu grid. Kalau tiga cerita ini disatukan, arah industrinya jadi lebih jelas: memory mulai berubah bentuk sebelum demand-nya berubah arah.

Menambah Memory Saja Sudah Tidak Cukup

Rani Borkar, President of Azure Hardware Systems and Infrastructure Microsoft, memperkenalkan gagasan yield imperative menjelang SEMICON Taiwan 2026. Selama puluhan tahun, industri semikonduktor memakai yield untuk mengukur berapa banyak chip berguna yang bisa dihasilkan dari setiap wafer. Menurut Microsoft, disiplin yang sama sekarang perlu diterapkan pada seluruh infrastruktur AI.

Yang dihitung tidak cukup lagi jumlah GPU, kapasitas memory, atau besar data center. Pertanyaannya adalah seberapa banyak silicon, memory, network, software, cooling, dan listrik yang benar-benar berubah menjadi intelligence yang berguna.

Microsoft juga tidak sedang mengatakan bahwa memory menjadi kurang penting. Justru mereka menyebut memory sebagai constraint yang semakin ketat. Satu pekerjaan agentic bahkan dapat memakai lebih dari 3.400 kali token dibanding interaksi chat biasa. Masalahnya, menambah satu komponen tidak menyelesaikan hambatan pada komponen lain.

  • GPU cepat tetapi memory lambat, GPU menunggu.
  • Memory besar tetapi network tersendat, sistem tetap menunggu.
  • Semua hardware tersedia tetapi listriknya belum ada, tidak ada yang bisa dijalankan.
  • Semuanya hidup tetapi utilization buruk, capex berubah menjadi pajangan mahal.

Ini mengubah cara melihat efisiensi. Selama ini peningkatan performa sering dibaca dari satu komponen. GPU lebih cepat, bandwidth memory bertambah, SSD menaikkan throughput. Tetapi AI bekerja sebagai satu sistem. Kinerja akhirnya ditentukan oleh bagian yang paling lambat, bukan komponen yang paling mengesankan di presentasi.

Karena itu optimasi mulai bergerak menuju penempatan data lebih dekat dengan compute, pengelolaan memory hierarchy yang lebih baik, kompresi KV cache, compiler yang lebih sadar lokasi data, serta desain silicon yang mengurangi pergerakan data. Bukan mengganti DRAM besok pagi, tetapi mempersempit jarak antara processor, memory, storage, dan networking.

Memory dan Compute Mulai Benar-Benar Menyatu

Perkembangan Samsung membuat arahnya semakin sulit diabaikan. Dalam roadmap memory AI terbarunya, Samsung memperkenalkan zHBM, konsep yang menumpuk HBM langsung di atas accelerator. Bukan lagi memory yang diletakkan di samping processor seperti desain HBM konvensional.

Tujuannya sederhana: memperpendek perjalanan data. Semakin jauh data harus bergerak, semakin besar latency dan energi yang terbuang. Samsung juga sudah menunjukkan LPDDR5X-PIM, memory dengan kemampuan pemrosesan di dalam memory itu sendiri.

Ini dekat dengan kekhawatiran yang sudah lama saya pikirkan: bagaimana kalau teknologi memory suatu saat tidak lagi hadir sebagai komponen terpisah, tetapi menyatu dengan compute?

Jawabannya mulai terlihat. Transisinya mungkin memang menuju ke sana, tetapi bukan berarti produsen DRAM lama otomatis disingkirkan. Samsung justru menjadi salah satu pihak yang merancang bentuk penggantinya. SK hynix dan Micron juga mempunyai pengetahuan material, packaging, controller, dan hubungan manufaktur yang terlalu dalam untuk sekadar berdiri menonton.

Jadi ancaman jangka panjang bagi tiga raksasa memory bukan hanya munculnya teknologi yang menggantikan RAM. Mereka punya peluang besar menjadi pihak yang membuat teknologi pengganti tersebut.

Dell Menunjukkan Demand Fisiknya Belum Retak

Kalau Microsoft memberikan gambaran engineering, Dell memberikan angka yang jauh lebih kasar.

Dell mencatat sekitar US$60 miliar pesanan AI server dalam satu kuartal dan menutup periode tersebut dengan backlog US$95 miliar. Revenue kuartal kedua naik 58 persen secara tahunan menjadi rekor US$47 miliar, melampaui perkiraan pasar US$44,92 miliar. Outlook revenue tahunan kemudian dinaikkan dari US$167 miliar menjadi US$192 miliar.

Ini penting karena backlog tersebut bukan lagi sekadar pengumuman pembangunan data center. Posisinya sudah lebih dekat dengan hardware yang benar-benar dipesan.

Rantai realisasinya kurang lebih seperti ini:

announced investment → actual order → backlog → delivery → commissioning → utilization.

Tentu backlog belum sama dengan rack yang sudah menyala. Pesanan masih dapat tertunda, diubah, atau bahkan dibatalkan. Tetapi angka Dell jauh lebih berguna daripada hanya menjumlahkan semua rencana capex hyperscaler.

Dan server AI bukan hanya berisi GPU serta HBM. Setiap rack juga membawa system DRAM, NVMe enterprise SSD, networking, power delivery, dan cooling. Dell bahkan menyebut bisnis storage ikut menguat. Analis Melius menilai AI mulai mendorong pertumbuhan fundamental pada unit storage Dell yang paling profitable.

Artinya tekanan AI terhadap NAND tidak berhenti pada satu produk eksotis seperti HBF. Enterprise SSD yang bentuknya jauh lebih konvensional pun ikut terserap.

Sejauh ini belum terlihat bahwa mahalnya memory membuat pembeli AI mundur secara material. Dell malah menaikkan proyeksi dengan agresif ketika biaya modal dan energi sedang tinggi. Demand destruction belum kelihatan.

Listrik Sekarang Bagian dari Time-to-First-Token

Di titik ini masalahnya pindah dari pabrik chip ke gardu listrik.

Vertiv akan membeli Utility Innovation Group dengan pembayaran awal sekitar US$1,45 miliar, ditambah maksimal US$1,15 miliar jika target pendapatan tercapai. Nilai akhirnya bisa menyentuh US$2,6 miliar.

Utility Innovation Group membawa teknologi microgrid control, onsite generation orchestration, switchgear, integrasi penyimpanan energi, dan behind-the-meter power architecture. Dengan kata lain, perangkat yang membuat data center tidak sepenuhnya bergantung pada kecepatan pembangunan grid.

CEO Vertiv memakai ukuran yang cukup brutal. Keunggulan data center sekarang bergantung pada seberapa cepat mereka bergerak dari pemilihan lokasi menuju first token.

Bukan kapan gedungnya selesai. Bukan kapan servernya datang. Tetapi kapan lokasi tersebut benar-benar mulai menghasilkan token.

Ini membuat saya lebih hati-hati memakai kekurangan listrik sebagai alasan bahwa ekspansi AI pasti melambat. Grid memang menjadi hambatan, tetapi kapital tidak pasrah menunggunya. Jika economics proyek masih dianggap menarik, operator akan mencoba membangun jalan pintas melalui turbin gas, baterai, microgrid, dan dalam horizon lebih jauh mungkin pembangkit nuklir modular.

Keterlambatan listrik tetap dapat menunda konsumsi DRAM dan NAND. Namun pembelian Vertiv menunjukkan adanya supply response terhadap hambatan tersebut. Industri tidak hanya menunggu masalahnya selesai.

Ujian Sebenarnya Datang dari Economics

Wall Street memang kembali naik pada 2 September. Dow bertambah 0,56 persen ke 53.061,95, S&P 500 naik 0,46 persen ke 7.666,60, dan Nasdaq bertambah 0,45 persen ke 26.217,83.

Tetapi kondisi pendanaannya belum santai. Yield Treasury AS 10 tahun masih sekitar 4,79 persen setelah sempat menyentuh 4,818 persen. Brent berada di US$95,63 per barel dan WTI sekitar US$91,01. Pasar juga meningkatkan perkiraan peluang kenaikan bunga Federal Reserve pada September menjadi sekitar dua pertiga.

Di saat yang sama, data ADP hanya menunjukkan tambahan 38.000 pekerjaan swasta pada Agustus, di bawah perkiraan 48.000. Kombinasinya tidak nyaman: tenaga kerja melemah, tetapi minyak dan inflasi membuat ruang penurunan bunga semakin sempit.

Bitcoin berada sekitar US$77.800 pagi ini dengan rentang intraday US$76.308 sampai US$78.061. Area US$75.000 sampai US$76.000 masih menjadi support pendek yang lebih penting daripada pergerakan beberapa ratus dolar dalam satu pagi. Jika area itu bertahan ketika yield mendekati 5 persen dan minyak berada di atas US$95, berarti demand strukturalnya masih cukup kuat. Kalau gagal, area US$70.000 sampai US$72.000 kembali relevan.

Spot Bitcoin ETF AS menerima sekitar US$3,52 miliar net inflow sepanjang Agustus, jauh lebih besar daripada sekitar US$172 juta pada Juli. Tetapi awal September langsung membawa outflow. Jadi tekanan Bitcoin saat ini lebih masuk akal dibaca sebagai stress test makro, bukan karena narasi crypto tiba-tiba menghilang.

Hal yang sama berlaku pada AI. Jika demand akhirnya patah, pemicunya kemungkinan bukan karena dunia mendadak tidak membutuhkan memory. Penyebab yang lebih masuk akal adalah economics proyek berhenti bekerja.

Yield 10 tahun menuju 5 persen meningkatkan hurdle rate proyek data center, terutama yang bergantung pada utang. Harga energi menaikkan biaya operasi. Utilization yang buruk memperpanjang balik modal. Di sinilah useful yield Microsoft berubah dari istilah engineering menjadi persoalan keuangan.

Memory Berubah Bentuk Sebelum Demand Berubah Arah

Microsoft mengatakan jangan hanya menambah hardware. Dell menunjukkan bahwa customer tetap memesan US$60 miliar AI server. Vertiv membeli kemampuan microgrid agar data center lebih cepat menghasilkan token.

Ada dua proses yang berjalan bersamaan:

  • Efisiensi arsitektur terus meningkat.
  • Total deployment compute juga terus membesar.

Itulah alasan inovasi memory tidak otomatis bearish bagi DRAM dan NAND. Jika accelerator generasi baru dua kali lebih efisien, tetapi economics yang lebih baik membuat operator memasang lima kali lebih banyak accelerator, konsumsi total memory tetap bertambah. Jevons paradox dalam bentuk hardware.

Jadi ancaman paling nyata terhadap harga DDR5 dan SSD beberapa tahun ke depan tetap lebih membumi: ekspansi supply terlalu cepat, pembiayaan AI retak, atau actual energized demand berhenti mengejar kapasitas yang sudah dipesan.

Untuk sekarang, ketiganya belum terlihat jelas. Yang terlihat justru industri sedang membongkar batas antara compute, memory, storage, network, dan power supaya setiap hardware mahal itu menghasilkan sesuatu.

Memory mungkin memang akan berubah bentuk. Tetapi sebelum demand-nya menghilang, memory justru sedang ditarik semakin dekat ke pusat seluruh sistem komputasi.

Sumber

Stickers Creator - UI/UX Developer

Post a Comment

Ada pertanyaan?
Diskusikan dengan pengguna lain
© ‧ Ichi Hikaru. All rights reserved. Developed by Jago Desain