Saya barusan membandingkan perkiraan pendapatan yang bisa kita dapatkan dari menyewakan hashrate di Nicehash & menyewakan tenaga komputasi
Vast.ai setelah memotong 1/2 dari pricing dengan
RTX 5090. ... Jauh lebih menguntungkan menyewakan tenaga komputasi untuk AI daripada menyewakan hashrate di Nicehash.
Betul gan, kalau dilihat di atas kertas (raw numbers) memang gap-nya jauh banget antara mining vs AI rental saat ini.
Tapi kalau boleh beropini, menurut saya VGA bekas mining (consumer grade) lama-kelamaan bakal "tidak worth" lagi untuk disewakan sebagai tenaga AI. Lanskapnya berubah cepat banget, bukan cuma soal punya CUDA core banyak, tapi efisiensi dan spesialisasi:
Era GPU Khusus AI (ASIC/NPU) Nvidia memang masih raja, tapi dominasinya di consumer card mulai digoyang untuk workload spesifik. Sekarang makin banyak chip dedicated AI (seperti Groq atau chip AI khusus dari startup lain) yang performa inference-nya jauh lebih ngebut dan hemat daya dibanding GPU gaming yang dipaksa kerja AI. Kalau market sewa nanti butuhnya kecepatan inference (bukan training), GPU gaming bakal kalah saing di cost-per-token.
Teknologi Memori & Arsitektur Baru (Google/Big Tech) Google dan pemain besar lain tidak diam saja ketergantungan sama Nvidia. Mereka mengembangkan teknologi manajemen memori dan TPU sendiri yang jauh lebih efisien menangani Large Language Models (LLM) yang butuh VRAM monster. Teknologi RAM dan bandwidth interconnect sekarang jadi bottleneck utama, dan GPU consumer seringkali kalah di bandwidth memory ini dibanding solusi enterprise.
Edge AI Makin Canggih (Raspberry Pi) Jangan lupa juga segmen Edge AI. Sekarang perangkat kecil seperti Raspberry Pi (dengan AI Kit/Hailo-8L) atau NPU di laptop consumer sudah cukup kuat untuk menjalankan model-model AI ringan/lokal.
Artinya, user yang dulunya perlu sewa GPU di cloud untuk task ringan, sekarang bisa running di lokal dengan daya super rendah.