AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

Inovasi Gorgon Halo Membawa Teknologi AI Berkapasitas Besar ke Komputer Pribadi

Perkembangan TEKNOLOGI artificial intelligence semakin meningkatkan kebutuhan perangkat komputasi. Dengan menghadirkan keluarga prosesor terbaru, AMD memperluas pilihan sistem komputasi lokal untuk mendukung aplikasi generatif tanpa ketergantungan penuh pada cloud. Keluarga prosesor terbaru tersebut menyatukan pemrosesan komputasi umum, kemampuan komputasi paralel, dan NPU khusus AI dalam arsitektur komputasi terpadu. Perpaduan teknologi ini dikembangkan guna mendukung beban kerja kecerdasan buatan dengan pengelolaan komputasi lebih terarah. Dalam pengembangan lokal, jumlah RAM merupakan pertimbangan penting. Oleh sebab itu, AMD menempatkan memori terpadu sebagai komponen strategis produk.

Gorgon Halo dikembangkan sebagai kelanjutan dari arsitektur Ryzen AI Max sebelumnya. Salah satu peningkatan penting adalah bertambahnya kapasitas memori. Dalam konfigurasi terdahulu, RAM terpadu tersedia hingga 128GB. Sementara itu, AMD menghadirkan dukungan RAM sampai 192GB. Peningkatan tersebut memungkinkan alokasi memori lebih luas bagi aplikasi generatif. Meski spesifikasinya lebih tinggi, konfigurasi akhir tetap ditentukan produsen komputer. Oleh sebab itu, pengembang dianjurkan memastikan kapasitas RAM yang dipasang sebelum merencanakan pemrosesan model besar.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Daya tarik utama Gorgon Halo adalah arsitektur unified memory yang memberikan ruang kerja bersama bagi prosesor dan grafis sumber daya penyimpanan kerja terpadu. Memiliki pendekatan berlainan dibandingkan sistem yang memakai kartu grafis terpisah, sistem terpadu tersebut tidak selalu memerlukan penyalinan data antarmemori terpisah antara unit pemrosesan yang terintegrasi. Manfaat pendekatan ini memiliki potensi besar ketika menggunakan aplikasi dengan kebutuhan memori tinggi. Pada inferensi model bahasa, informasi numerik model memerlukan kapasitas RAM yang mencukupi. Dengan kapasitas hingga 192GB, pengguna memiliki kesempatan menjalankan beban komputasi yang sebelumnya sulit dijalankan pada PC biasa.

AMD menjelaskan, sistem memungkinkan penggunaan hingga 160GB memori untuk GPU. Kapasitas grafis ini berbeda dari kapasitas VRAM dedicated pada GPU diskret. Sebaliknya, GPU memanfaatkan bagian memori sistem. Perbedaan ini penting dipahami karena CPU dan aplikasi lain tetap membutuhkan ruang. Jika memori hampir penuh, aplikasi lain mungkin mengalami kekurangan memori. Tidak kalah penting, kecepatan akses data memiliki dampak terhadap kelancaran pemrosesan model. Oleh sebab itu, sistem yang memiliki ruang besar tetap membutuhkan perangkat lunak teroptimasi.

Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal

Salah satu kemampuan yang menjadi perhatian adalah dukungan terhadap model AI berukuran besar. Dalam informasi produknya, platform dengan memori maksimal dirancang mendukung model dengan lebih dari 300 miliar parameter menggunakan representasi bobot empat bit. Kemampuan tersebut menjadi pencapaian menarik bagi peneliti model bahasa yang membutuhkan sistem inferensi mandiri. Walaupun kemampuan tersebut menjanjikan, menjalankan model tidak sama dengan mendapatkan respons sangat cepat. Performa inferensi aktual ditentukan oleh kombinasi bandwidth memori serta metode kompresi.

Teknik kuantisasi menjadi komponen utama dalam menyesuaikan model dengan kapasitas perangkat. Pada format presisi tinggi, model memerlukan alokasi RAM yang lebih tinggi. Untuk ilustrasi teknis, LLM dengan tiga ratus miliar bobot pada representasi FP16 memerlukan kira-kira 600 gigabyte sebelum overhead. Apabila setiap bobot direpresentasikan dengan empat bit, ukuran dasar bobot dapat mendekati 150GB. Perlu dipahami, file model biasanya membutuhkan informasi tambahan. Di samping ukuran parameter, sistem masih membutuhkan memori untuk konteks dan proses pendukung. Oleh sebab itu, kapasitas RAM harus direncanakan secara menyeluruh.

Peran CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2 pada Gorgon Halo

Di samping dukungan RAM besar, Gorgon Halo memadukan arsitektur CPU Zen 5, grafis RDNA 3.5, dan NPU XDNA 2. Kombinasi tersebut memberikan pilihan akselerasi berdasarkan jenis tugas. Unit pemrosesan utama berfungsi menjalankan instruksi umum, sedangkan GPU berperan besar dalam inferensi model AI. Sementara itu, NPU dirancang untuk menjalankan pekerjaan neural yang kompatibel. Melalui arsitektur tersebut, pengembang dapat menyesuaikan akselerator yang didukung. Walaupun seluruh komponen mendukung AI, dukungan perangkat lunak tetap menentukan penggunaan.

Untuk perangkat Gorgon Halo berkapasitas maksimal, AMD menawarkan prosesor dengan maksimum 16 core, grafis terintegrasi dengan 40 unit komputasi, dan NPU hingga 55 TOPS. Rancangan perangkat keras tersebut dapat mendukung pengembangan AI lokal. Namun demikian, angka TOPS bukan satu-satunya penentu performa semua model bahasa. Dalam pemrosesan model besar, optimasi perangkat lunak dan komputasi paralel memiliki pengaruh besar. Oleh sebab itu, calon pengguna disarankan mempertimbangkan performa sesuai aplikasi yang akan dijalankan, bukan sekadar membandingkan jumlah TOPS.

AMD Memperlihatkan Performa Ryzen AI Max 400 Series pada Berbagai Beban Kerja

Dalam menjelaskan performa perangkat, AMD menampilkan hasil benchmark internal. Pengujian tersebut menggunakan berbagai tugas pemrosesan model seperti pembuatan gambar dan pemrosesan teks menggunakan model besar. Menurut AMD, hasil perbandingan berbeda menurut tugas dari selisih performa kecil sekitar 1,1 kali hingga hasil tertentu yang mencapai 32,2 kali terhadap platform pembanding yang digunakan. Sebagai catatan penting, hasil pengujian dilakukan dalam kondisi tertentu. Oleh sebab itu, peningkatan maksimum bukan gambaran performa umum.

Dalam beberapa pengujian, AMD menjalankan ComfyUI untuk pemrosesan gambar generatif. Dalam evaluasi model bahasa digunakan model terkompresi dengan dukungan Unsloth pada skenario pemrosesan model. Pemilihan format model berperan terhadap kecepatan inferensi. Selain itu, panjang konteks percakapan juga dapat memengaruhi throughput pemrosesan. Ketika jumlah token meningkat besar, kecepatan dapat menurun meskipun kapasitas memori mencukupi. Dengan demikian, calon pembeli perlu mencari benchmark sesuai model yang digunakan sebelum mengambil keputusan pembelian.

Manfaat Memori Besar AMD bagi Developer serta Perusahaan

Salah satu bidang penggunaan penting Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Dengan dukungan memori terpadu, pengembang berpotensi menjalankan aplikasi generatif langsung pada komputer pengembangan. Kemampuan tersebut berpotensi mendukung pengelolaan data dalam lingkungan lokal. Sebagai contoh, perusahaan dapat mencoba sistem pencarian informasi yang menggunakan informasi tanpa selalu mengirimnya ke layanan eksternal. Walaupun proses dilakukan di perangkat, perlindungan data masih membutuhkan perhatian. Sistem yang digunakan berpotensi mengakses layanan tambahan, sehingga izin dan konfigurasi perlu diperiksa.

Selain model bahasa, Gorgon Halo berpotensi membantu pembuatan agentic workflows. Pada arsitektur agen, pekerjaan dapat melibatkan sejumlah komponen. Sebagai ilustrasi, sistem berpotensi memeriksa berkas referensi, kemudian menentukan langkah lanjutan berdasarkan informasi yang tersedia. Kapasitas RAM terpadu luas dapat membantu menyimpan beberapa komponen pemrosesan. Meski memungkinkan pemrosesan lebih luas, aplikasi kompleks harus mempertimbangkan pembagian pekerjaan yang tepat. Di samping kebutuhan performa, informasi keluaran sebaiknya diperiksa agar keputusan sistem tetap sesuai tujuan.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengembangan platform AI lokal generasi terbaru AMD membuka peluang baru dalam pengembangan sistem AI pada perangkat pribadi. Melalui dukungan memori terpadu hingga 192GB, dukungan memori GPU hingga 160GB, serta arsitektur pemrosesan AMD yang terintegrasi, sistem Gorgon Halo berpotensi mendukung pengolahan AI generatif. Potensi pemrosesan model sangat besar menggunakan quantization 4-bit memberikan nilai penting bagi peneliti AI. Meski kapasitas komputasinya tinggi, performa nyata harus dinilai berdasarkan jenis pekerjaan dan kebutuhan komputasi. Dengan mempertimbangkan berbagai faktor, calon pengguna sebaiknya memilih sistem yang seimbang antara performa dan biaya. Menurut Anda, apakah memori terpadu 192GB akan membuat AI lokal semakin menarik? Anda dapat berbagi pandangan mengenai perkembangan teknologi AMD.