AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Memperkenalkan Kemampuan Gorgon Halo untuk Komputasi AI Lokal

Kemajuan TEKNOLOGI kecerdasan buatan menghadirkan perubahan terhadap pengembangan komputer berkinerja tinggi. Dengan menghadirkan keluarga prosesor terbaru, AMD memperluas potensi perangkat workstation untuk memproses kecerdasan buatan secara mandiri. Arsitektur pemrosesan ini menyatukan unit pemrosesan utama, kemampuan komputasi paralel, dan NPU khusus AI dalam arsitektur komputasi terpadu. Pendekatan pemrosesan tersebut dikembangkan guna mendukung beban kerja kecerdasan buatan dengan pemanfaatan sumber daya yang fleksibel. Pada penggunaan profesional, kapasitas memori sering menjadi pertimbangan penting. Oleh sebab itu, AMD menjadikan kapasitas RAM bersama sebagai keunggulan utama platform.

Gorgon Halo hadir sebagai penyempurnaan dari keluarga Strix Halo. Salah satu peningkatan penting adalah perluasan ruang kerja terpadu. Dalam konfigurasi terdahulu, batas memori sistem berada pada 128 gigabyte. Sementara itu, AMD menghadirkan dukungan RAM sampai 192GB. Penambahan RAM tersebut memberikan ruang lebih besar bagi sistem agen AI. Walaupun kapasitas meningkat, setiap perangkat tidak otomatis memiliki RAM maksimal. Oleh sebab itu, calon pembeli sebaiknya meninjau konfigurasi aktual sebelum menentukan kebutuhan komputasi profesional.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Daya tarik utama Gorgon Halo adalah sistem memori terpadu yang memberikan ruang kerja bersama bagi prosesor dan grafis pool RAM yang sama. Berbeda dari perangkat dengan VRAM khusus, rancangan memori ini memungkinkan pertukaran informasi lebih langsung antara CPU dan GPU. Keuntungan tersebut dapat membantu ketika memproses data generatif. Ketika LLM digunakan, bobot model membutuhkan ruang penyimpanan kerja. Berkat ketersediaan RAM terpadu yang luas, perangkat berpotensi memuat model lebih besar.

Berdasarkan spesifikasi resmi, platform terbaru dapat mengalokasikan ruang kerja GPU sebesar 160 gigabyte. Kapasitas grafis ini berbeda dari kapasitas VRAM dedicated pada GPU diskret. Sebaliknya, alokasi tersebut menggunakan pool RAM terpadu. Hal tersebut penting dipahami karena CPU dan aplikasi lain tetap membutuhkan ruang. Ketika alokasi model terlalu besar, performa sistem dapat terpengaruh. Di samping kapasitas RAM, bandwidth memori memiliki dampak terhadap kelancaran pemrosesan model. Dengan mempertimbangkan faktor tersebut, kapasitas memori tinggi perlu diimbangi bandwidth yang sesuai.

Gorgon Halo Mampu Menangani Model AI dengan Ratusan Miliar Parameter

Keunggulan yang ditonjolkan AMD adalah pemrosesan jaringan saraf berskala tinggi. Dalam informasi produknya, sistem Gorgon Halo kelas atas memungkinkan penggunaan model bahasa dengan jumlah parameter di atas 300 miliar menggunakan representasi bobot empat bit. Dukungan pemrosesan ini menjadi pencapaian menarik bagi peneliti model bahasa yang membutuhkan sistem inferensi mandiri. Meski jumlah parameternya tinggi, menjalankan model tidak sama dengan mendapatkan respons sangat cepat. Performa inferensi aktual ditentukan oleh kombinasi arsitektur model serta konfigurasi sistem.

Metode kompresi bobot berperan penting dalam memungkinkan model berukuran besar berjalan. Pada format presisi tinggi, model memerlukan kapasitas penyimpanan kerja yang besar. Sebagai gambaran, LLM dengan tiga ratus miliar bobot pada format dua byte per parameter membutuhkan sekitar 600GB hanya untuk bobot. Apabila setiap bobot direpresentasikan dengan empat bit, kebutuhan teoritisnya turun menjadi sekitar 150GB. Sebagai catatan, penyimpanan bobot terkompresi memiliki overhead. Tidak hanya untuk bobot, proses inferensi menggunakan KV cache. Karena alasan tersebut, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Selain memori terpadu, Gorgon Halo memadukan arsitektur CPU Zen 5, grafis RDNA 3.5, dan akselerator neural XDNA 2. Kombinasi tersebut mendukung pengelolaan komputasi berdasarkan karakter beban kerja. Prosesor sentral menangani berbagai proses aplikasi, sedangkan GPU berperan besar dalam operasi paralel. Di sisi lain, NPU dioptimalkan bagi pekerjaan neural yang kompatibel. Melalui arsitektur tersebut, aplikasi memiliki peluang memanfaatkan sumber komputasi sesuai kebutuhan. Namun demikian, tidak semua aplikasi otomatis memanfaatkan ketiganya.

Pada konfigurasi tertinggi, AMD menghadirkan dukungan pemrosesan utama enam belas inti, grafis terintegrasi dengan 40 unit komputasi, dan NPU hingga 55 TOPS. Spesifikasi tersebut dapat mendukung aktivitas komputasi profesional. Meski nilai komputasi terlihat tinggi, kapasitas operasi mentah tidak otomatis menunjukkan hasil generasi token. Dalam pemrosesan model besar, bandwidth RAM dan dukungan GPU sering menjadi faktor penting. Dengan mempertimbangkan kondisi ini, pengembang perlu memeriksa hasil benchmark pada model yang relevan, bukan mengandalkan klaim performa teoritis.

Pengujian Gorgon Halo Menjadi Sorotan dalam Persaingan Komputer AI

Dalam menjelaskan performa perangkat, AMD membagikan data evaluasi pemrosesan AI. Evaluasi performa ini melibatkan beban kerja AI generatif seperti generasi visual dan pengolahan LLM. Berdasarkan presentasi perusahaan, peningkatan kecepatan tidak sama pada setiap model dari sekitar 1,1 kali hingga 32,2 kali terhadap sistem lain yang menjadi acuan. Perlu dicermati, angka tersebut berasal dari benchmark yang dipilih AMD. Karena itu, peningkatan maksimum bukan gambaran performa umum.

Dalam beberapa pengujian, AMD memanfaatkan ComfyUI untuk pembuatan visual berbasis AI. Perusahaan juga memakai model terkompresi dengan dukungan Unsloth pada sejumlah beban kerja AI. Pemilihan format model berperan terhadap hasil benchmark. Tidak kalah penting, jumlah token masukan berpotensi mengubah kebutuhan RAM tambahan. Ketika jumlah token meningkat besar, throughput mungkin berkurang meskipun model berhasil dimuat. Berdasarkan kondisi tersebut, pengguna profesional dianjurkan memeriksa benchmark sesuai model yang digunakan sebelum mengambil keputusan pembelian.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Salah satu bidang penggunaan penting Gorgon Halo adalah pengembangan AI lokal. Berkat kapasitas komputasi yang tersedia, organisasi memiliki kesempatan memanfaatkan sistem analisis dokumen langsung pada perangkat yang dikelola sendiri. Fleksibilitas pemrosesan tersebut berpotensi mendukung eksperimen model secara lebih mandiri. Sebagai contoh, perusahaan dapat mencoba sistem pencarian informasi yang menggunakan informasi tanpa selalu mengirimnya ke layanan eksternal. Namun demikian, privasi tidak otomatis terjamin. Aplikasi pendukung mungkin memiliki koneksi jaringan, sehingga pengguna perlu memahami kebijakan aplikasi.

Di samping penggunaan LLM, Gorgon Halo berpotensi membantu pengembangan agen AI. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Pada contoh alur kerja, aplikasi mungkin menganalisis berkas referensi, kemudian menghasilkan rekomendasi berdasarkan informasi yang tersedia. Memori besar memberikan kesempatan menjalankan informasi konteks berukuran besar. Namun demikian, penggunaan beberapa agen tetap membutuhkan pengendalian konsumsi RAM. Di samping kebutuhan performa, hasil setiap agen perlu diverifikasi agar keputusan sistem tetap sesuai tujuan.

Kesimpulan: Teknologi Ryzen AI Max 400 Series Mendukung Komputasi AI Masa Depan

Pengembangan platform AI lokal generasi terbaru AMD menjadi perkembangan menarik dalam dunia TEKNOLOGI kecerdasan buatan. Dengan menghadirkan RAM bersama berkapasitas besar, ruang pemrosesan grafis yang luas, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, platform tersebut memberikan kesempatan pengolahan AI generatif. Dukungan LLM berukuran lebih dari 300 miliar parameter menggunakan representasi model berpresisi rendah memberikan nilai penting bagi pengembang profesional. Namun demikian, performa nyata harus dinilai berdasarkan dukungan perangkat lunak dan konfigurasi perangkat. Oleh sebab itu, perusahaan dianjurkan menentukan perangkat sesuai kebutuhan. Bagaimana pendapat Anda mengenai, seberapa penting kemampuan menjalankan model besar tanpa cloud? Silakan bagikan pendapat Anda mengenai perkembangan teknologi AMD.