Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Perkembangan Teknologi AI Mendorong Anthropic Memperjelas Batas Penggunaan

Pengembang model Claude Anthropic mengumumkan perubahan sejumlah ketentuan dalam Usage Policy yang mengatur penggunaan Claude. Pengumuman tersebut disampaikan pada 8 Oktober 2026 dan direncanakan mulai diterapkan pada 12 November 2026. Berdasarkan pengumuman Anthropic, mayoritas penyesuaian dimaksudkan untuk menjabarkan larangan sebelumnya. Hal ini dilakukan karena peningkatan fungsi agen AI. Seiring meningkatnya penggunaan asisten digital di lingkungan profesional, potensi penyalahgunaan menjadi semakin kompleks.

Pada penggunaan AI generasi terdahulu, penggunaan model bahasa sering berkaitan dengan menyusun tulisan. Seiring kemajuan teknologi, agen kecerdasan buatan dapat digunakan untuk mengoperasikan perangkat lunak. Perkembangan ini memberikan manfaat produktivitas, tetapi sekaligus memunculkan tantangan ketika pengguna mengabaikan aturan keamanan. Dengan mempertimbangkan perubahan kemampuan model, Anthropic menyusun penjelasan yang lebih rinci agar pengguna memahami tanggung jawabnya. Kebijakan tersebut bukan merupakan pelarangan umum terhadap pemanfaatan Claude, melainkan membedakan penggunaan bermanfaat dari penyalahgunaan.

Anthropic Memperketat Ketentuan Aktivitas Menyesatkan Berbasis AI

Salah satu perubahan utama adalah penggabungan aturan mengenai aktivitas menipu. Anthropic menambahkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk menjelaskan pembatasan terhadap kampanye manipulasi informasi. Dalam ketentuan tersebut, Claude tidak diperkenankan membantu membangun jaringan akun palsu. Ketentuan tersebut mencakup berbagai kepentingan yang menggunakan penipuan. Untuk memberikan gambaran, penggunaan AI untuk menyamarkan sumber pesan dapat termasuk aktivitas terlarang apabila bertujuan menyesatkan publik. Melalui penegasan ini, organisasi memiliki acuan mengenai batas otomatisasi komunikasi.

Tidak hanya membatasi jaringan akun palsu, Anthropic menata kembali ketentuan yang mengatur proses demokrasi. Ketentuan khusus ini menggunakan nama Do Not Undermine Democratic Processes untuk memperjelas pencegahan penipuan terhadap pemilih. Aktivitas yang tidak diperbolehkan meliputi penyebaran informasi pemilu palsu. Sebagai perubahan penting, Anthropic tidak lagi menerapkan pembatasan umum terhadap penyesuaian komunikasi politik yang sah. Penyesuaian tersebut bertujuan memungkinkan komunikasi kewargaan yang tidak menipu. Meskipun pembatasan umum dikurangi, aktivitas menyesatkan tetap berada dalam batas larangan.

Anthropic Membatasi Penyalahgunaan AI dalam Pengembangan Senjata

Pada pembahasan risiko keselamatan, Anthropic memperjelas larangan pengembangan senjata menggunakan Claude. Anthropic menyatakan bahwa ketentuan tidak terbatas pada pembuatan senjata secara fisik. Perangkat lunak pengendali merupakan bagian dari aktivitas yang dilarang. Sebagai ilustrasi, pengembangan perangkat lunak untuk mengendalikan senjata termasuk tindakan terlarang. Mengacu pada pembaruan kebijakan, pembaruan ini memperjelas praktik penegakan yang sudah berlangsung. Melalui ketentuan tersebut, organisasi harus mempertimbangkan fungsi perangkat lunak yang dikembangkan.

Di sisi perlindungan privasi, Anthropic memperjelas pembatasan terhadap pengawasan orang yang tidak memberikan izin. Pembatasan tersebut berlaku untuk pengawasan waktu nyata dan analisis rekaman terdahulu. Di samping larangan pengawasan, Claude tidak boleh dipakai untuk rekomendasi penangkapan individu dalam proses penegakan hukum. Meskipun demikian, aktivitas pemantauan dengan persetujuan tetap memiliki ruang penggunaan. Aktivitas yang dijelaskan perusahaan mencakup penelitian hukum dan kegiatan jurnalistik. Penjelasan ini membantu memperjelas aktivitas pemantauan yang bertanggung jawab.

Anthropic Menetapkan Pengawasan Manusia pada Penggunaan Claude Berisiko Tinggi

Ketentuan penggunaan terbaru memberikan penjelasan lebih rinci tentang standar pengamanan pada aplikasi sensitif. Ketentuan khusus ini berkaitan dengan keputusan yang menyentuh hak hukum, mata pencaharian, dan fasilitas dasar yang dibutuhkan masyarakat. Untuk penerapan yang termasuk kategori berisiko tinggi, Anthropic mensyaratkan keterlibatan peninjau manusia yang kompeten. Melalui pengaturan ini, penanggung jawab yang memenuhi persyaratan wajib diberi kewenangan memeriksa serta membatalkan saran sistem jika tidak sesuai. Di samping pengawasan manusia, orang yang menerima keputusan wajib mendapatkan informasi bahwa model membantu menghasilkan keputusan.

Dalam skenario penggunaan, aplikasi yang membantu menilai risiko finansial dapat membutuhkan peninjauan manusia yang kompeten. Langkah tersebut bertujuan memberikan kesempatan untuk memperbaiki kesalahan model. Kebutuhan tersebut perlu diperhatikan mengingat keluaran kecerdasan buatan dapat keliru. Sebagai penjelasan penting, ketentuan dasar tersebut telah berlaku sebelum pembaruan 2026. Pembaruan terbaru terutama merinci jenis penggunaan yang termasuk kategori berisiko tinggi. Berkat penyempurnaan aturan, penyedia layanan bisa mengevaluasi kebutuhan perlindungan dalam aplikasinya.

Claude Memiliki Aturan Baru untuk Robot dan Perangkat Otonom

Dengan meningkatnya sistem digital yang mampu menjalankan tindakan, asisten berbasis kecerdasan buatan dapat dihubungkan dengan robot dan perangkat keras. Potensi integrasi ini membuka peluang untuk pengendalian perangkat cerdas, tetapi juga menimbulkan risiko keselamatan. Berdasarkan aturan yang disempurnakan, Anthropic memperjelas standar bagi penggunaan Claude pada perangkat otonom apabila perangkat tersebut dapat menimbulkan cedera. Persyaratan ini dirancang agar membantu menjaga kemampuan menghentikan perangkat ketika perilaku mesin tidak sesuai harapan.

Pengamanan penting yang ditetapkan adalah keterlibatan manusia dengan kewenangan operasional yang mampu memantau aktivitas perangkat. Pengawas yang ditunjuk wajib dapat untuk mengintervensi tindakan perangkat. Di samping pengendalian manusia, mesin yang menggunakan Claude perlu mendukung kondisi operasi yang tidak berbahaya apabila hubungan dengan sistem AI berhenti. Artinya, sistem memerlukan cara mempertahankan keselamatan ketika layanan AI tidak tersedia. Prinsip tersebut memiliki nilai keselamatan tinggi dalam robotika yang menjalankan tugas dengan konsekuensi fisik.

Pentingnya Kebijakan Anthropic bagi Keamanan Teknologi AI

Penyesuaian aturan penggunaan kecerdasan buatan memperlihatkan pentingnya tata kelola AI yang mampu mengikuti perkembangan kemampuan model. Berkat penjelasan kebijakan 2026, Anthropic memperjelas pembatasan terhadap penyalahgunaan sistem komunikasi, aktivitas yang merusak pemilu, serta penyalahgunaan model dalam persenjataan dan pemantauan ilegal. Pengembang Claude turut menegaskan pengendalian sistem yang dapat memengaruhi kehidupan manusia. Selain itu, ketentuan mengenai perilaku kasar yang ekstrem dan berulang turut ditambahkan dalam kerangka tanggung jawab penggunaan AI. Namun demikian, kritik biasa dan pengujian model tetap diperbolehkan. Bagaimana pendapat Anda, apakah pembatasan penyalahgunaan kecerdasan buatan akan membantu mencegah risiko digital? Mari berbagi pemikiran mengenai masa depan keamanan kecerdasan buatan.