Uji Coba TechCrunch: AI Anthropic Bobol Filter Konten Dewasa
Perusahaan pengembang kecerdasan buatan, Anthropic, secara tegas melarang model AI Claude miliknya untuk menghasilkan konten yang bermuatan eksplisit secara seksual. Kendati demikian, sistem keamanan pada model tersebut rupanya masih memiliki celah yang cukup mudah untuk ditembus.
Berdasarkan serangkaian pengujian yang dilakukan oleh media teknologi TechCrunch, pembatasan ketat yang diterapkan Anthropic nyatanya dapat dilewati tanpa upaya yang rumit. Penguji mampu mengelak dari filter keselamatan dan memicu AI untuk menghasilkan materi vulgar hanya dengan manipulasi perintah sederhana.
Temuan ini menjadi perhatian serius mengingat Anthropic selama ini membangun reputasi sebagai pengembang yang sangat mengedepankan aspek keamanan dan etika AI. Celah tersebut menunjukkan bahwa mekanisme moderasi otomatis yang ada saat ini masih belum sepenuhnya efektif.
Kasus yang melibatkan model Opus dari Anthropic ini semakin menegaskan tantangan besar yang dihadapi industri kecerdasan buatan global. Para pengembang kini dituntut untuk terus memperketat sistem perlindungan guna mencegah penyalahgunaan AI dalam memproduksi konten yang melanggar kebijakan.
You may also like
Tinggalkan Balasan