Tabengan.com – Anthropic memblokir sejumlah pengguna Claude AI yang terdeteksi mencoba memanfaatkan model kecerdasan buatan tersebut untuk aktivitas yang berpotensi berkaitan dengan pengembangan senjata biologis. Perusahaan mengungkap telah menemukan dan menghentikan lima upaya penggunaan Claude AI yang dinilai berisiko, termasuk permintaan terkait chikungunya, flu burung, dan cacar.
Temuan tersebut menunjukkan meningkatnya tantangan yang dihadapi perusahaan pengembang AI generatif. Kemampuan model yang semakin canggih dapat membantu pengguna memahami informasi teknis dalam berbagai bidang, tetapi kemampuan yang sama berpotensi disalahgunakan untuk aktivitas berbahaya.
Salah satu kasus melibatkan seorang peneliti yang memiliki hubungan dengan institusi militer yang tidak disebutkan namanya. Peneliti tersebut menggunakan Claude AI ketika menyusun proposal penelitian mengenai chikungunya.
Anthropic mengakui penelitian mengenai chikungunya dapat memiliki tujuan yang sah, termasuk pengembangan vaksin atau upaya memahami penyakit. Namun, sejumlah permintaan yang diajukan kepada Claude AI memunculkan kekhawatiran karena berpotensi membantu pengembangan varian virus yang lebih berbahaya.
Claude AI Diminta Membantu Riset Flu Burung
Kasus lain yang ditemukan Anthropic berkaitan dengan flu burung. Pengguna berusaha memanfaatkan Claude AI untuk mencari informasi mengenai cara meningkatkan kemampuan penularan virus tersebut.
Permintaan semacam ini menjadi perhatian karena informasi mengenai peningkatan kemampuan patogen dapat memiliki konsekuensi serius apabila digunakan untuk tujuan yang berbahaya. Anthropic juga menemukan permintaan untuk mengumpulkan informasi mengenai racun yang berasal dari hewan dan berpotensi disalahgunakan sebagai senjata.
Meski demikian, Anthropic menekankan bahwa temuan tersebut tidak secara otomatis membuktikan bahwa setiap pengguna memiliki niat untuk membuat senjata biologis. Perusahaan juga tidak menyatakan bahwa pengguna yang terdeteksi benar-benar mampu mewujudkan rencana tersebut di dunia nyata.
Anthropic membedakan antara kemampuan sebuah model AI dalam memberikan informasi dan bukti bahwa informasi tersebut benar-benar digunakan untuk menghasilkan senjata.
Menurut perusahaan, evaluasi terhadap kemampuan AI tetap diperlukan untuk memahami risiko yang mungkin muncul. Namun, hasil evaluasi tidak dapat dijadikan bukti bahwa kemampuan tersebut pasti akan digunakan dalam pengembangan senjata biologis.
Pengguna Berusaha Melewati Sistem Keamanan Claude AI
Anthropic juga menemukan upaya pengguna untuk menghindari sistem pengamanan yang diterapkan pada Claude AI. Cara yang digunakan antara lain membuat akun palsu, memanfaatkan jaringan privat, hingga menggunakan penjual atau penyedia layanan pihak ketiga.
Upaya tersebut menunjukkan bahwa pengamanan model AI tidak hanya bergantung pada kemampuan sistem dalam menolak permintaan berbahaya. Perusahaan juga perlu mendeteksi pola penggunaan yang mencurigakan dan berbagai metode yang dapat digunakan untuk menghindari pembatasan.
Ancaman penyalahgunaan AI yang ditemukan Anthropic juga tidak terbatas pada biologi. Perusahaan mendeteksi aktivitas yang berpotensi berkaitan dengan pengembangan senjata konvensional serta serangan siber.
Salah satu kasus disebut berasal dari Yaman dan berkaitan dengan permintaan bantuan untuk pengembangan roket berpemandu yang memanfaatkan teknologi seluler.
Temuan tersebut memperlihatkan cakupan risiko yang semakin luas ketika model AI digunakan untuk membantu aktivitas teknis yang sensitif.
Anthropic Perketat Pengamanan Claude AI
Sebagai respons terhadap temuan tersebut, Anthropic memperkuat sistem keamanan pada bidang-bidang yang dianggap sensitif. Biologi dan keamanan siber menjadi dua area yang mendapat perhatian khusus.
Akses terhadap sejumlah model Anthropic dengan kemampuan tinggi dalam bidang biologi juga dibatasi. Model tertentu hanya dapat digunakan oleh organisasi yang telah melewati proses pemeriksaan.
Kebijakan tersebut dirancang untuk mengurangi kemungkinan model AI berkemampuan tinggi digunakan oleh pihak yang tidak memenuhi persyaratan keamanan.
Pendekatan ini menjadi semakin penting karena model AI modern dapat membantu pengguna mengolah informasi dalam waktu singkat. Pada bidang tertentu, kemampuan tersebut dapat mempercepat penelitian yang bermanfaat, tetapi sekaligus berpotensi menurunkan hambatan pengetahuan untuk aktivitas yang berbahaya.
Tantangan AI Bukan Sekadar Membuat Model Lebih Pintar
Perkembangan Claude AI dan model generatif lainnya menunjukkan bahwa industri AI menghadapi tantangan yang lebih kompleks daripada sekadar meningkatkan kemampuan model.
Semakin pintar sebuah model, semakin besar pula perhatian yang diperlukan terhadap cara teknologi tersebut digunakan. Sistem AI yang mampu memahami pertanyaan teknis dan memberikan jawaban terperinci perlu dilengkapi mekanisme untuk membatasi bantuan pada aktivitas yang dapat menimbulkan risiko serius.
Dalam kasus yang diungkap Anthropic, perusahaan tidak hanya memblokir sejumlah akun. Pengembang juga melakukan evaluasi terhadap pola penyalahgunaan dan memperkuat pembatasan akses untuk kemampuan tertentu.
Langkah tersebut mencerminkan perubahan pendekatan keamanan AI. Pengembang tidak cukup hanya mengandalkan filter pada tingkat percakapan, tetapi juga perlu memantau pola penggunaan, mendeteksi upaya menghindari pengamanan, dan menentukan siapa yang dapat memperoleh akses terhadap kemampuan model tertentu.
Risiko Penyalahgunaan AI Terus Menjadi Perhatian
Kasus Claude AI menjadi contoh bagaimana teknologi generatif dapat menghadapi dilema antara manfaat penelitian dan risiko penyalahgunaan. Informasi mengenai penyakit, biologi, keamanan siber, atau teknologi pertahanan dapat digunakan untuk tujuan yang sah, tetapi sebagian informasi yang sama juga dapat memiliki potensi penyalahgunaan.
Karena itu, pengembang AI perlu menentukan batas antara memberikan akses terhadap kemampuan penelitian dan mencegah bantuan yang dapat mempermudah aktivitas berbahaya.
Anthropic menyatakan temuan tersebut tidak berarti Claude AI telah digunakan untuk menciptakan senjata biologis. Perusahaan juga tidak menyimpulkan bahwa seluruh pengguna yang diblokir mempunyai kemampuan untuk merealisasikan permintaan mereka.
Namun, upaya yang terdeteksi menjadi sinyal penting mengenai potensi risiko dari model AI berkemampuan tinggi. Pengembangan teknologi ke depan tidak hanya akan dinilai berdasarkan seberapa baik AI menjawab pertanyaan atau menyelesaikan tugas, tetapi juga seberapa efektif sistem tersebut mencegah kemampuan yang sama digunakan untuk tujuan berbahaya.
