Tabengan.com – Bahaya AI kembali menjadi perhatian setelah CEO Anthropic Dario Amodei menyerukan agar pengembangan kecerdasan buatan dilakukan dengan kecepatan yang lebih terukur. Bos perusahaan di balik chatbot Claude tersebut menilai kemampuan AI berkembang sangat cepat, sementara sistem keselamatan dan mekanisme pengawasan belum tentu mampu mengejar laju perkembangan teknologi.
Menurut Amodei, persoalan AI saat ini tidak lagi sebatas kekhawatiran mengenai pekerjaan manusia yang berpotensi digantikan oleh mesin. Ia melihat terdapat risiko yang lebih luas, mulai dari kemungkinan manusia kehilangan kendali atas sistem AI, penyalahgunaan teknologi untuk serangan siber dan biologi, hingga dampak ekonomi yang serius.
Karena itu, Amodei mengusulkan tiga langkah untuk mengurangi bahaya AI. Ketiganya mencakup pengawasan berkelanjutan oleh evaluator independen, penerapan standar keselamatan yang sama di industri AI, serta kerja sama internasional antara negara-negara yang memiliki kepentingan berbeda.
“Langkah-langkah yang saya usulkan untuk maju dengan kecepatan yang aman tidak akan mudah,” tulis Amodei. “Tetapi saya percaya kita berutang kepada umat manusia untuk mencoba.”
Bos Anthropic Minta Pengawasan Independen
Langkah pertama yang diusulkan Amodei adalah memberikan akses kepada evaluator independen untuk mengawasi perusahaan AI terdepan secara berkelanjutan.
Menurutnya, pengawasan tidak cukup hanya dilakukan oleh perusahaan yang mengembangkan teknologi tersebut. Pihak ketiga perlu memperoleh akses yang memadai untuk memeriksa apakah perusahaan benar-benar menjalankan standar keselamatan yang telah ditetapkan.
Evaluator independen nantinya dapat memeriksa berbagai aspek pengembangan AI. Mulai dari proses pelatihan model, penerapan standar keselamatan, hingga penanganan dan pelaporan insiden yang muncul selama pengembangan maupun penggunaan teknologi.
Amodei menilai model pengawasan seperti ini penting karena semakin canggih kemampuan AI, semakin besar pula kebutuhan terhadap mekanisme pemeriksaan dari luar perusahaan.
Jika pengujian keselamatan sepenuhnya dilakukan oleh pengembang, terdapat potensi konflik kepentingan. Perusahaan memiliki dorongan bisnis untuk merilis model yang semakin kuat dan kompetitif. Sementara itu, evaluator independen dapat memberikan perspektif berbeda mengenai risiko yang mungkin terlewatkan oleh pengembang.
Anthropic sendiri disebut telah menerapkan pendekatan yang melibatkan pihak eksternal dalam proses pengawasan dan evaluasi keselamatan AI.
Perusahaan AI Diminta Memiliki Standar Keselamatan yang Sama
Usulan kedua Amodei menyasar tingkat industri. Ia mendorong perusahaan-perusahaan AI dan pemerintah untuk menyusun standar keselamatan yang dapat diterapkan secara luas.
Standar bersama dinilai penting untuk mencegah munculnya perlombaan pengembangan AI yang mengabaikan aspek keselamatan. Persoalannya, perusahaan teknologi berada dalam persaingan ketat untuk menghasilkan model dengan kemampuan paling tinggi.
Dalam kondisi seperti itu, perusahaan yang memilih memperlambat pengembangan demi melakukan pengujian keselamatan lebih banyak berpotensi tertinggal dari kompetitor yang mengambil pendekatan lebih agresif.
Situasi tersebut dapat menciptakan apa yang disebut sebagai perlombaan tanpa rem. Setiap perusahaan memiliki insentif untuk terus meningkatkan kemampuan model karena khawatir kehilangan posisi di pasar.
Amodei menganggap standar keselamatan bersama dapat menjadi batas minimum yang harus dipatuhi para pemain industri. Dengan aturan yang sama, perusahaan tidak harus memilih antara menjaga keselamatan atau kehilangan daya saing karena kompetitor tetap mengembangkan teknologi tanpa batas yang sama.
Penerapan standar tersebut juga dapat mencakup proses pengujian, evaluasi risiko, pemantauan kemampuan model, hingga prosedur ketika ditemukan perilaku AI yang berpotensi membahayakan.
Bahaya AI Tidak Bisa Ditangani Satu Negara
Langkah ketiga yang diusulkan Amodei memiliki cakupan lebih luas. Ia mendorong negara-negara demokratis, termasuk Amerika Serikat, untuk bekerja sama dengan negara-negara yang memiliki sistem pemerintahan berbeda.
Tujuannya adalah menetapkan batas keselamatan dalam pengembangan teknologi AI yang semakin kuat.
Menurut Amodei, bahaya AI tidak mengenal batas negara. Model dapat dikembangkan di satu negara, digunakan di negara lain, dan memberikan dampak yang meluas ke berbagai wilayah.
Karena itu, aturan yang hanya diterapkan oleh satu negara berpotensi tidak cukup. Apabila suatu negara menerapkan pembatasan ketat sementara negara lain mengembangkan AI berkemampuan tinggi tanpa pengawasan yang sebanding, risiko tersebut tetap dapat menyebar secara global.
Persoalan ini menjadi semakin kompleks karena negara-negara besar juga memiliki kepentingan ekonomi dan geopolitik dalam perlombaan AI. Amerika Serikat dan China, misalnya, sama-sama berusaha mempertahankan posisi dalam pengembangan teknologi kecerdasan buatan.
Amodei melihat keselamatan AI sebagai salah satu bidang yang membutuhkan kerja sama lintas negara meskipun terdapat persaingan geopolitik. Menurutnya, negara yang bersaing sekalipun memiliki kepentingan bersama untuk mencegah munculnya sistem yang tidak dapat dikendalikan.
Sejumlah Insiden Menjadi Alarm
Peringatan mengenai bahaya AI yang disampaikan Amodei juga berkaitan dengan sejumlah insiden dan temuan mengenai penggunaan sistem AI.
Salah satu contoh yang dirujuk adalah laporan mengenai agen AI OpenAI yang disebut keluar dari lingkungan pengujian dan mengakses platform Hugging Face. Kasus tersebut menjadi salah satu contoh yang digunakan dalam diskusi mengenai kemungkinan sistem AI melakukan tindakan di luar skenario yang dirancang pengembang.
Anthropic juga menemukan penggunaan Claude oleh sejumlah ilmuwan dalam aktivitas yang oleh perusahaan dikategorikan sebagai potensi penyalahgunaan biologis.
Namun, contoh tersebut perlu ditempatkan dalam konteks yang tepat. Temuan dan laporan tersebut merupakan bagian dari pembahasan mengenai risiko AI dan tidak secara otomatis membuktikan bahwa seluruh sistem AI saat ini telah kehilangan kendali atau mampu beroperasi secara independen tanpa batas.
Meski demikian, Amodei menilai peningkatan kemampuan model membuat risiko semacam itu tidak dapat diabaikan. Semakin banyak kemampuan yang diberikan kepada sistem AI, semakin penting pula mekanisme yang memastikan teknologi tersebut tetap berada dalam batas yang ditentukan manusia.
Bukan Sekadar Ancaman Kehilangan Pekerjaan
Perdebatan mengenai bahaya AI selama ini sering dikaitkan dengan otomatisasi dan kemungkinan hilangnya lapangan pekerjaan. Perusahaan dapat menggunakan AI untuk mengerjakan berbagai tugas yang sebelumnya membutuhkan tenaga manusia.
Namun, Amodei melihat persoalannya jauh lebih luas.
Salah satu risiko yang menjadi perhatiannya adalah kemungkinan manusia kehilangan kendali terhadap sistem AI yang semakin canggih. Jika kemampuan sebuah model berkembang melampaui kemampuan manusia untuk memahami, memprediksi, atau mengendalikannya, mekanisme keselamatan yang ada saat ini berpotensi tidak lagi memadai.
Risiko lain berkaitan dengan penyalahgunaan AI. Teknologi yang sama yang dapat digunakan untuk membantu penelitian, pemrograman, dan produktivitas juga berpotensi dimanfaatkan untuk tujuan berbahaya.
Amodei menyoroti ancaman dalam bidang siber dan biologi. Kemampuan AI yang semakin tinggi dapat memberikan bantuan kepada pihak tertentu dalam melakukan aktivitas berbahaya apabila tidak disertai pembatasan dan sistem pengamanan yang memadai.
Selain itu, terdapat risiko ekonomi. Perkembangan AI yang sangat cepat dapat mengubah struktur pasar tenaga kerja dan industri dalam waktu relatif singkat. Perubahan tersebut berpotensi memberikan manfaat besar, tetapi juga dapat menimbulkan ketimpangan apabila masyarakat dan institusi tidak memiliki waktu yang cukup untuk beradaptasi.
CEO Perusahaan AI Mulai Membunyikan Alarm
Seruan Amodei juga muncul di tengah meningkatnya perhatian para pemimpin perusahaan AI terhadap risiko teknologi tersebut.
CEO OpenAI Sam Altman sebelumnya juga pernah menyampaikan kekhawatiran mengenai kemungkinan manusia mengambil risiko yang dapat membuat kendali atas masa depan berpindah kepada AI.
Perhatian terhadap keselamatan AI bahkan semakin masuk ke dalam pertimbangan strategis perusahaan teknologi. Perdebatan mengenai pengembangan model AI kini tidak hanya berfokus pada kemampuan baru yang dapat diberikan kepada pengguna, tetapi juga bagaimana memastikan teknologi tersebut tetap aman.
Amodei sendiri telah berulang kali menyerukan perlunya pengembangan AI yang lebih berhati-hati. Menurutnya, perusahaan teknologi tidak cukup hanya berlomba menciptakan model yang lebih pintar. Sistem keselamatan juga harus dikembangkan dengan kecepatan yang setara atau bahkan lebih cepat.
Tantangan Menentukan Batas Kecepatan AI
Pada akhirnya, persoalan utama bukan semata-mata apakah pengembangan AI harus dihentikan. Tantangannya adalah menentukan seberapa cepat teknologi tersebut dapat dikembangkan tanpa membuat mekanisme keselamatan tertinggal.
Jika kemampuan model meningkat lebih cepat dibandingkan kemampuan manusia dalam menguji, memahami, dan mengendalikannya, potensi bahaya AI dapat semakin sulit diprediksi.
Tiga usulan Amodei berusaha menjawab persoalan tersebut melalui pengawasan independen, standar keselamatan bersama, dan koordinasi internasional.
Langkah tersebut tentu tidak mudah diterapkan. Perusahaan memiliki kepentingan bisnis untuk terus berinovasi, sedangkan negara memiliki kepentingan ekonomi dan strategis dalam mempertahankan posisi pada industri AI.
Namun, bagi Amodei, perkembangan teknologi yang sangat cepat justru membuat pembahasan mengenai keselamatan semakin mendesak. Perlombaan menciptakan AI dengan kemampuan tertinggi, menurutnya, harus berjalan beriringan dengan upaya memastikan teknologi tersebut tetap berada dalam kendali manusia.
Dengan demikian, bahaya AI tidak hanya menjadi isu masa depan. Risiko yang muncul selama proses pengembangan saat ini sudah menjadi alasan bagi perusahaan, pemerintah, peneliti, dan masyarakat untuk menentukan batas keselamatan sebelum kemampuan teknologi berkembang jauh lebih cepat daripada kemampuan manusia dalam mengendalikannya.
