Tabengan.com – AI tepercaya menjadi salah satu faktor penting yang menentukan keberhasilan investasi kecerdasan buatan (AI) di perusahaan. Studi SAS bersama International Data Corporation (IDC) menemukan organisasi yang menerapkan AI tepercaya memiliki peluang 15 kali lebih besar untuk mencatat return on investment (ROI) tinggi dari proyek AI.
Temuan tersebut menunjukkan bahwa investasi AI tidak otomatis menghasilkan keuntungan hanya karena perusahaan menggunakan teknologi dengan model terbaru. Tata kelola, kualitas data, kemampuan menjelaskan keputusan, pengawasan, hingga akuntabilitas justru menjadi bagian penting untuk memastikan AI dapat digunakan secara efektif.
Studi ini menjadi semakin relevan ketika perusahaan mulai memperluas penggunaan AI generatif hingga agentic AI yang mampu menjalankan tugas dengan tingkat kemandirian lebih tinggi.
AI Tepercaya Berpengaruh terhadap ROI
Laporan tahunan kedua bertajuk Data and AI Impact Report: The New Economics of Trust mengungkap hubungan antara penerapan AI tepercaya dan hasil bisnis perusahaan.
Berdasarkan riset tersebut, organisasi dengan tata kelola, kualitas data, dan kemampuan audit yang kuat secara konsisten mencatat kinerja penerapan AI yang lebih baik. Kelompok organisasi tersebut memiliki ROI penerapan AI sedikitnya dua kali lebih tinggi dibandingkan organisasi yang tertinggal dalam aspek kepercayaan.
Perbedaan juga terlihat ketika tingkat keberhasilan proyek AI dibandingkan secara langsung.
Organisasi yang berinvestasi dalam AI tepercaya memiliki kemungkinan 15 kali lebih besar untuk memperoleh ROI tinggi. Dalam studi tersebut, proporsinya mencapai 62 persen, sedangkan organisasi yang berada di kelompok tertinggal hanya 4 persen.
Angka tersebut menunjukkan bahwa keberhasilan penerapan AI tidak hanya berkaitan dengan kemampuan teknis model. Perusahaan juga perlu memastikan bahwa sistem AI memiliki mekanisme pengawasan dan tata kelola yang memadai.
Banyak Pengguna Masih Mengabaikan Rekomendasi AI
Persoalan kepercayaan menjadi penting karena sistem AI yang menghasilkan rekomendasi belum tentu langsung diikuti oleh penggunanya.
Studi SAS dan IDC menemukan 97,2 persen pengguna pernah mengabaikan rekomendasi AI setidaknya dalam beberapa kasus.
Salah satu penyebabnya adalah kemampuan sistem dalam menjelaskan alasan di balik suatu rekomendasi. Ketika pengguna tidak memahami bagaimana AI sampai pada sebuah keputusan, tingkat kepercayaan terhadap hasil tersebut dapat menurun.
Situasi ini dapat mengurangi manfaat investasi AI. Perusahaan mungkin telah mengeluarkan biaya untuk model, infrastruktur, integrasi, dan pelatihan, tetapi manfaatnya tidak maksimal apabila karyawan tetap melakukan pemeriksaan atau koreksi secara manual karena tidak yakin terhadap keluaran AI.
Karena itu, kemampuan menjelaskan keputusan atau explainability menjadi salah satu aspek penting dalam penerapan AI tepercaya.
Kepercayaan Menurun pada Agentic AI
Tantangan kepercayaan menjadi semakin kompleks ketika AI bergerak dari sekadar alat bantu menjadi sistem yang mampu menjalankan tugas secara lebih mandiri.
Studi tersebut mencatat tingkat kepercayaan pengguna turun dari 76 persen pada AI generatif menjadi 66 persen pada AI berbasis agen atau agentic AI.
Penurunan ini menunjukkan adanya kekhawatiran pengguna ketika AI memperoleh tingkat otonomi yang lebih tinggi.
AI berbasis agen dapat menjalankan serangkaian tugas berdasarkan tujuan yang diberikan, sehingga konsekuensi dari kesalahan dapat menjadi lebih besar dibandingkan sistem yang hanya memberikan informasi atau rekomendasi.
Chief Technology Officer SAS Bryan Harris mengatakan AI dapat memberikan dampak besar ketika bekerja dengan baik. Namun, ia juga mengutip berbagai penelitian yang menunjukkan agen AI mutakhir dapat memiliki tingkat kesalahan lebih dari 25 persen ketika menjalankan tugas kompleks.
Menurutnya, tingkat kesalahan tersebut menjadi persoalan apabila AI digunakan dalam pengambilan keputusan berisiko tinggi.
Karena itu, organisasi perlu memasukkan keahlian manusia ke dalam alur kerja AI berbasis agen. Pengawasan manusia juga tetap diperlukan untuk memastikan keputusan atau tindakan AI berada dalam batas yang telah ditentukan.
Manusia Tetap Dibutuhkan dalam Tata Kelola AI
Meningkatnya kemampuan AI tidak serta-merta berarti perusahaan dapat menghilangkan peran manusia.
Sebaliknya, semakin mandiri sebuah sistem AI, kebutuhan terhadap mekanisme pengawasan justru menjadi semakin penting. Manusia dapat berperan dalam menentukan batas penggunaan AI, memeriksa keluaran, menangani kondisi yang tidak biasa, serta mengambil alih proses ketika sistem menghasilkan keputusan yang meragukan.
Vice President IDC Chris Marshall menilai kemampuan menjelaskan keputusan, pengawasan, akuntabilitas, dan fondasi data yang kuat semakin menjadi syarat untuk memperluas penerapan AI secara efektif.
Dalam konteks bisnis, mekanisme tersebut membantu perusahaan memahami risiko yang muncul dari penggunaan AI sekaligus menentukan siapa yang bertanggung jawab ketika sistem menghasilkan keluaran yang keliru.
Hanya 17,5 Persen Perusahaan Punya Fondasi Data Optimal
Selain kepercayaan terhadap AI, kualitas data menjadi persoalan penting lainnya.
Studi SAS dan IDC menemukan hanya 17,5 persen perusahaan yang memiliki infrastruktur data yang sepenuhnya optimal dan cukup matang untuk memenuhi kebutuhan AI berbasis agen.
Padahal, fondasi data merupakan bagian penting dalam sistem AI. Model yang semakin canggih tetap membutuhkan data yang berkualitas agar dapat menghasilkan keluaran yang relevan.
Organisasi dengan fondasi data optimal memiliki kemungkinan empat kali lebih besar untuk mengharapkan ROI tinggi dari proyek AI. Kelompok tersebut juga enam kali lebih mungkin menerapkan kontrol kualitas data dan kemampuan menjelaskan keputusan AI yang dibutuhkan untuk membangun kepercayaan.
Temuan tersebut memperlihatkan bahwa investasi AI tidak cukup hanya diarahkan pada pembelian atau pengembangan model. Infrastruktur data juga perlu dipersiapkan agar sistem dapat bekerja secara konsisten.
Perusahaan yang terburu-buru menerapkan AI tanpa membenahi kualitas data berpotensi menghadapi masalah baru. Kesalahan atau ketidaklengkapan data dapat memengaruhi keluaran sistem, sementara kurangnya tata kelola membuat perusahaan kesulitan mengidentifikasi sumber persoalan.
Lima Syarat Menjadi Pemimpin AI Tepercaya
Riset SAS dan IDC melibatkan 2.699 pengambil keputusan dari 28 negara. Responden berasal dari sejumlah sektor, termasuk perbankan, asuransi, ilmu hayati, dan sektor publik.
Dalam penelitian tersebut, organisasi dinilai berdasarkan skor 0 hingga 100. Perusahaan dengan nilai rata-rata minimal 80 dikategorikan sebagai pemimpin AI tepercaya.
Ada lima dimensi utama yang digunakan untuk menilai organisasi, yaitu:
- Kualitas dan tata kelola data.
- Tata kelola serta pengawasan model.
- Kemampuan menjelaskan keputusan dan aspek keadilan.
- Kebijakan AI yang bertanggung jawab.
- Audit dan akuntabilitas.
Kelima aspek tersebut menunjukkan bahwa AI tepercaya mencakup lebih dari sekadar kemampuan model dalam menghasilkan jawaban atau menyelesaikan tugas.
Perusahaan juga perlu memastikan bagaimana data dikelola, bagaimana model diawasi, bagaimana keputusan dapat dijelaskan, serta bagaimana pertanggungjawaban diterapkan ketika terjadi masalah.
AI Tepercaya Berdampak pada Berbagai Hasil Bisnis
Keuntungan dari penerapan AI tepercaya tidak hanya terlihat pada ROI proyek AI.
Studi tersebut mencatat perusahaan dengan penerapan AI tepercaya paling kuat memperoleh peningkatan 1,85 kali lebih besar pada 13 indikator hasil bisnis. Indikator tersebut mencakup pertumbuhan pendapatan, penghematan biaya, hingga pengalaman pelanggan.
Temuan ini menunjukkan bahwa kepercayaan terhadap AI dapat berhubungan dengan berbagai aspek operasional perusahaan.
Ketika karyawan memahami dan mempercayai sistem, adopsi AI dapat berjalan lebih lancar. Sebaliknya, sistem yang sulit dijelaskan atau tidak memiliki mekanisme pengawasan berpotensi menghadapi hambatan dalam penerapan sehari-hari.
Menariknya, sebanyak 85 persen pemimpin AI dalam kelompok tersebut meningkatkan investasi AI tepercaya lebih dari 10 persen pada tahun ini.
Hal tersebut menunjukkan bahwa organisasi yang telah membangun fondasi kepercayaan justru terus meningkatkan investasi pada aspek tersebut.
Mengapa AI Tepercaya Semakin Penting?
Perusahaan kini berada dalam fase perkembangan AI yang berbeda dibandingkan beberapa tahun sebelumnya. AI generatif telah menjadi bagian dari berbagai aplikasi bisnis, sementara agentic AI mulai diarahkan untuk menjalankan pekerjaan yang sebelumnya membutuhkan intervensi manusia secara lebih intensif.
Perubahan tersebut membuat konsekuensi kesalahan AI menjadi semakin penting untuk diperhatikan.
Pada sistem yang hanya memberikan rekomendasi, pengguna masih dapat melakukan pemeriksaan sebelum mengambil tindakan. Namun, ketika AI memiliki kemampuan menjalankan serangkaian proses secara otomatis, kesalahan pada satu tahap dapat memengaruhi proses berikutnya.
Karena itu, perusahaan membutuhkan mekanisme untuk mengetahui bagaimana AI mengambil keputusan, data apa yang digunakan, apakah hasilnya dapat diaudit, dan siapa yang bertanggung jawab terhadap keputusan akhir.
Dalam kondisi tersebut, AI tepercaya bukan hanya berkaitan dengan aspek etika. Kepercayaan juga berkaitan dengan efektivitas investasi dan kemampuan perusahaan memperoleh manfaat dari teknologi yang telah dibangun.
ROI AI Tidak Hanya Ditentukan Kecanggihan Teknologi
Temuan SAS dan IDC memberikan gambaran bahwa perusahaan yang ingin mendapatkan hasil maksimal dari investasi AI perlu melihat teknologi secara lebih luas.
Model AI dengan kemampuan tinggi tetap membutuhkan data berkualitas, tata kelola yang jelas, mekanisme audit, pengawasan manusia, dan kebijakan penggunaan yang bertanggung jawab.
Studi tersebut menemukan organisasi dengan penerapan AI tepercaya memiliki peluang 15 kali lebih besar untuk mencatat ROI tinggi, dengan perbandingan 62 persen berbanding 4 persen pada kelompok yang tertinggal.
Pada saat yang sama, tingginya tingkat pengguna yang pernah mengabaikan rekomendasi AI menunjukkan bahwa kemampuan teknis saja belum cukup untuk memastikan teknologi digunakan secara optimal.
Ketika AI semakin mandiri, persoalan kepercayaan juga semakin penting. Perusahaan perlu memastikan bahwa sistem bukan hanya mampu menghasilkan keputusan, tetapi juga dapat dijelaskan, diawasi, diaudit, dan dipertanggungjawabkan.
Dengan demikian, investasi AI tidak semata-mata tentang memilih model yang paling canggih. Fondasi data, tata kelola, transparansi, dan pengawasan menjadi bagian yang turut menentukan apakah teknologi tersebut benar-benar memberikan nilai bisnis.
Dalam perkembangan menuju agentic AI, kemampuan membangun AI tepercaya berpotensi menjadi salah satu faktor penting bagi perusahaan yang ingin mengubah investasi kecerdasan buatan menjadi hasil bisnis yang terukur.
