Di era digital seperti sekarang, kecerdasan buatan atau Artificial Intelligence (AI) semakin sering digunakan dalam berbagai aspek kehidupan, termasuk dalam membantu pengambilan keputusan. Mulai dari aplikasi sederhana seperti rekomendasi lagu atau film, sampai yang kompleks seperti sistem pendukung keputusan medis atau bisnis, peran AI tidak bisa diabaikan lagi. Namun, muncul pertanyaan penting: sejauh mana kita bisa mempercayai AI dalam membantu mengambil keputusan? 

Secara umum, AI bekerja dengan menganalisis data dalam jumlah besar, menemukan pola, dan kemudian memberikan rekomendasi berdasarkan hasil pemrosesan tersebut. Dalam konteks decision support system (sistem pendukung keputusan), AI dikombinasikan dengan machine learning untuk memberikan jawaban atau rekomendasi yang lebih cepat dan akurat dibandingkan jika hanya mengandalkan manusia atau metode tradisional saja. Studi Kovari menyebutkan bahwa penggunaan AI dalam sistem pendukung keputusan yang tepat bisa meningkatkan akurasi pilihan dan membantu mengurangi bias serta keterbatasan kognitif manusia.  

Namun demikian, kepercayaan terhadap AI bukanlah sesuatu yang otomatis terjadi. Faktor paling utama yang memengaruhi tingkat kepercayaan adalah transparansi dan pemahaman pengguna terhadap cara kerja sistem tersebut. Banyak pengguna merasa skeptis karena AI sering kali dianggap proses internalnya sulit dipahami dan tidak selalu bisa dijelaskan secara logis kepada pengguna akhir. Tanpa penjelasan yang jelas tentang bagaimana rekomendasi dihasilkan, banyak orang cenderung ragu untuk mengikuti keputusan yang diberikan oleh AI.  

Masalah lain terkait kepercayaan adalah kualitas dan sumber data yang digunakan untuk melatih AI. AI hanya sebaik data yang menjadi dasarnya. Jika data tersebut tidak representatif atau memiliki bias, maka outputnya pun bisa tidak akurat atau bahkan menyesatkan. Penelitian dalam konteks medis menunjukkan bahwa profesional lebih percaya pada AI ketika data yang digunakan dianggap valid, akurat, dan relevan dengan kondisi nyata. Namun suatu keputusan yang bersifat holistik, seperti mempertimbangkan nilai-nilai manusia atau situasi unik, masih dianggap lebih baik jika tetap dikendalikan oleh manusia.  

Selain itu, studi review sistem pendukung keputusan yang berbasis AI pada tenaga kesehatan menunjukkan bahwa kunci kepercayaan bukan hanya terletak pada teknologi itu sendiri, tetapi juga pada desain antarmuka, tingkat keterlibatan manusia (human-in-the-loop), serta pelatihan pengguna agar memahami dan bisa menginterpretasikan rekomendasi AI dengan benar. Tanpa aspek-aspek tersebut, AI tetap jarang dianggap sebagai mitra yang benar-benar dapat diandalkan.  

Di sisi lain, ada juga fenomena yang menarik: beberapa penelitian menunjukkan bahwa manusia terkadang justru terlalu percaya pada rekomendasi AI, bahkan ketika sistem tersebut memiliki kekurangan atau tingkat akurasi yang belum sempurna. Fenomena ini dikenal sebagai automation bias, di mana pengguna cenderung mengikuti saran AI tanpa banyak mempertanyakan atau mengevaluasi logika di balik rekomendasi tersebut. Hal ini tentu berbahaya, terutama di konteks seperti keputusan medis atau hukum, di mana konsekuensinya bisa signifikan.  

Jadi, apakah AI bisa dipercaya untuk membantu pengambilan keputusan? Jawabannya tergantung pada beberapa faktor: 

  • Transparansi dan penjelasan tentang bagaimana sistem membuat rekomendasi. 
  • Kualitas data dan model AI yang digunakan.
  • Pelatihan dan pemahaman pengguna tentang batas kemampuan teknologi tersebut. 
  • Peran manusia dalam pengambilan keputusan akhir, terutama di konteks kritis. 

Singkatnya, AI dapat sangat berguna untuk membantu membuat keputusan yang lebih cepat dan berbasis data, tetapi percaya sepenuhnya pada AI tanpa konteks manusia bisa berisiko. Kolaborasi antara manusia dan AI yang diatur dengan baik justru lebih menjanjikan untuk menghasilkan keputusan yang tepat, adil, dan bertanggung jawab. 

Referensi:  

https://www.mdpi.com/2078-2489/15/11/725 

https://medikom.iocspublisher.org/index.php/JTI/article/view/622  

https://link.springer.com/article/10.1186/s12910-023-00917-w