Industri keuangan global terus berusaha melawan penipuan atau fraud. Teknik penipuan yang semakin canggih, mulai dari pencurian identitas, penipuan kartu kredit, hingga rekayasa sosial yang kompleks, telah membuat metode tradisional seperti aturan statis (rule-based) menjadi kurang efektif. Untuk menyelesaikan masalah ini, Generative Artificial Intelligence (GenAI) muncul sebagai solusi yang sangat ampuh. GenAI merupakan sub-bidang artificial intelligence yang mampu menghasilkan data, teks, gambar, atau bahkan kode pemrograman yang baru dan realistis, menawarkan paradigma baru dalam mendeteksi dan mencegah penipuan. Namun, seperti pedang bermata dua, teknologi GenAI ini tidak hanya membawa peluang besar untuk mengamankan aset dan data, tetapi juga membawa serta risiko dan tantangan etika yang tidak boleh diabaikan. Dalam hal ini, peluang dan risikonya yang menjadi peting bagi setiap institusi keuangan yang ingin bertahan dan unggul di era digital. 

Peluang Pemanfaatan GenAI pada Industri Finance: 

  • Penciptaan Data Sintetis untuk Pelatihan Model yang Lebih Baik.  

Salah satu tantangan utama dalam melatih model deteksi penipuan adalah ketidakseimbangan data (imbalanced data), di mana transaksi penipuan hanya merupakan fraksi kecil dari seluruh transaksi. Generative AI dapat menghasilkan data sintetis transaksi penipuan yang sangat realistis dan beragam. Ini memungkinkan model Machine Learning untuk dilatih dengan dataset yang lebih seimbang dan komprehensif, sehingga meningkatkan akurasi dalam mengenali pola-pola penipuan yang halus dan langka, tanpa menggunakan data nasabah yang sebenarnya yang berisiko terhadap privasi. 

  • Deteksi Anomali yang Proaktif dan Kontekstual.  

Berbeda dengan sistem berbasis aturan yang kaku, Generative AI dapat mempelajari pola “normal” dari jutaan transaksi historis. Model seperti Variational Autoencoders (VAEs) dirancang untuk memahami baseline perilaku pengguna yang sah. Ketika terjadi transaksi yang menyimpang dari pola dasar ini—bahkan dalam cara yang sangat halus dan belum pernah dilihat sebelumnya (zero-day fraud)—sistem dapat langsung mengidentifikasinya sebagai anomali. Kemampuan ini menghasilkan deteksi yang lebih dini dan akurat, sekaligus mengurangi jumlah alarm palsu (false positives) yang selama ini mengganggu nasabah dan meningkatkan biaya operasional. 

  • Simulasi Serangan dan Otomasi Investigasi.  

Tim keamanan dapat memanfaatkan Generative AI untuk mensimulasikan berbagai skenario serangan penipuan yang canggih dan kreatif. Dengan “bermain sebagai penjahat”, institusi keuangan dapat menguji ketahanan sistem mereka dan menemukan celah keamanan sebelum dieksploitasi secara nyata. Selain itu, teknologi ini dapat mengotomasi proses investigasi yang memakan waktu. Model AI generatif dapat meringkas insiden penipuan yang kompleks menjadi laporan naratif yang koheren, menyoroti bukti kunci, dan menyarankan langkah mitigasi, sehingga mempercepat respons dan membebaskan analis manusia untuk fokus pada tugas yang lebih strategis. 

Resiko dan Tantangan 

Selain adanya peluang, ada pun beberapa resiko dan tantangan yang perlu diwaspadai, seperti: 

  • Penggunaan Teknologi yang Sama 

Risiko paling ironis dan berbahaya adalah bahwa penjahat siber dapat menggunakan teknologi yang sama untuk melancarkan serangan yang lebih canggih. Generative AI dapat digunakan untuk membuat serangan phishing dan vishing yang sangat personal, meniru suara (deepfake audio) atau gaya penulisan seseorang yang dikenal korban. Teknologi ini juga dapat membuat dokumen identitas palsu yang sangat meyakinkan untuk mengelabui sistem verifikasi Know Your Customer (KYC), memulai perlombaan senjata teknologi antara penipu dan penjaga keamanan. 

  • Masalah Kualitas Data, Bias, dan Akuntabilitas.  

Kualitas data pelatihan merupakan fondasi krusial untuk model AI yang andal. Data yang tidak akurat, tidak lengkap, atau mengandung bias historis akan menghasilkan model yang tidak akurat dan diskriminatif. Hal ini dapat menyebabkan sistem deteksi penipuan yang secara tidak fair menargetkan kelompok demografi tertentu. Selan itu, terdapat tantangan explainability atau kemampuan untuk menjelaskan keputusan AI. Dalam investigasi penipuan, analis dan regulator memerlukan penjelasan yang jelas mengapa suatu transaksi ditandai sebagai fraud. Sifat “black box” dari beberapa model Generative AI menyulitkan akuntabilitas dan dapat menghambat proses investigasi dan kepatuhan regulasi. 

  •  Tantangan Regulasi dan Tata Kelola yang Belum Matang.  

Lanskap regulasi untuk Generative AI masih dalam tahap awal dan sangat dinamis. Institusi keuangan menghadapi ketidakpastian hukum terkait penggunaan teknologi ini. Mengembangkan framework tata kelola (governance) yang robust adalah tantangan besar, termasuk menentukan siapa yang bertanggung jawab atas output model AI, bagaimana memastikan penggunaan yang etis, dan bagaimana memenuhi persyaratan privasi data seperti GDPR. Tanpa tata kelola yang jelas, organisasi berisiko menghadapi sanksi regulasi, kerusakan reputasi, dan hilangnya kepercayaan konsumen. 

Referensi: