Etika Yang Berlaku Pada Penggunaan Machine Learning
Etika dalam machine learning (ML) adalah kajian tentang implikasi moral dari pengembangan dan penerapan sistem pembelajaran mesin. Dengan semakin meluasnya penggunaan ML dalam berbagai aspek kehidupan, mulai dari perbankan, kesehatan, hingga sistem hukum, muncul kebutuhan mendesak untuk memastikan bahwa teknologi ini tidak memperkuat bias, melanggar privasi, atau menghasilkan keputusan yang tidak adil.
Artikel ini membahas secara teknis bagaimana prinsip etika seperti fairness, privacy, transparancy, dan accountability dapat diintegrasikan ke dalam pipeline machine learning.
Fairness (Keadilan)
Fairness dalam konteks ML merujuk pada upaya untuk menghindari diskriminasi terhadap kelompok tertentu berdasarkan atribut seperti gender, ras, usia, dsb. Pengurangan bias ini dapat berfungsi untuk menghindari diskriminasi terhadap suatu ras/gender/usia/jenis kelamin pada saat pengambilan keputusan yang berdasarkan Machine Learning. Prinsip ini penting karena ML yang dilatih tanpa kontrol fairness bisa memberikan keputusan yang bias seperti:
- Menolak pinjaman lebih sering untuk ras tertentu.
- Menilai performa kerja berdasarkan stereotip gender.
- Mengklasifikasikan individu secara tidak proporsional ke dalam kategori risiko tinggi.
Privacy (Privasi)
Privasi dalam konteks kode etik dalam machine learning (ML) adalah tentang melindungi hak individu atas data pribadi mereka, baik dalam proses pengumpulan, pelatihan model, sampai penggunaan model tersebut. Dalam konteks etika teknologi, privasi bukan hanya soal legal compliance (seperti mematuhi General Data Protection Regulation), tapi juga soal tanggung jawab moral untuk menjaga kerahasiaan data, kontrol data, dan keamanan informasi yang bersifat pribadi atau sensitif.
Pada intinya, prinsip ini memiliki tujuan utama untuk melindungi identitas dan informasi sensitif individu, mencegah penyalahgunaan atau kebocoran data dan menjamin transparansi dan kontrol pengguna atas data mereka. Pengguna harus tau bahwa data mereka digunakan (Consent), hanya boleh digunakan untuk tujuan yang telah disepakati (Purpose Limitation), ML hanya boleh kumpulkan data yang benar-benar dibutuhkan (Data Minimization), pengguna berhak meminta agar data mereka dihapus (Right to be Forgotten), data harus diolah agar tidak bisa ditelusuri kembali ke individu (Anonymization). Beberapa contoh yang mungkin terjadi adalah Model ML yang secara tidak sengaja mengungkap informasi pribadi, dataset kesehatan yang tidak dianonimkan dengan benar kemudian model yang membocorkan data pelatihan saat di-query.
Transparancy (Transparansi)
Prinsip etis transparansi dalam machine learning (ML) adalah tentang membuka secara transparan proses ML, pengolahan data, dan keputusan model secara jelas agar dapat dimengerti oleh pengguna, pengembang, regulator, maupun masyarakat luas. Transparansi sangat penting dalam sistem ML karena keputusan yang dihasilkan sering kali berdampak besar, misalnya dalam perbankan, kesehatan, hukum, atau pekerjaan. Apabila sistem ML tidak transparan maka dapat menimbulkan masalah seperti sulit untuk mengevaluasi apakah sistem adil atau bias, tidak ada cara untuk meminta pertanggungjawaban, kemudian pengguna kehilangan kepercayaan terhadap teknologi.
Selain itu, prinsip ini penting untuk menjunjung prinsip menjamin hak untuk tahu bagi individu yang terdampak sistem otomatis, mencegah adanya manipulasi data atau penyalahgunaan sistem oleh pihak tertentu, sebagai prinsip pendukung akuntabilitas, terutama jika sistem gagal atau merugikan seseorang. Komponen dalam ML yang harus memperhatikan transparansi adalah : transparansi dataset, transparansi model, transparansi keputusan dan juga transparansi proses.
Accountability (Akuntabilitas)
Prinsip etis akuntabilitas dalam machine learning (ML) menuntut agar setiap sistem berbasis ML memiliki pihak yang bertanggung jawab atas konsekuensi dari keputusan atau tindakannya, baik secara teknis, hukum, maupun moral. Prinsip akuntabilitas menjamin bahwa sistem ML tidak beroperasi tanpa pengawasan dan tanggung jawab. Tanpa akuntabilitas, keadilan dan transparansi menjadi hampa, karena tidak ada yang bisa dimintai pertanggungjawaban ketika model menimbulkan kerugian atau ketidakadilan.
Prinsip ini penting dalam implementasi Machine Learning karena Machine learning sering digunakan untuk membuat keputusan yang berdampak besar seperti penentuan nasabah yang boleh mendapat pinjaman, penentuan calon karyawan yang lolos rekrutmen dan pasien mana perlu dikirim ke rumah sakit. Tanpa prinsip akuntabilitas ML hanyalah akan menjadi black box yang sulit ditelusuri dan dimintai pertanggungjawaban dan menyebabkan berbagai masalah baru mulai dari korban yang tidak tahu harus mengadu ke siapa, pengembang bisa tidak bertanggung jawab dengan model yang dibuatnya dan juga organisasi kehilangan kepercayaan publik.
Prinsip – prinsip dasar pada kode etis akuntabilitas adalah:
- Answerability: Ada penjelasan untuk setiap keputusan sistem
- Responsibility: Ada manusia atau institusi yang jelas bertanggung jawab atas tindakan sistem
- Auditability: Proses dan hasil sistem bisa dilacak dan diaudit
- Remediability: Apabila ada kesalahan sistem, maka pengembang wajib merancang mekanisme untuk pemulihan dan penggantian kerugian