Perkembangan Artificial Intelligence (AI) tidak lagi hanya berbicara tentang seberapa pintar sebuah teknologi dapat bekerja, tetapi juga tentang bagaimana teknologi tersebut dirancang untuk manusia, diuji agar dapat dipercaya, serta dikelola secara bertanggung jawab. Perspektif inilah yang menjadi benang merah dalam Keynotes Session 2026 International Conference on Information Management and Technology (ICIMTech) yang diselenggarakan secara virtual pada Rabu, 19 Agustus 2026.

Mengusung tema besar “The Next Transformation: Building Resilient Digital Ecosystems through Human-Centric AI and Decentralized Technologies,” ICIMTech 2026 menghadirkan tiga pembicara dari tiga negara berbeda, yaitu Professor Dr. Ganesh D. Bhutkar dari Vishwakarma Institute of Technology (VIT), India; Manuel Rigger, PhD dari National University of Singapore (NUS), Singapore; serta Prof. Dr. Ir. Ford Lumban Gaol dari BINUS University, Indonesia. Ketiganya membawa perspektif yang berbeda tetapi saling melengkapi mengenai perkembangan AI dan teknologi digital saat ini.

Teknologi yang Canggih Tetap Harus Memahami Manusia

Melalui keynote bertajuk “Research With Human-Centric Technology & AI,” Professor Dr. Ganesh D. Bhutkar menekankan pentingnya menempatkan manusia sebagai pusat dalam penelitian dan pengembangan teknologi. Sebagai akademisi di bidang Human-Computer Interaction (HCI), Bhutkar menunjukkan bahwa keberhasilan teknologi tidak hanya ditentukan oleh kecanggihan algoritma, tetapi juga oleh seberapa baik teknologi tersebut memahami kebutuhan, keterbatasan, dan pengalaman penggunanya.

Pendekatan tersebut ditunjukkan melalui berbagai studi kasus, mulai dari NeonateMom, sebuah aplikasi Android untuk membantu ibu dengan bayi prematur, penelitian mengenai recommendation systems, aplikasi keselamatan bersepeda, evaluasi usability pada ikon pariwisata, hingga pengembangan HobbyHive, sebuah platform sosial berbasis hobi yang juga memanfaatkan AI. Rangkaian studi tersebut memperlihatkan bahwa riset teknologi idealnya tidak berhenti ketika sebuah sistem berhasil dibuat, tetapi perlu terus dievaluasi berdasarkan pengalaman dan kebutuhan pengguna.

Dalam pembahasan mengenai recommendation systems, Bhutkar juga menyoroti bahwa aspek fairness, algorithmic transparency, dan ethics masih relatif kurang mendapat perhatian dalam berbagai penelitian. Selain itu, persoalan kepercayaan terhadap AI menjadi semakin penting ketika pengguna mulai bergantung pada keputusan atau rekomendasi sistem. Melalui pembahasan mengenai digital trust, keynote ini menunjukkan bahwa kepercayaan terhadap AI dapat terbentuk, mengalami kerusakan ketika sistem gagal, dan bahkan perlu dipulihkan melalui penjelasan serta perbaikan yang meyakinkan pengguna.

Pesan utamanya cukup jelas: AI yang baik bukan hanya AI yang mampu menghasilkan jawaban atau keputusan dengan cepat, tetapi AI yang dapat digunakan, dipahami, dan dipercaya oleh manusia.

Ketika AI Ikut “Menguji” Teknologi

Perspektif berbeda disampaikan oleh Manuel Rigger, PhD melalui keynote “Toward Agentic Automated Testing for Database Systems.” Berangkat dari pertanyaan mengenai bagaimana membuat sistem perangkat lunak yang penting menjadi lebih reliable, Rigger membawa peserta melihat dunia automated software testing, khususnya pada database systems.

Database merupakan komponen fundamental dalam banyak layanan digital, sehingga kesalahan kecil di dalamnya dapat menimbulkan dampak besar. Salah satu tantangan dalam automated testing adalah bagaimana menghasilkan test input secara otomatis sekaligus menentukan apakah output yang diberikan sistem benar atau salah. Dalam penelitiannya, Rigger dan tim mengembangkan berbagai pendekatan melalui SQLancer, yang digunakan untuk menemukan inkonsistensi dan bug pada database management systems.

Kemunculan Large Language Models kemudian membuka kemungkinan baru. AI dapat membantu memahami variasi SQL dialect, menghasilkan bagian dari pengujian, bahkan memodifikasi generator agar dapat bekerja pada database tertentu. Namun, keynote ini tidak memposisikan AI sebagai solusi sempurna. Sebaliknya, Rigger menekankan beberapa keterbatasan penting seperti hallucination, reliability, verification, cost, dan efficiency. Bahkan tingkat kesalahan yang sangat kecil dapat menjadi masalah ketika sistem menjalankan jutaan hingga miliaran pengujian secara otomatis.

Karena itu, masa depan automated testing menurut pembahasan ini lebih mengarah pada pendekatan hybrid. AI digunakan untuk memperluas kemampuan sistem testing, sementara mekanisme tradisional tetap digunakan untuk melakukan validasi terhadap hasil yang dihasilkan AI. Pendekatan seperti ShQveL dan SQLancerEvolve menunjukkan bagaimana AI dapat berperan sebagai agen yang lebih aktif, tetapi tetap membutuhkan mekanisme pembuktian dan validasi sebelum hasilnya dipercaya.

AI di Perusahaan: Semakin Powerful, Semakin Besar Tanggung Jawabnya

Jika dua keynote sebelumnya melihat AI dari sisi manusia dan reliability teknologi, Prof. Dr. Ir. Ford Lumban Gaol membawa diskusi ke tingkat organisasi melalui topik “Enterprise AI: Risk & Responsible.” Dalam paparannya, AI di lingkungan enterprise dilihat melalui berbagai perspektif, termasuk business, intelligence, data, dan technology.

AI memang dapat membantu organisasi bekerja lebih cepat, meningkatkan efisiensi, mendukung pengambilan keputusan, bahkan menjalankan fungsi tertentu secara autonomous. Namun, peningkatan kapabilitas tersebut juga membawa risiko baru. Risiko AI dapat muncul dalam bentuk error, bias, kurangnya transparansi, cyber intrusion, privacy issues, hingga hilangnya kontrol manusia terhadap sistem. Selain risiko teknis, terdapat pula risiko ekonomi, sosial, dan etika seperti job displacement, concentration of power, value alignment, hingga pertanyaan mengenai siapa yang bertanggung jawab ketika keputusan AI menyebabkan kerugian.

Karena itu, Ford memperkenalkan konsep Responsible Artificial Intelligence, yang menggabungkan dua elemen penting: Robust AI dan Beneficial AI. Robust AI berfokus pada verification, validation, security, dan control, sedangkan Beneficial AI memastikan bahwa perkembangan teknologi tetap memberikan manfaat sosial sekaligus meminimalkan risiko ekonomi, sosial, maupun etika.

Bagi organisasi, hal ini berarti implementasi AI tidak selesai ketika sebuah model berhasil di-deploy. Perusahaan harus terus menentukan tingkat kritikalitas use case, menetapkan kebutuhan explainability dan transparency, melakukan trade-off antara performa dan kebutuhan bisnis, serta melakukan continuous monitoring dan governance sepanjang siklus hidup sistem AI.

Satu Pesan Besar: Masa Depan AI Bukan Hanya Soal “Lebih Pintar”

Ketiga keynote ICIMTech 2026 memberikan perspektif yang saling melengkapi. Bhutkar mengingatkan bahwa teknologi harus tetap human-centric. Rigger menunjukkan bahwa AI yang semakin mampu bertindak secara mandiri tetap membutuhkan verification dan validation. Sementara Ford menegaskan bahwa ketika AI masuk ke dalam proses bisnis dan keputusan organisasi, dibutuhkan governance dan responsibility yang semakin kuat.

Dari ketiga perspektif tersebut, terlihat bahwa transformasi digital berikutnya bukan sekadar perlombaan menciptakan AI yang lebih powerful. Tantangan yang lebih besar adalah bagaimana membangun teknologi yang useful for humans, reliable in operation, secure, trustworthy, dan accountable.

Inilah yang membuat tema ICIMTech 2026 menjadi semakin relevan. Untuk membangun digital ecosystem yang benar-benar resilient, inovasi teknologi harus berkembang berdampingan dengan perhatian terhadap manusia, kualitas sistem, serta tata kelola yang bertanggung jawab. Pada akhirnya, masa depan AI tidak hanya ditentukan oleh apa yang teknologi mampu lakukan, tetapi juga oleh bagaimana manusia memilih untuk merancang, menguji, menggunakan, dan mengendalikannya.