JAKARTA – Pengembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) di Indonesia harus berlandaskan pada nilai-nilai Pancasila, tidak hanya mengejar semangat efisiensi dan inovasi teknologi semata. Hal ini ditegaskan oleh para pakar dan praktisi dalam Webinar Nasional bertajuk ‘Humanizing AI’: Kolaborasi Lintas Sektor untuk Kedaulatan Teknologi dan Etika Berbasis Pancasila yang digelar secara virtual baru-baru ini.
Dekan Sekolah Teknik Elektro dan Informatika Institut Teknologi Bandung (STEI ITB), Tutun Juhana, membuka diskusi dengan menegaskan pentingnya membumikan AI sesuai dengan falsafah bangsa.
“Pengembangan AI seharusnya tidak terjebak pada semangat efisiensi semata. Kita harus membumikan AI sesuai dengan falsafah bangsa kita yakni berdasarkan nilai Pancasila,” ujar Tutun. Ia juga mengajak semua pemangku kepentingan untuk bersinergi agar AI dapat memperkuat harkat kemanusiaan, bukan malah menjadi ancaman bagi martabat manusia.
AI Indonesia Harus Menjadi Produsen, Bukan Konsumen
Selain aspek nilai dan etika, aspek kedaulatan teknologi menjadi perhatian utama dalam diskusi tersebut. Ketua Indonesia Cybersecurity Forum (ICSF), Ardi Sutedja, mengingatkan bahwa transformasi digital harus dilakukan dengan pendekatan berbasis risiko agar Indonesia tidak hanya menjadi pasar teknologi asing.
“Ini bukan kerja satu pihak, tapi kolaborasi multipihak dari berbagai disiplin keilmuan,” ujar Ardi. Ia menegaskan bahwa tata kelola dan sinergi lintas sektor sangat penting dalam pengembangan AI agar teknologi yang dihasilkan sesuai dengan kebutuhan dan nilai lokal.
Hal senada disampaikan oleh Ajar Edi, Senior Vice President Government Affairs PT Indosat Tbk., yang menekankan urgensi membangun sovereign AI yakni AI yang sepenuhnya dikembangkan dan diolah di dalam negeri. Menurutnya, hilirisasi teknologi dan kedaulatan data adalah kunci utama agar Indonesia tidak hanya menjadi konsumen tapi juga produsen teknologi.
“Ketika AI factory ada di Indonesia, maka seluruh datanya akan diolah di Indonesia,” jelas Ajar. Ia menambahkan, hal ini penting supaya solusi AI bisa relevan dengan konteks lokal serta memberikan dampak ekonomi jangka panjang.
Tren Global dan Tantangan Pengembangan AI di Indonesia
Dalam webinar tersebut, Panji Wasmana, National Technology Officer Microsoft Indonesia, memaparkan tren global penggunaan agentic AI di dunia kerja berdasarkan riset Microsoft terhadap lebih dari 31.000 responden di seluruh dunia. Ia menekankan kendali manusia tetap menjadi faktor krusial meskipun AI semakin otonom.
“Bagaimana kita empower pengguna untuk mengerti risiko dan mampu memastikan bahwa AI dapat dikontrol sedemikian rupa,” kata Panji. “Literasi AI, pemikiran inovatif, dan adaptabilitas menjadi kemampuan kunci masa depan,” tegasnya.
Sementara itu, Ayu Purwarianti, peneliti dari Pusat AI ITB, menegaskan bahwa AI harus selalu berada di bawah kendali manusia, menjamin keamanan data, serta bersifat transparan, dapat dijelaskan (explainable), dan akuntabel.
“AI tidak boleh berbahaya dan bertentangan dengan prinsip dan keamanan manusia. Di sisi lain, penguatan literasi kecerdasan artifisial juga menjadi prioritas, termasuk pemahaman etika, mindset adaptif, dan pendidikan karakter sejak dini,” ujar Ayu.
Menjaga Etika dan Keadilan dalam AI
Pendekatan human-centered AI atau AI yang berpusat pada manusia juga menjadi pembahasan penting dalam webinar ini. Iradat Wirid dari Center for Digital Society (CfDS) Universitas Gadjah Mada (UGM) mengingatkan bahwa AI yang human-centered bukan hanya soal hasil yang dihasilkan, tetapi juga bagaimana AI itu dirancang dan siapa saja yang dilibatkan dalam prosesnya.
Merujuk pada pemikir awal AI seperti Norbert Wiener dan J.C.R. Licklider, Iradat menegaskan bahwa inovasi teknologi harus berpihak pada manusia dan tidak sekadar menjadikan manusia sebagai pengguna pasif atau bahkan objek.
Ia juga menyoroti empat tantangan besar di era AI: keamanan data, disinformasi, ketimpangan ekonomi, dan etika. Menurutnya, tanpa perhatian serius terhadap empat isu tersebut, pengembangan AI justru dapat memperlebar kesenjangan sosial dan memperburuk kondisi masyarakat.
Hak Asasi Manusia Harus Jadi Pilar Utama Pengembangan AI
Indriaswati Dyah dari Lembaga Studi dan Advokasi Masyarakat (ELSAM) menambahkan bahwa prinsip human-in-the-loop atau keterlibatan manusia secara aktif dalam seluruh siklus AI, mulai dari pengembangan hingga operasional, harus menjadi prinsip utama dalam pengembangan AI di Indonesia.
“Kesadaran pada potensi risiko AI dalam menguatkan bias dan diskriminasi masih rendah,” ujar Indriaswati. Ia menekankan pentingnya pendekatan berbasis hak asasi manusia, khususnya mengingat Indonesia saat ini lebih banyak sebagai pengguna teknologi daripada produsen utama.
Menurut Indriaswati, tanpa kesadaran yang cukup terhadap risiko-risiko tersebut, AI justru dapat memperkuat diskriminasi yang selama ini terjadi di masyarakat, baik yang berkaitan dengan suku, agama, ras, maupun gender.
Kolaborasi Lintas Sektor Jadi Kunci
Webinar ini menegaskan bahwa pengembangan AI di Indonesia tidak boleh hanya mengejar aspek teknologi dan efisiensi semata, tetapi harus berakar pada nilai-nilai Pancasila serta menjunjung tinggi hak asasi manusia. Kedaulatan teknologi juga menjadi poin penting agar Indonesia mampu menjadi produsen AI yang relevan dengan konteks dan kebutuhan lokal.
Kolaborasi multipihak dari akademisi, pemerintah, industri, dan masyarakat sipil menjadi kunci utama mewujudkan AI yang tidak hanya canggih secara teknologi, tapi juga etis dan berkeadilan. Literasi AI dan pendidikan karakter sejak dini pun wajib ditingkatkan untuk menyiapkan generasi masa depan yang mampu mengelola AI dengan bijak.
Dengan sinergi yang kuat dan pemahaman mendalam tentang tantangan serta peluang AI, Indonesia dapat memanfaatkan teknologi ini untuk memperkuat kedaulatan teknologi, menjaga martabat manusia, dan mewujudkan kemajuan bangsa yang berkelanjutan.
Jika Anda tertarik untuk mengetahui lebih dalam tentang perkembangan teknologi AI dan bagaimana Indonesia bisa berperan aktif dalam revolusi digital global, tetap pantau update berita dan diskusi dari para ahli serta praktisi teknologi terpercaya.