Pentingnya Regulasi dan Transparansi dalam Pengembangan Kecerdasan Buatan di Indonesia
Pembentukan Badan AI Nasional yang diusulkan oleh Kolaborasi Riset dan Inovasi Industri Kecerdasan Artifisial (KORIKA) mendapat apresiasi dari tokoh teknologi Indonesia, Ilham Akbar Habibie. Ia menilai kehadiran lembaga tersebut sangat penting, asalkan berada di bawah kendali pemerintah dan langsung bertanggung jawab kepada Presiden.
“Jadi memang harus ada badan AI atau badan regulator digital pada umumnya. AI, teknologi-teknologi lain yang akan datang itu harus ada regulasi,” ujar Ilham Akbar Habibie usai menjadi pembicara dalam acara “Istiqlal Technology Talks” yang mengangkat tema “Akal Imitasi (AI) dan Penguatan Karakter Bangsa” di Masjid Istiqlal Jakarta.
Regulasi sebagai Langkah Awal
Meski menyambut baik gagasan tersebut, Ilham menekankan bahwa sebelum pembentukan lembaga tersebut, regulasi yang jelas perlu dibuat terlebih dahulu. Saat ini, menurutnya, belum ada peraturan khusus terkait kecerdasan artifisial di Indonesia. “Peraturannya juga saat ini belum ada. Itu harus ada dulu sebelum badan dibentuk,” katanya.
Menurut Ilham, regulasi ini akan menjadi dasar untuk menjaga penggunaan AI yang aman dan etis. Tanpa aturan yang jelas, risiko penyalahgunaan teknologi ini bisa semakin besar, terutama dalam bidang-bidang seperti data pribadi, otomatisasi pekerjaan, hingga pengambilan keputusan yang berdampak pada masyarakat luas.
Transparansi dalam Algoritma AI
Selain regulasi, Ilham juga menyoroti pentingnya transparansi dalam algoritma kecerdasan buatan. Menurutnya, masyarakat harus memahami bagaimana sistem AI menilai dan mengambil keputusan agar tidak terjadi bias atau diskriminasi yang tidak disadari.
“Algoritma itu kan ada kriteria-kriteria bagaimana dia menilai sesuatu. Itu harus kita tahu. Jangan sampai ada jebakan-jebakan yang kita sebagai manusia nggak tahu,” katanya.
Dengan transparansi, masyarakat dapat lebih percaya pada sistem AI dan memastikan bahwa teknologi ini digunakan secara adil dan tidak merugikan kelompok tertentu.
Struktur Lembaga yang Multisektoral
Terkait lembaga yang sudah ada seperti Kementerian Komunikasi dan Digital (KomDigi), Ilham menilai fungsinya terlalu luas dan tidak fokus hanya pada AI. Ia menyarankan agar badan yang dibentuk bersifat multisektoral, dengan melibatkan berbagai unsur seperti pemerintah, industri, akademisi, organisasi profesi, hingga media.
“Pejabatnya tetap harus dari pemerintah, tapi masukan-masukannya harus lintas sektor. Seperti model triple helix—pemerintah, bisnis, dan akademia—atau bahkan quintuple helix yang juga melibatkan masyarakat dan media,” jelas putra Almarhum BJ Habibie ini.
Model ini dinilai lebih efektif dalam menghadapi tantangan kompleks yang muncul dari pengembangan AI, karena melibatkan berbagai pihak yang memiliki keahlian dan perspektif berbeda.
Tren Global Terkait Badan AI
Mengenai apakah sudah ada negara lain yang memiliki badan AI khusus, Ilham menyebut hingga kini ia belum mengetahui ada negara yang secara eksklusif memiliki lembaga sejenis. Namun ia menilai arah ke sana sedang berkembang di berbagai belahan dunia.
Beberapa negara seperti Tiongkok, Amerika Serikat, dan Eropa telah mulai membentuk lembaga khusus untuk mengawasi pengembangan AI. Hal ini menunjukkan bahwa pengelolaan AI secara terstruktur dan terarah menjadi prioritas global.
Usulan KORIKA untuk Pengembangan AI di Indonesia
Sebelumnya, Kolaborasi Riset dan Inovasi Industri Kecerdasan Artifisial (KORIKA) yang dipimpin oleh Ketua Umum Prof Hammam Riza mengusulkan pembentukan Badan AI Nasional atau AI Safety Institute dalam pertemuan dengan Wakil Menteri Pendidikan Tinggi, Sains, dan Teknologi, Prof. Stella Christie.
Usulan tersebut muncul sebagai upaya memperkuat tata kelola serta pengawasan etis terhadap pengembangan dan penerapan kecerdasan artifisial di Indonesia.
“KORIKA mengusulkan pembentukan Badan AI Nasional atau AI Safety Institute. Institusi ini diharapkan dapat menjadi pusat koordinasi untuk menjamin keamanan, etika, dan keberlanjutan dalam pengembangan AI di berbagai sektor,” demikian disampaikan dalam laporan resmi KORIKA.
