Oleh : Hadi Hidayat, Mahasiswa Magister Ilmu Komunikasi FISIP UMJ
REPUBLIKA.CO.ID, JAKARTA -- Teknologi kecerdasan buatan (Artificial Intelligence/AI) kini menjelma menjadi elemen strategis di panggung global. Tidak lagi sekadar menjadi domain Silicon Valley, AI kini diadopsi dengan cepat dan agresif oleh negara-negara seperti Tiongkok, yang bukan hanya ingin menguasai teknologi itu, tetapi juga menciptakan standar etika dan regulasi baru yang mencerminkan nilai-nilai politiknya sendiri.
Hal ini tergambar jelas dalam buku “The Chinese Approach to Artificial Intelligence: An Analysis of Policy, Ethics, and Regulation” yang disunting oleh Luciano Floridi dan koleganya. Buku ini bukan sekadar kumpulan teori atau norma teknokratik; ia adalah potret tajam tentang bagaimana negara seperti China tidak hanya menggunakan AI untuk efisiensi, tetapi untuk mengatur dan bahkan mengendalikan warganya secara sistematis. Teknologi tidak netral, dan dalam konteks China, AI telah menjadi bagian dari ekosistem kekuasaan yang sarat kepentingan ideologis.
Dalam dokumen strategisnya, A New Generation Artificial Intelligence Development Plan (2017), pemerintah Tiongkok menargetkan menjadi pemimpin global AI pada 2030. Mereka tidak hanya menyiapkan dana miliaran yuan, tetapi juga menunjuk raksasa teknologi nasional seperti Baidu, Tencent, Alibaba, dan iFlytek sebagai pelaksana utama. Tapi yang menarik sekaligus mencemaskan adalah bagaimana AI kemudian dilekatkan pada sistem social credit, pengawasan warga melalui kamera pengenal wajah, hingga pelacakan kebiasaan dan opini digital individu. Di China, AI bukan sekadar alat bantu birokrasi, tapi sarana untuk membentuk ulang perilaku warga.
Mengapa ini penting bagi Indonesia?
Kita tahu bahwa Indonesia juga tengah gencar memacu digitalisasi. Pemerintah telah meluncurkan Strategi Nasional Kecerdasan Artifisial (SNKA) 2020 - 2045. Fokus utamanya adalah AI untuk layanan publik, pendidikan, ketahanan pangan, mobilitas, hingga reformasi birokrasi. Namun seperti Tiongkok, proses ini cenderung top-down, dan lebih banyak digerakkan oleh logika efisiensi dan inovasi, bukan etika dan akuntabilitas.
Beberapa daerah di Indonesia kini mulai memasang kamera pengenal wajah, terutama di bandara dan pusat kota besar. Teknologi biometrik digunakan dalam pelayanan administrasi seperti absensi ASN, pengawasan lalu lintas, bahkan untuk pengawasan sekolah. Sementara itu, algoritma digunakan dalam seleksi CPNS, pembagian bansos, atau penilaian risiko kredit. Semua tampak canggih, tapi publik hampir tidak pernah tahu bagaimana sistem ini bekerja. Tidak ada audit publik. Tidak ada mekanisme keberatan jika warga merasa dirugikan.
Ini adalah awal dari risiko besar, ketika warga negara tak lagi punya kontrol atas data dan identitas digitalnya sendiri. Tanpa kerangka etik yang kuat, kita membuka jalan bagi negara dan swasta untuk memantau, menilai, bahkan menghakimi warga atas dasar algoritma yang tidak transparan.
Pengalaman China bisa menjadi kaca pembesar bagi Indonesia. Di sana, AI menjadi infrastruktur kekuasaan, bukan hanya untuk keamanan, tetapi untuk moralitas sosial versi negara. Pelanggaran lalu lintas bisa membuat seseorang kesulitan mengakses kredit bank. Opini daring yang kritis bisa mencoreng skor sosial yang berdampak pada karier. Semua berlangsung diam-diam, di balik sistem yang katanya netral, padahal sarat bias struktural.
Indonesia, sebagai negara demokratis, seharusnya menempuh jalur berbeda. Tapi saat ini, kita tampak meniru pola pembangunan AI China, tapi tidak sekaligus membangun proteksi sosial yang sepadan. Belum ada undang-undang khusus yang mengatur AI. UU Perlindungan Data Pribadi (UU PDP) yang baru disahkan pun masih lemah dalam aspek implementasi. Sementara, tidak ada lembaga independen yang secara khusus mengawasi penggunaan algoritma dalam layanan publik maupun bisnis digital.
Yang lebih mencemaskan, diskursus publik tentang etika AI di Indonesia masih sangat terbatas. Jarang ada forum diskusi yang melibatkan warga sipil, akademisi lintas disiplin, pelaku teknologi, dan pembuat kebijakan secara terbuka. Semua ini membuat pengembangan AI di Indonesia berjalan dalam ruang gelap: penuh jargon inovasi, tapi minim kesadaran etik.
Padahal kita tahu, teknologi bukan sekadar alat. Ia adalah refleksi dari siapa yang mengendalikan, dan untuk apa digunakan. Tanpa prinsip, AI akan menjadi pisau bermata satu, yang hanya menguntungkan yang kuat dan mengancam yang lemah. AI bisa mengefisienkan pelayanan publik, tapi bisa juga menghapus hak untuk diperlakukan adil secara manusiawi.
Karena itu, Indonesia perlu membangun pendekatannya sendiri. Kita perlu etika AI berbasis Pancasila dan demokrasi. Kita harus mendorong pembentukan AI Ethics Council yang melibatkan elemen lintas sektor untuk menetapkan batasan penggunaan AI yang sah, adil, dan manusiawi. Audit algoritma harus menjadi kewajiban, bukan pilihan. Dan publik harus diberi ruang untuk memahami, mengakses, dan menggugat sistem teknologi yang digunakan atas nama mereka.
Dalam konteks ini, peran akademisi, jurnalis, aktivis, dan mahasiswa sangat penting. Kita tidak bisa membiarkan transformasi digital hanya ditentukan oleh negara dan korporasi. Teknologi masa depan harus dirundingkan oleh seluruh warga bangsa. Karena kalau tidak, kita sedang membangun penjara digital yang akan mengurung generasi selanjutnya.
Apa gunanya AI yang canggih jika membuat kita kehilangan kendali atas masa depan kita sendiri?
Indonesia harus berhati-hati. Bukan hanya soal kecepatan adopsi AI, tetapi soal arah dan nilai yang mendasarinya. Kita bisa belajar dari China, tapi bukan untuk ditiru. Justru dari sanalah kita paham bahwa teknologi tanpa etika hanya akan melahirkan kekuasaan tanpa batas.
Mari bangun AI yang berpihak pada manusia, bukan pada mesin kekuasaan.
Ikuti Whatsapp Channel Republika