Oleh M Muchlas Rowi
[Komisaris Independen PT Jamkrindo dan Dosen Program S3 Ilmu Hukum Universitas Borobudur]
REPUBLIKA.CO.ID, JAKARTA -- Rabu [11/8/2024] menjelang siang, ruang konferensi di MGM Grand, Las Vegas riuh ramai. Seribuan kursi hitam yang berderet rapi di bagian tengah mulai terisi penuh. Sebuah layar LED besar nampak megah di bagian depan. Memungkinkan para peserta untuk melihat aksi panggung dengan jelas, bahkan dari kursi paling belakang.
Suhu di ruangan berkisar 20 hingga 23 derajat celcius, dikendalikan sistem HVAC super canggih, begitu nyaman. Tetamu di dalam seperti lupa, jika mereka sedang berada di kawasan Gurun Mojave yang tak kenal ampun.
Sesaat setelah pembawa acara memberi pengumuman, seorang lelaki tua bangkit dari duduknya. Lalu berjalan ke arah panggung. Rambutnya putih keperakan, kemeja hijaunya tertutup jas berwarna hitam. Ia adalah Geoffrey Hinton, Sang Godfather AI.
Di tengah gemerlap suasana, di antara tepukan tangan yang meriah, Hinton naik ke panggung. Ia berbicara dengan nada yang penuh kehati-hatian, tak seperti kebanyakan pembicara yang lebih banyak merayakan kemajuan teknologi. Ironis memang, sosok yang membantu menciptakan kecerdasan buatan justru berdiri di sini, di hadapan dunia, dengan kekhawatiran yang mendalam.
"AI adalah pisau bermata dua," katanya, dan saya bisa merasakan beban di balik kata-kata itu. Di satu sisi, teknologi ini membuka peluang besar, tapi di sisi lain, ia bisa menjadi ancaman yang belum sepenuhnya kita pahami. Seperti saat Amartya Sen mengingat masa kecilnya yang penuh konflik, Hinton pun seolah mengajak kita untuk merenungkan kembali langkah kita dalam menghadapi masa depan yang tak pasti.
Di tengah suasana cerah dan kemegahan konferensi, Hinton menekankan bahwa meskipun AI menawarkan potensi luar biasa, ada risiko yang tak kalah besar. "Kita telah menciptakan sesuatu yang mungkin sulit kita kendalikan," katanya dengan nada serius. Kekhawatirannya bukan hanya tentang teknologi yang cepat berkembang, tetapi juga tentang dampaknya terhadap masyarakat, privasi, dan bahkan keselamatan global.
Hinton memandang AI sebagai alat yang bisa memberikan manfaat besar, tetapi juga bisa membawa konsekuensi yang belum sepenuhnya kita pahami. Dalam pandangannya, tanggung jawab untuk mengarahkan dan mengatur teknologi ini adalah tantangan utama yang harus dihadapi bersama.
Hinton melanjutkan dengan kekhawatirannya tentang dampak dari teknologi seperti deepfake, yang semakin mempermudah manipulasi media dan informasi. "Teknologi ini bisa merusak kepercayaan publik dan memperparah penyebaran berita palsu," ujarnya dengan nada penuh keprihatinan. Menurutnya, deepfake tidak hanya berpotensi mengancam keamanan individu tetapi juga mengganggu stabilitas sosial dengan menciptakan kebingungan dan konflik yang tidak perlu.
Ia juga mencatat bahwa kecerdasan buatan memiliki kemampuan untuk meniru dan mengubah realitas dengan cara yang sangat meyakinkan, sehingga sulit bagi orang awam untuk membedakan antara yang asli dan yang dimanipulasi. "Ini adalah tantangan besar untuk integritas informasi di era digital," tambahnya.
Bagi Hinton, menangani masalah seperti deepfake memerlukan kerjasama global dan regulasi yang ketat, untuk memastikan bahwa teknologi ini digunakan secara etis dan tidak disalahgunakan. Kekhawatirannya adalah panggilan untuk tindakan hati-hati, mengingat potensi besar yang dimiliki AI untuk mengubah cara kita berinteraksi dan memahami dunia di sekitar kita.
Yang juga mengkhawatirkan, ketika mesin learning ini dipakai unutk depth fake. Dimana video memanipulasi sehingga seolah-olah dia berbicara seperti itu, misalnya. Di negara-negara yang masih menanggapi Ai di level awareness, orang gampang sekali termakan hoaks.
Lebih bahaya lagi, kata Hinton, saat Ai digunakan oleh orang-orang seperti Kim Jong Un, Trump, hingg Xi Jing Ping. Itu bisa jadi Ai malah dikembangkan untuk membuat senjata otomatis [lethal autonomus weapons].
Selama ini, penggunaan senjata otomatis yang dikendalikan Ai hanya kita lihat di film-film fiksi Holywood seperti The Terminator yang melambungkan nama Arnold Schwarzenegger dan Linda Hamilton. Namun kini, beberapa jenis senjata penjaga stasioner, yang dapat menembaki manusia dan kendaraan, digunakan di Korea Selatan dan Israel. Banyak sistem pertahanan rudal, seperti Iron Dome, juga memiliki kemampuan pernargetan otonom.
Yuval Noah Harari, seorang sejarawan dan penulis terkenal, menekankan bahwa teknologi canggih seperti AI bisa mengancam privasi dan kontrol individu, serta menciptakan ketidakadilan sosial. Ia memperingatkan bahwa kecerdasan buatan tidak hanya mengubah cara kita bekerja dan berinteraksi, tetapi juga dapat mengguncang struktur sosial dengan menyebarkan informasi yang salah dan merusak kepercayaan publik.
Perkembangan AI menurut Hariri, menyebabkan krisis identitas. Pekerjaan seringkali memberikan rasa tujuan dan identitas bagi individu. Tapi hilangnya pekerjaan bisa berdampak negatif pada kesejahteraan mental dan sosial.
Dengan banyak pekerjaan yang berpotensi hilang atau berubah, ada kekhawatiran tentang bagaimana masyarakat akan beradaptasi dengan perubahan ekonomi ini. Harari memperingatkan bahwa ketidakpastian mengenai masa depan pekerjaan dapat menyebabkan ketidakstabilan ekonomi dan sosial yang lebih luas.
Terbaru, adalah seperti disinggung Paus Fransiskus saat berbicara di Istana Merdeka di depan residen Jokowi dan pejabat negara lainnya, Jakarta, Rabu [4/9], di luar sana, katanya, banyak yang lebih memilih pelihara hewan daripada anak [child-free].
"Karena banyak orang di negara lain yang nggak mau punya anak lagi, tapi malah pilih pelihara anjing atau kucing," lanjut Paus.
Saya, kita atau siapa pun tentu tak menafikan pentingnya Ai bagi masa depan kehidupan umat manusia. kehadirannya adalah niscaya dan tidak mungkin dicegah. Namun perlu kita yakini, bahwa pertarungan ke depan bukanlah antara manusia dan Ai seperti banyak dinarasikan banyak pihak. Tapi antara manusia yang bersahabat dengan Ai versus manusia tanpa Ai.
Kedua, sebelum betul-betul terlambat kita, terutama pemerintah perlu membenahi peraturan. Soal apa, ya soal data. Karena banyak orang mengatakan, kemajuan negara di masa depan bukan lagi ditentukan oleh emas hitam atau pun minyak, melainkan oleh data. Siapa menguasai data, maka dia menguasai dunia.
Makanya kita patut menyayangkan jika warga negara Indonesia begitu senang ketika profil diri atau bahkan wajahnya muncul di media sosial. Padahal, di negara-negara yang memiliki kesadaran terhadap data pribadi, sudah mulai membatasi perilaku tersebut.
Di Eropa, atau di China yang namanya facial recognition sudah ada aturannya, dan itu super ketat. Apalagi di Amerika Serikat, negara yang sangat menghargai privasi, real-time facialrecognition tidak boleh sama sekali.
Kematian pria berkulit hitam keturunan Afrika-Amerika, bernama George Floyd setelah lehernya ditindih seorang petugas kepolisian bernama Derek Chauvin selama hampir 9 menit, berhasil membangkitkan kemarahan masyarakat serta unjuk rasa di ratusan kota Amerika Serikat.
Kematian George Floyd juga cerminan dari fenomena rasisme kepolisian Amerika, dimana ketegangan antara polisi dan komunitas kulit hitam di sana bukanlah sesuatu yang baru. Fenomena ini dikenal dengan istilah “Racial Profiling”, yaitu aksi penegakan hukum yang bias oleh aparat kepolisian karena lebih didasarkan pada identitas etnis, ras, agama maupun kebangsaan, ketimbang perbuatan seseorang maupun bukti objektif.
Pemerintah belum terlambat jika ingin membenahi peraturan. Di Eropa, peraturan pembatasan data baru diketok tahun lalu. Di China, menggunakanfacial recognition ada aturannya. Apalagi, di AS yang sangat menghargai privasi, real-time facial recognition tidak boleh sama sekali karena bisa untuk rasial profiling. Bagaimana Indonesia? “Bebas sebebasnya.
Ikuti Whatsapp Channel Republika