BUENOS AIRES — Juan Grabois Serukan Pakta Teknologi Global Cegah Bahaya AI

Di tengah laju pesat inovasi teknologi dunia, sebuah peringatan keras bergema dari Argentina. Anggota Dewan Perwakilan Rakyat Argentina sekaligus pemimpin gerakan Patria Grande, Juan Grabois, menyuarakan kekhawatiran mendalam terkait risiko tak terkendali dari pengembangan Kecerdasan Buatan (AI). Politisi dari koalisi Unión por la Patria (UxP) tersebut menyerukan pembentukan "Pakta Teknologi Global" guna menghentikan apa yang ia sebut sebagai "perlombaan menuju kematian."

Pernyataan tegas Grabois dipicu oleh pengunduran diri seorang mantan peneliti senior di Anthropic, salah satu perusahaan pengembang AI terkemuka di dunia. Peneliti tersebut memutuskan mundur setelah melontarkan peringatan bahaya bahwa pengembangan kecerdasan buatan super (superintelligence) yang memiliki kemampuan perbaikan diri secara rekursif dapat memicu bencana global yang mengancam keberlangsungan hidup umat manusia sebelum tahun 2030.

Grabois menyoroti fakta mengejutkan bahwa jajaran pimpinan puncak Anthropic bahkan secara terbuka mengakui adanya 10 persen kemungkinan skenario bencana tersebut terjadi. Namun, terlepas dari pengakuan berisiko tinggi tersebut, industri teknologi dinilai tetap berjalan tanpa hambatan dan seolah mengabaikan dampak fatal yang mengintai.

Dilema Etika dan Peringatan dari Praktisi Teknologi

Mengomentari situasi tersebut di media sosialnya, Grabois menegaskan bahwa isu AI bukan lagi sekadar bahasan fiksi ilmiah atau debat akademis yang jauh dari realitas kehidupan sehari-hari. Bagi legislator Argentina ini, risikonya sangat nyata dan memerlukan perhatian serta intervensi mendesak dari seluruh pemimpin dunia.

"Seorang pakar teknis utama dari Anthropic mengundurkan diri karena pengembangan superintelijen tanpa batas dan tidak rasional dapat menghancurkan kemanusiaan. Ironisnya, pimpinan tertinggi membenarkannya dan menyebut ada peluang 10 persen hal itu terjadi, namun dunia melanjutkan hidup seolah tidak terjadi apa-apa," tegas Grabois.

Grabois menambahkan bahwa masyarakat internasional harus mempelajari dinamika perkembangan teknologi ini secara cermat. Ia menekankan pentingnya memanfaatkan jendela waktu yang masih tersisa untuk membangun regulasi bersama sebelum teknologi berkembang di luar kendali manusia.

Urgensi Konsensus Internasional dan Landasan Moral

Dalam pandangannya, persaingan antarperusahaan teknologi global saat ini menyerupai perlombaan senjata yang mengabaikan keselamatan ekosistem global. Untuk itu, gagasan mengenai pakta teknologi dunia menjadi kebutuhan mendesak. Pakta ini diharapkan mampu menetapkan batasan etis, regulasi yang ketat, serta penghentian sementara pada eksperimen kecerdasan buatan berisiko tinggi.

Selain menyoroti sisi teknis, Grabois juga menyitir pandangan moral gereja dan ajaran sosial kepausan—merujuk pada refleksi historis Paus Leo XIII hingga seruan etika Paus Fransiskus terkait kecerdasan buatan. Poin utamanya adalah menegaskan bahwa perkembangan teknologi harus senantiasa mengabdi pada harkat martabat manusia, bukan justru mengancam eksistensinya.

"Kita semua memiliki banyak prioritas dan masalah dalam hidup serta pekerjaan sehari-hari. Namun, ancaman teknologi ini harus menjadi prioritas utama. Kita harus mendukung upaya bersama untuk menghentikan ancaman eksistensial ini," tambah Grabois dengan emosional.

Peta Risiko dan Kebutuhan Regulasi AI Global

Eskalasi kekhawatiran terhadap kecerdasan buatan super mendorong perlunya evaluasi menyeluruh antara kecepatan inovasi dan kesiapan regulasi hukum di tingkat internasional. Berikut adalah gambaran perbandingan risiko dan tuntutan regulasi yang disuarakan:

Seruan Juan Grabois menambah daftar panjang suara kritis dari kalangan politik, akademisi, dan praktisi teknologi itu sendiri. Tanpa adanya tindakan kolektif dan komitmen tegas dari negara-negara kunci, kekhawatiran akan perlombaan teknologi yang tak terkendali berpotensi membawa dampak ireversibel bagi masa depan peradaban manusia.