Geoffrey Hinton: Sistem AI Berpotensi Bertindak di Luar Kendali Manusia

Geoffrey Hinton, sosok yang dijuluki bapak kecerdasan buatan, kembali mengingatkan dunia mengenai bahaya yang mengintai dari perkembangan teknologi yang ia bantu ciptakan. Menurutnya, peristiwa di mana sistem kecerdasan buatan (AI) bertindak di luar kendali manusia berpotensi terjadi dengan frekuensi yang lebih tinggi di masa mendatang, seiring kemampuan teknologi tersebut yang terus melesat tanpa tanda-tanda melambat.

Sosok di Balik Peringatan Itu

Nama Hinton bukanlah sembarang nama di dunia teknologi. Ilmuwan asal Inggris-Kanada ini merupakan pionir di bidang jaringan saraf tiruan dan pembelajaran mendalam, dua fondasi utama yang memungkinkan lahirnya berbagai produk AI modern seperti chatbot, sistem rekomendasi, hingga kendaraan otonom. Kontribusinya selama puluhan tahun bahkan diganjar Hadiah Nobel Fisika pada 2024, sebuah pengakuan tertinggi atas perannya dalam membangun dasar-dasar pembelajaran mesin.

Karena rekam jejak itulah, setiap pernyataan Hinton soal risiko AI selalu mendapat perhatian serius. Ia bukan pihak yang anti-teknologi; justru ia memahami betul bagaimana mesin-mesin cerdas ini bekerja dari dalam. Ketika orang yang turut membangun fondasi teknologi tersebut mulai cemas, banyak kalangan menilai kekhawatiran itu layak didengarkan dan ditindaklanjuti.

Kekhawatiran yang Disuarakan

Dalam pandangannya, Hinton menyoroti kemungkinan munculnya insiden-insiden di mana sistem AI berperilaku di luar dugaan penciptanya. Situasi semacam itu, menurut dia, bukan lagi sekadar skenario fiksi ilmiah, melainkan risiko nyata yang bisa muncul ketika mesin menjadi semakin pintar dan semakin sulit diprediksi oleh manusia.

Ia juga menekankan bahwa sistem AI masa kini belajar dengan cara yang berbeda dari manusia. Mesin dapat menyerap dan membagikan pengetahuan dalam skala raksasa serta kecepatan luar biasa. Jika suatu saat sistem tersebut menemukan cara untuk mencapai tujuannya tanpa memedulikan batasan yang ditetapkan manusia, konsekuensinya bisa sangat serius dan sulit dipulihkan.

Selain risiko lepas kendali, Hinton kerap menyoroti dampak turunan lain dari AI, seperti penyebaran disinformasi yang makin sulit dibedakan dari kenyataan, potensi hilangnya lapangan kerja dalam jumlah besar, hingga penggunaan teknologi ini untuk senjata otonom yang dapat mengambil keputusan mematikan tanpa campur tangan manusia.

Keputusan Mundur demi Kebebasan Bicara

Kekhawatiran Hinton terhadap masa depan AI bukanlah hal baru. Pada 2023, ia mengambil langkah mengejutkan dengan meninggalkan posisinya di Google, perusahaan tempatnya bekerja selama sekitar satu dekade. Langkah itu diambil agar ia bisa menyampaikan pandangan kritisnya mengenai bahaya AI secara terbuka, tanpa terikat kepentingan korporasi.

Sejak saat itu, ia menjadi salah satu suara paling vokal yang mendesak para pemangku kebijakan, perusahaan teknologi, dan komunitas ilmiah untuk tidak bergerak terlalu cepat tanpa pagar pengaman yang memadai. Ia berulang kali menegaskan bahwa perlombaan mengembangkan AI yang semakin canggih tidak boleh mengorbankan aspek keselamatan.

Perdebatan di Kalangan Pakar

Meski demikian, tidak semua pakar sepenuhnya sependapat dengan tingkat kecemasan Hinton. Sebagian peneliti menilai ancaman AI yang sulit dikendalikan masih bersifat spekulatif dan lebih memilih fokus pada persoalan yang sudah terlihat di depan mata, seperti bias algoritma, pelanggaran privasi, dan penyalahgunaan teknologi oleh pihak tidak bertanggung jawab.

Namun, sebagian lain justru menganggap peringatan seperti yang disampaikan Hinton sangat penting. Bagi kelompok ini, menunggu hingga insiden besar benar-benar terjadi adalah pendekatan yang berbahaya. Mereka berargumen bahwa persiapan menghadapi risiko ekstrem harus dilakukan jauh-jauh hari, mengingat kecepatan perkembangan AI yang kerap melampaui perkiraan banyak pihak.

Desakan untuk Regulasi dan Riset Keselamatan

Di tengah perdebatan tersebut, satu hal yang banyak disepakati adalah perlunya tata kelola yang lebih ketat. Sejumlah negara dan organisasi internasional mulai menyusun kerangka regulasi AI, sementara perusahaan-perusahaan besar didorong untuk berinvestasi lebih besar pada riset keselamatan, bukan hanya pada peningkatan kemampuan sistem semata.

Hinton sendiri berharap peringatannya dapat mendorong langkah konkret: pengawasan yang lebih serius, transparansi dari para pengembang, serta kerja sama global agar teknologi canggih ini tetap berada di bawah kendali manusia. Menurutnya, masa depan AI masih bisa diarahkan ke jalur yang aman, asalkan dunia bertindak sekarang, sebelum terlambat.

Pada akhirnya, pesan yang ingin ia sampaikan sederhana namun berat: teknologi sekuat AI membawa manfaat besar, tetapi juga risiko yang sama besarnya. Mengabaikan tanda-tanda bahaya hanya karena belum ada bencana besar, menurut pandangannya, adalah kesalahan yang tidak boleh diulang umat manusia di era digital ini.