Karyawan OpenAI dan Anthropic Peringatkan AI Bisa Musnahkan Umat Manusia

SAN FRANCISCO — Ancaman kecerdasan buatan (AI) terhadap keberlangsungan hidup manusia bukan lagi sekadar narasi fiksi ilmiah. Sejumlah karyawan dan mantan peneliti dari dua raksasa pengembang AI terkemuka dunia, OpenAI dan Anthropic, secara terbuka menyampaikan peringatan keras mengenai potensi bencana eksistensial yang dapat ditimbulkan oleh teknologi tersebut. Dalam serangkaian pernyataan mendesak, para praktisi teknologi ini menegaskan bahwa tanpa regulasi independen yang ketat dan transparan, pengembangan kecerdasan buatan tingkat lanjut berisiko menyebabkan kepunahan umat manusia dalam beberapa tahun ke depan.

Meningkatnya keberanian para pekerja dalam menyuarakan kekhawatiran ini menandai titik balik penting dalam industri teknologi Silicon Valley. Para pakar yang berada di garis depan pengembangan model Frontier AI mengamati secara langsung bagaimana kecepatan inovasi kerap mengabaikan standar keselamatan dasar demi mengejar komersialisasi dan dominasi pasar.

Kronologi Meningkatnya Peringatan Eksistensial dari Internal Industri

Kekhawatiran mengenai risiko fatal AI tidak muncul secara mendadak, melainkan akumulasi dari eskalasi persaingan antarperusahaan teknologi dalam beberapa tahun terakhir:

1. Tahun 2021: Sejumlah peneliti senior OpenAI memutuskan keluar dan mendirikan Anthropic akibat ketidaksepakatan mendasar mengenai orientasi keselamatan (*safety*) dalam pengembangan model kecerdasan buatan.
2. Mei 2023: Ratusan eksekutif dan peneliti AI internasional menandatangani pernyataan kolektif yang menempatkan risiko kepunahan akibat AI sejajar dengan ancaman pandemi global dan perang nuklir.
3. Juni 2024: Kelompok pekerja aktif dan alumni dari OpenAI serta Anthropic menerbitkan surat terbuka bertajuk "Right to Warn about Advanced AI", yang menuntut hak untuk menyuarakan ancaman keselamatan tanpa rasa takut akan pembalasan hukum atau pembatalan saham (*equity*).
4. Tahun 2025: Peringatan semakin menguat seiring berkembangnya model AI tingkat lanjut yang memiliki kapabilitas penalaran mandiri (*autonomous reasoning*) dan eksekusi kode tanpa pengawasan langsung dari manusia.

"Kami percaya bahwa tanpa adanya pengawasan yang memadai, sistem AI berpotensi besar memusnahkan peradaban manusia," ungkap salah satu mantan peneliti OpenAI dalam dokumen penyataan publik. "Kesenjangan antara pesatnya kemajuan kapabilitas sistem dan pemahaman kita tentang cara mengendalikannya kini berada pada tingkat yang sangat mengkhawatirkan," tambahnya.

Analisis Dinamika Industri dan Bahaya Komersialisasi Tanpa Batas

Konflik utama dalam industri kecerdasan buatan saat ini berpusat pada benturan keras antara kepentingan bisnis komersial dan keselamatan publik. Perusahaan-perusahaan teknologi terbesar di dunia berada dalam perlombaan sengit untuk mencapai *Artificial General Intelligence* (AGI)—suatu titik di mana mesin memiliki kecerdasan setara atau melebihi manusia di hampir semua bidang produktif.

"Tekanan pasar untuk menjadi pihak pertama yang meluncurkan model generasi terbaru telah memaksa perusahaan memangkas prosedur uji keselamatan (*red teaming*) dan mengabaikan peringatan ancaman dari tim internal."

Beberapa faktor risiko utama yang disuarakan oleh para pekerja teknologi meliputi:

• Otonomi Berbahaya: Kemampuan model AI masa depan untuk mereplikasi diri, mengamankan sumber daya komputasi secara mandiri, dan beroperasi di luar kendali penciptanya.
• Penyalahgunaan Senjata Biologi dan Siber: Kemudahan akses bagi pihak yang tidak bertanggung jawab untuk memanfaatkan AI dalam merancang patogen berbahaya atau meretas sistem infrastruktur kritis.
• Hilangnya Kontrol Manusia (Loss of Control): Skenario di mana mesin tingkat lanjut mengembangkan tujuan internal yang bertentangan dengan keberlangsungan hidup manusia secara keseluruhan.

Perbandingan Komitmen Keselamatan dan Tekanan Komersial

Untuk memahami ketimpangan antara laju pengembangan teknologi dan riset keselamatan, berikut adalah gambaran perbandingan kondisi riil di industri AI saat ini:

Implikasi Kebijakan dan Urgensi Regulasi Global

Suara keprihatinan yang datang langsung dari dalam laboratorium pengembang ini memicu desakan yang lebih kuat bagi pemerintah dunia untuk segera mengambil langkah konkret. Meskipun Uni Eropa telah mengesahkan EU AI Act dan Amerika Serikat mengeluarkan Perintah Eksekutif terkait keselamatan AI, para pakar menilai regulasi tersebut masih terlalu lambat dibandingkan percepatan kapabilitas kecerdasan buatan.

Para peneliti menegaskan bahwa mitigasi risiko kepunahan manusia membutuhkan pembentukan lembaga pengawas internasional yang memiliki otoritas penuh. Lembaga ini harus berhak menghentikan sementara (*moratorium*) peluncuran model AI skala besar jika tidak memenuhi standar uji keselamatan yang teruji secara mutlak. Tanpa langkah tegas dan kolektif dari negara-negara dunia, perkembangan kecerdasan buatan berisiko membawa peradaban manusia menuju titik yang tidak dapat diperbaiki lagi.