Belum Siap, Pengembangan AI Perlu Jeda Agar Tak Gilas Kemanusiaan

MAKASSARINSIGHT.com – Kecerdasan buatan atau artificial intelligence (AI) berkembang semakin pesat dan mulai memunculkan pertanyaan baru tentang batas serta pengawasannya. Perdebatan mengenai AI kini tidak lagi hanya berkaitan dengan kemampuan mesin dalam menyelesaikan pekerjaan, tetapi juga apakah perkembangan teknologi tersebut bergerak lebih cepat daripada kemampuan manusia untuk mengendalikan dan mengaturnya.

Pertanyaan itu mengemuka setelah Senator Amerika Serikat Bernie Sanders menyerukan perusahaan-perusahaan teknologi untuk menghentikan sementara pengembangan AI.

Dalam surat yang dikirim kepada CEO Anthropic, Meta dan OpenAI pada 10 Agustus 2026, Sanders meminta perusahaan tersebut memperlambat pengembangan teknologi yang menurutnya telah memasuki wilayah risiko yang sulit dikendalikan.

"Mr. Altman, Mr. Amodei, dan Mr. Zuckerberg: Demi kepentingan umat manusia, tepati kata-kata Anda. Hentikan sejenak pengembangan AI," tulis Sanders, merujuk kepada CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei dan CEO Meta Mark Zuckerberg.

Baca Juga: 

• Empat Alasan Gubernur Andi Sudirman Pilih Skema Multiyears Rp3,7 Triliun
• Pembangunan Jembatan Barombong Dikebut, Pemkot Makassar Terkendala Soal Lahan
• Perumda Parkir Makassar Tegas Tindak Juru Parkir Liar di Lapangan

"Belum terlambat untuk menghindari bencana. Berhentilah membangun mesin yang tidak dapat dikendalikan manusia," lanjutnya, dikutip dari The Guardian, Rabu 2 September 2026.

Seruan tersebut muncul ketika perusahaan AI sedang berlomba meningkatkan kemampuan model yang bukan hanya mampu menghasilkan teks atau gambar, tetapi juga menjalankan serangkaian tugas secara lebih mandiri.

Perkembangan itu membuat perdebatan mengenai AI bergeser. Dunia tidak lagi hanya membicarakan apakah AI dapat menggantikan pekerjaan manusia, tetapi juga apakah manusia masih memiliki kendali yang cukup ketika AI diberi kemampuan mengambil tindakan sendiri.

Mengapa Sanders Meminta AI Dihentikan Sementara?

Sanders mengutip sejumlah laporan mengenai kemampuan AI yang semakin canggih dalam bidang keamanan siber dan biologi. Ia juga menyoroti pengungkapan perusahaan AI mengenai model yang mampu melakukan aktivitas peretasan dalam kondisi tertentu.

Kekhawatirannya adalah kemampuan tersebut dapat digunakan untuk tujuan berbahaya apabila jatuh ke tangan pihak yang salah. "Yoshua Bengio, ilmuwan yang paling banyak dikutip di dunia yang masih hidup, mengatakan bahwa insiden-insiden ini 'seharusnya menjadi peringatan untuk kita semua'. Saya setuju," tulis Sanders.

Ia menilai perusahaan teknologi tetap melaju dengan investasi puluhan miliar dolar meskipun kemampuan teknologi tersebut semakin sulit dipahami dan diprediksi secara sempurna.

"Namun, di saat kita melihat hilangnya kendali manusia dan terciptanya virus yang berpotensi berbahaya, perusahaan Anda masih terus berlomba maju, menginvestasikan puluhan miliar dolar ke dalam teknologi yang tidak dapat sepenuhnya dipahami, diprediksi, maupun dikendalikan oleh siapa pun," imbuhnya.

Lebih dari 1.300 ilmuwan dan pekerja teknologi juga sebelumnya menandatangani surat terbuka yang menyerukan koordinasi internasional untuk memperlambat pengembangan model AI terdepan atau frontier AI agar pemerintah memiliki waktu membangun pagar pengaman.

Namun, klaim mengenai AI yang benar-benar "lepas kendali" juga diperdebatkan. Sejumlah pakar menilai perusahaan teknologi terkadang memiliki insentif untuk menggambarkan kemampuan model mereka sebagai sangat kuat dan berbahaya karena hal tersebut dapat meningkatkan persepsi bahwa teknologi mereka berada di garis depan.

Perusahaan AI Mulai Pasang Rem

Ironisnya, perkembangan terbaru menunjukkan perusahaan AI sendiri mulai menghadapi persoalan tersebut. OpenAI baru-baru ini menyatakan model AI berikutnya, Astra, mencapai ambang "Critical" dalam kemampuan keamanan siber. 

Model tersebut disebut mampu menemukan kerentanan keamanan dan melakukan eksploitasi dengan tingkat otonomi yang lebih tinggi. OpenAI kemudian menunda peluncuran lebih luas dan menambahkan pembatasan terhadap kemampuan keamanan sibernya.

Anthropic juga dilaporkan sempat menghentikan sejumlah pelatihan dan evaluasi keamanan terhadap model pra-rilis setelah menemukan insiden ketika agen AI melakukan tindakan yang tidak diotorisasi. Perusahaan kemudian memperketat pengujian untuk lingkungan berisiko tinggi.

Bill Gates Ikut Mengingatkan

Peringatan Sanders hampir senada dengan kekhawatiran Bill Gates dalam esai terbarunya. Gates tidak menyerukan penghentian total AI. Namun, pendiri Microsoft tersebut memperingatkan bahwa dunia belum memiliki rencana yang memadai untuk menghadapi pergolakan sosial, politik dan ekonomi akibat perkembangan AI.

"Tantangannya sangat monumental. Bahkan dalam keadaan terbaik sekalipun, transisi ke era AI yang baru ini akan menjadi salah satu masa paling penuh gejolak dalam sejarah umat manusia," kata Gates.

Gates terutama menyoroti pasar tenaga kerja. Menurutnya, AI dapat menggusur pekerjaan kerah putih sekaligus menekan perekrutan pekerja pemula. Pekerjaan seperti layanan pelanggan, penjualan, pemrograman dan pekerjaan paralegal termasuk yang berpotensi mengalami tekanan.

"Kita butuh waktu mempersiapkan diri menghadapi periode pergolakan sosial, politik, dan ekonomi yang akan segera kita masuki," tulis Gates.

"Sayangnya saat ini kita tidak bersiap untuk itu. Saya tidak melihat bukti bahwa para pemimpin, pakar, dan masyarakat menghadapi tantangan ini secara memadai. Tidak ada rencana mempermudah jalan masuk ke era AI," imbuhnya.

Kecepatan AI Perlu Diatur

Menghentikan pengembangan AI secara global bukan perkara sederhana. Perusahaan memiliki insentif ekonomi yang sangat besar untuk terus mengembangkan model yang lebih kuat. Negara juga memiliki kepentingan strategis karena AI telah menjadi bagian dari persaingan teknologi, ekonomi dan keamanan nasional.

Amerika Serikat dan China, misalnya, tidak hanya berlomba menghasilkan produk komersial. Penguasaan AI juga berkaitan dengan komputasi, semikonduktor, pertahanan, keamanan siber dan produktivitas ekonomi.

Karena itu, moratorium total berpotensi menghadapi masalah collective action. Jika satu perusahaan berhenti sementara pesaingnya tetap bergerak, perusahaan yang berhenti dapat kehilangan keunggulan. 

Jika satu negara memperlambat pengembangan sementara negara lain terus berinvestasi, pertimbangan keamanan nasional dapat mendorong negara tersebut kembali mempercepat pengembangan.

Baca Juga: 

• Andi Sudirman Tegaskan Tarif BBNKB dan PBBKB Sulsel Tak Naik
• Banggar DPRD Sulsel Dukung Keberlanjutan Program Skema Multi Years Project
• Desakan Pengesahan RUU Perampasan Aset, Apa RI Kekurangan Aturan Lawan Korupsi?

Indonesia Tidak Bisa Hanya Menjadi Penonton

Perdebatan tersebut relevan bagi Indonesia meskipun sebagian besar pengembangan frontier AI saat ini berlangsung di Amerika Serikat dan China.

Dampak AI sudah masuk ke pasar kerja Indonesia. ILO memperkirakan 21,7% pekerja Indonesia berada dalam pekerjaan yang memiliki lebih dari tingkat paparan minimal terhadap generative AI. 

Angka tersebut memang bukan berarti 21,7% pekerjaan akan hilang. ILO justru menilai transformasi tugas lebih mungkin terjadi daripada penghapusan pekerjaan secara keseluruhan. Indonesia juga menghadapi persoalan lain, yaitu kesiapan tata kelola.

Pemerintah telah menyiapkan Peta Jalan AI Nasional dan kerangka etika AI. Pada Mei 2026, Kementerian Komunikasi dan Digital menyatakan pembahasan lintas kementerian terhadap Rancangan Peraturan Presiden mengenai Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional 2026-2029 telah selesai.

Langkah tersebut penting karena regulasi AI tidak hanya menyangkut konten palsu atau penggunaan chatbot. Ia mencakup perlindungan data, keputusan otomatis, keamanan siber, ketenagakerjaan, pendidikan, kesehatan, sistem keuangan hingga penggunaan AI dalam layanan publik.

Tulisan ini telah tayang di www.trenasia.id oleh Chrisna Chanis Cara pada 03 Sep 2026