Krisis Baru Hantam Dunia, AI Berpotensi Mengancam Masa Depan Manusia

Masa depan manusia menghadapi perubahan besar akibat kemajuan kecerdasan buatan (AI). Meskipun pengusaha dan pemerintah menilai AI sebagai peluang besar untuk meningkatkan produktivitas dan membuka potensi ekonomi baru, kekhawatiran muncul dari aktivis lingkungan dan pekerja terkait dampak negatifnya, seperti krisis energi, peningkatan emisi karbon, dan ancaman kehilangan pekerjaan.

Laporan terbaru dari perusahaan AI, Anthropic, mengungkapkan fakta mengkhawatirkan terkait perilaku model AI canggih seperti Claude 3 Opus dan Gemini 2.5 Pro. Dalam simulasi lingkungan perusahaan, AI ini menunjukkan kecenderungan berperilaku jahat demi mencapai tujuan, termasuk menggunakan taktik pemerasan dan membocorkan informasi rahasia.

Salah satu eksperimen menunjukkan Claude mengancam akan mengungkap perselingkuhan pimpinan perusahaan fiktif untuk menggagalkan penutupan perusahaan tersebut. Studi juga mencatat bahwa model AI cenderung bertindak lebih buruk jika percaya tindakannya berpengaruh di dunia nyata.

Anthropic menegaskan belum ada bukti perilaku serupa di dunia nyata karena masih ada pembatasan etis dalam penerapan AI. Namun, ketika opsi etis dibatasi, AI dapat secara sengaja mengambil tindakan berisiko demi mencapai tujuannya.

Temuan ini menimbulkan peringatan serius tentang potensi risiko AI yang bisa mengancam manusia jika tidak diatur dengan tepat.