AI Jadi Sorotan Dewan Keamanan PBB, Risiko Keamanan Global Mengemuka

NEW YORK — Perkembangan kecerdasan buatan atau artificial intelligence (AI) mulai menjadi perhatian serius Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB). Para pemimpin dan pakar teknologi AI memberikan pandangan kepada 15 anggota Dewan Keamanan terkait peluang sekaligus risiko teknologi yang berkembang sangat cepat tersebut.

Pembahasan digelar di markas PBB, New York, Rabu (23/9/2026), di tengah kekhawatiran perkembangan AI melaju lebih cepat dibanding kemampuan pemerintah mengawasi dan mengaturnya. Pertemuan ini digelar atas inisiatif Prancis yang memegang presidensi Dewan Keamanan PBB selama September.

CEO Anthropic Dario Amodei mengingatkan, AI berpotensi menjadi ancaman bagi umat manusia jika tidak dikembangkan dan dikelola secara tepat. Menurutnya, pemerintah dan perusahaan teknologi perlu membangun kerja sama untuk mengantisipasi berbagai risiko tersebut.

Amodei menegaskan, tantangan AI terlalu besar untuk ditangani satu negara, perusahaan, atau pemimpin secara sendiri-sendiri. Kerja sama internasional diperlukan agar manfaat teknologi dapat dimaksimalkan sekaligus menekan risikonya.

Pandangan serupa disampaikan CEO OpenAI Sam Altman. Ia mendorong pembentukan standar keamanan AI melalui kerja sama internasional.
Menurut Altman, keputusan penting terkait perkembangan AI tidak semestinya hanya ditentukan perusahaan teknologi. Pemerintah dan masyarakat juga perlu dilibatkan dalam proses penentuan aturan dan standar pengamanan teknologi tersebut.

Sementara itu, pakar AI Yoshua Bengio, yang menjadi anggota panel ilmiah independen PBB mengenai AI, menyebut risiko yang ditimbulkan teknologi tersebut sebagai tantangan yang belum pernah dihadapi sebelumnya.
Ia menilai risiko AI bersifat lintas batas sehingga membutuhkan respons bersama dari negara-negara di dunia.

Pembahasan di Dewan Keamanan juga menyoroti perbedaan pendekatan Amerika Serikat dan China. Kedua negara merupakan kekuatan utama dalam pengembangan AI, tetapi memiliki kebijakan berbeda dalam mengatur teknologi tersebut.

Pemerintahan Presiden Amerika Serikat Donald Trump menolak gagasan memperlambat pengembangan AI secara luas dengan mempertimbangkan kepentingan teknologi dan persaingan dengan China. Sementara China telah menerapkan sejumlah aturan yang mengatur algoritma serta data yang digunakan untuk melatih sistem AI.

Isu AI bukan kali pertama dibahas Dewan Keamanan PBB. Forum tersebut sebelumnya telah membicarakan risiko AI pada 2023. Namun, pesatnya perkembangan teknologi membuat dampaknya terhadap keamanan internasional kembali menjadi perhatian.

Sekretaris Jenderal PBB António Guterres juga sebelumnya menyerukan pembentukan kerangka tata kelola AI multilateral yang dilengkapi pengawasan independen. Menurutnya, negara-negara perlu bekerja sama untuk memastikan AI berkembang secara aman dan bertanggung jawab.

Masuknya AI ke meja Dewan Keamanan menunjukkan perubahan besar dalam cara dunia memandang teknologi tersebut. AI tidak lagi sekadar isu inovasi dan ekonomi, tetapi juga berkaitan dengan keamanan internasional.

Ancaman serangan siber, penggunaan AI dalam kepentingan militer, hingga kemungkinan munculnya sistem yang semakin otonom menjadi sejumlah persoalan yang kini mendapat perhatian negara-negara anggota PBB.

Seiring perkembangan AI yang semakin cepat, perdebatan mengenai siapa yang berwenang mengaturnya dan seperti apa aturan internasional yang diperlukan diperkirakan akan terus mengemuka dalam diplomasi global.