Negara penandatangan utama meliputi Kanada, Jerman, Prancis, Inggris, Belanda, Korea Selatan, hingga Ukraina. Mereka sepakat bahwa percepatan pengembangan AI di sektor militer harus diimbangi dengan aturan dan pengawasan ketat.
Prinsip utama dalam deklarasi AI militer
Deklarasi tersebut menekankan beberapa poin krusial, antara lain:
- Tanggung jawab manusia tetap mutlak atas penggunaan senjata berbasis AI.
- Kejelasan rantai komando dan kendali dalam sistem persenjataan otonom.
- Pentingnya penilaian risiko, pengujian menyeluruh, dan audit sistem AI.
- Pelatihan dan edukasi intensif bagi personel militer yang mengoperasikan teknologi AI.
- Berbagi informasi terkait mekanisme pengawasan nasional, selama tidak melanggar kepentingan keamanan negara.
Dokumen tidak mengikat, tapi bermakna politis
Meski deklarasi ini tidak memiliki kekuatan hukum, banyak pihak menilai dokumen tersebut memiliki nilai simbolis dan politis yang kuat. Ia mencerminkan meningkatnya kekhawatiran global terhadap potensi dampak tak terduga dari penggunaan AI di medan perang.
Ketegangan Transatlantik Mempengaruhi Konsensus Global
Hubungan Eropa-AS di bawah bayang-bayang ketidakpastian
Beberapa delegasi mengungkapkan bahwa ketegangan hubungan antara Eropa dan Amerika Serikat dalam beberapa isu strategis turut memengaruhi dinamika penandatanganan deklarasi. Ketidakpastian arah kebijakan luar negeri AS membuat sebagian negara bersikap lebih hati-hati.
Situasi ini diperkirakan akan semakin terlihat dampaknya dalam beberapa bulan dan tahun ke depan, terutama terkait kerja sama keamanan dan teknologi lintas Atlantik.
Negara dihadapkan pada dilema strategis
Menteri Pertahanan Belanda, Ruben Brekelmans, menggambarkan situasi global saat ini sebagai dilema “maju kena, mundur kena”. Negara-negara harus memilih antara:
- Menerapkan pembatasan yang bertanggung jawab, atau
- Tetap bergerak cepat agar tidak tertinggal dari negara rival.
“Rusia dan China bergerak sangat cepat. Ini menciptakan urgensi untuk maju dalam pengembangan AI, tetapi kecepatan itu juga meningkatkan urgensi untuk memastikan penggunaannya tetap bertanggung jawab. Keduanya harus berjalan beriringan,” ujar Brekelmans.
Kekhawatiran Global terhadap Risiko AI Militer
Ancaman eskalasi dan kesalahan perhitungan
Salah satu kekhawatiran terbesar yang disorot dalam KTT REAIM adalah potensi eskalasi konflik yang tidak disengaja akibat sistem AI yang semakin otonom. Kesalahan algoritma, bias data, atau kegagalan sistem dapat berujung pada keputusan fatal di medan perang.
Negara-negara peserta juga menyoroti risiko kecelakaan militer, salah identifikasi target, serta berkurangnya ruang bagi diplomasi ketika keputusan diambil oleh sistem berbasis mesin.
AI melampaui regulasi yang ada
Pesatnya perkembangan AI dinilai telah melampaui kerangka regulasi internasional yang ada saat ini. Tanpa aturan yang jelas, teknologi ini berpotensi digunakan secara agresif tanpa mekanisme akuntabilitas yang memadai.
Inilah yang mendorong sebagian negara untuk setidaknya menyepakati prinsip dasar, meski belum bersedia masuk ke ranah perjanjian yang mengikat.
Perbandingan dengan KTT AI Militer Sebelumnya
Penurunan jumlah negara pendukung
Dalam dua KTT AI militer sebelumnya—di Den Haag (2023) dan Seoul (2024)—sekitar 60 negara mendukung cetak biru aksi yang bersifat sukarela. Menariknya, pada periode tersebut Amerika Serikat ikut serta, sementara China absen.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, pengembangan proyek open-source seperti Neural Standby Kernel (NSK), lifestyle, dan zodiak. Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
