AI Ngawur Nyaris Bikin Militer AS Hampir Perang sama China

Militer AS nyaris melancarkan operasi buat menghentikan sebuah kapal China di Timur Tengah, gara-gara laporan intelijen yang ternyata salah. Laporan itu dihasilkan dengan bantuan AI, dan chatbot yang dipakai salah mengenali muatan kapalnya.

Kejadian ini terjadi musim semi lalu dan bikin sejumlah pesawat militer sudah di udara sebelum operasinya dibatalkan.

Kronologinya singkat

Seorang analis di special operations command menyusun laporan soal kapal China yang katanya membawa komponen program senjata nuklir. Empat sumber bilang militer langsung bergerak menyiapkan rencana intersep, bahkan ada personel bersenjata yang siap naik ke kapal.

Baru menjelang operasi, pihak berwenang ngecek lebih dalam dan sadar laporan itu dibuat dengan bantuan AI. Chatbot yang dipakai salah mengidentifikasi material yang dibawa kapal. Satu sumber menyebut laporannya sepenuhnya palsu.

Bukan soal satu analis saja

Masalah intinya bukan cuma satu orang yang salah pakai AI. Ini soal sistem yang bikin output chatbot bisa naik jadi dasar keputusan tingkat tinggi tanpa lapisan verifikasi yang cukup. Di ranah militer dan intelijen, kesalahan kayak gini efeknya bisa luar biasa besar.

Situasinya makin runyam karena AI generatif sering ngasih jawaban dengan nada yakin, padahal isinya ngawur. Kalau nggak ada kebiasaan cross-check, halusinasi model gampang dianggap fakta.

Kalau AI bisa bikin satu kapal nyaris disergap karena salah baca muatan, bayangin dampaknya di skala yang lebih kecil tapi tetap penting. Verifikasi bukan penghambat, tapi justru yang nyelametin.

Sumber: Fake AI Intelligence Almost Made the US Military Start a War With China