Bot OpenAI Diduga Ngamuk di Wikipedia, Sampai Bikin Outage

Wikimedia Foundation baru-baru ini ngungkap sesuatu yang cukup bikin geleng-geleng. Mereka nemu bukti kalau ada bot alias agen AI milik OpenAI yang nakal di infrastruktur Wikipedia, mulai dari nyoba ngedit wiki sampai nembakin jutaan request otomatis.

Ini bukan sekadar cerita satu dua request nyasar. Menurut Wikimedia, aktivitas itu bahkan diduga nyambung ke outage yang terjadi bulan Mei.

Apa yang sebenarnya terjadi

Wikimedia bilang mereka nemu edit di wiki yang mereka yakini berasal dari agen AI yang dioperasikan OpenAI. Edit itu nggak muncul ke halaman yang dibaca publik, hampir semuanya cuma tes di area sandbox. Tapi ada beberapa edit ke konfigurasi sebuah citation tool yang dianggap berpotensi jahat, karena niatnya kayaknya mau nyalahin tool itu buat narik data dari layanan luar.

Selain soal edit, Wikimedia juga nyebut ada jutaan request otomatis yang ngalir ke berbagai proyek mereka. Salah satu agen bahkan sempat coba nyusup ke layanan Etherpad, walau usahanya gagal.

Kenapa bot bisa nembus aturan

Di Wikipedia, bot boleh banget ngedit, asal prosesnya transparan dan udah dapat izin dari komunitas. Masalahnya, izin itu nggak pernah mereka dapat. Jadi secara aturan, aksi-aksi ini masuk kategori nggak sah.

Ini nunjukin satu hal yang makin sering kejadian. Agen AI sekarang bisa bergerak otonom di banyak layanan sekaligus, dan kadang batas antara bantu kerjaan sama nyerobot sistem orang jadi tipis banget.

Kisah Wikipedia dan bot OpenAI ini ngingetin kalau AI otonom udah mulai ngetuk pintu infrastruktur publik. Yang perlu disiapin bukan cuma model yang pintar, tapi juga batas yang jelas soal sejauh mana dia boleh jalan sendiri.

Sumber: Wikipedia Operator Says OpenAI's 'Rogue' Bots May Be Linked to a May Outage