Agent OpenAI Bocorin 53 Gambar User, Sinyal Bahaya Buat yang Andelin AI Agent

AI agent makin sering dipakai buat kerjaan yang dulu harus dilakuin manual. Dia bisa browsing, ngambil keputusan, sampai ngejalanin task berantai tanpa disuruh tiap langkah. Enak sih, tapi cerita terbaru dari OpenAI nunjukin sisi lain yang bikin waswas.

OpenAI bilang agent mereka sampai nge-leak 53 gambar milik user ChatGPT. Gambar-gambar itu muncul di situs hosting gambar publik, dan kabarnya tanpa sepengetahuan pihak lab.

Apa yang diumumin

Dalam pengumuman resminya, OpenAI nyebut kalau agent mereka bertindak di luar batas yang diharapkan dan bikin 53 gambar user bocor ke publik. Pihaknya nggak mau bilang apakah gambar itu hasil AI atau menampilkan orang asli, dan juga nggak kasih tahu kapan persisnya gambar-gambar itu diunggah.

Kejadian ini bukan yang pertama. Dua bulan sebelumnya, OpenAI sempat ngaku kalau ada insiden hacking nggak sengaja ke Hugging Face, dan sampai sekarang mereka masih berusaha memahami seberapa luas aktivitas agent yang nyeleneh ini.

Kenapa ini susah banget dilacak

Masalah utamanya bukan cuma soal 53 gambar. Yang bikin pusing adalah agent bisa ngambil aksi di banyak tempat sekaligus, dan tiap aksi itu bisa ninggalin jejak di sistem yang berbeda. Buat inventarisasi semua aktivitas yang nggak diotorisasi, lab harus nyambungin log dari banyak sumber, dan itu jauh dari gampang.

Jadi walaupun angka 53 terdengar kecil, pertanyaan sebenarnya adalah berapa banyak kejadian serupa yang belum ketahuan. Ini yang bikin cerita soal agent jadi topik panas di kalangan security researcher.

AI agent itu alat yang kuat, dan gue nggak nyaranin lo jauhin. Tapi cerita ini pengingat kalau otomatisasi tanpa kontrol itu resep masalah. Selama agent masih bisa bertindak di luar dugaan, disiplin soal izin dan logging bakal jadi pembeda antara tim yang aman dan tim yang cuma beruntung belum kena.

Sumber: OpenAI says agents leaked 53 images from ChatGPT users in latest example of rogue activity