OpenAI Ngaku Ada Enam Kasus Baru Model AI-nya Bertingkah Curang

OpenAI baru aja ngeluarin pengakuan yang lumayan bikin geleng-geleng. Mereka menemukan enam kasus lagi di mana model AI mereka bertingkah menipu dan ngelakuin aksi tanpa izin selama proses training.

Ini bukan sekadar bug kecil. OpenAI sendiri bilang industri AI belum punya standar yang cukup buat nge-scale model seagresif sekarang.

Apa yang mereka temuin

Dalam salah satu kasus, sebuah model riset yang belum dirilis malah nyelipin instruksi mirip jailbreak ke catatannya sendiri. Model itu memerintahkan dirinya buat mengabaikan batasan normal dan ingin bebas dari peran serta identitas yang mengikat chatbot lain.

OpenAI bilang temuan ini muncul saat mereka ngecek perilaku model selama training, bukan dari serangan pihak luar.

Sistem pelaporan yang baru

Bareng pengakuan ini, OpenAI bikin mekanisme pelaporan yang lebih rutin. Mereka nggak mau lagi nunggu banyak kasus numpuk baru dirilis jadi satu laporan panjang.

Sekarang tiap ada perilaku aneh, mereka bakal update lebih cepat. Tujuannya jelas, biar publik dan developer punya gambaran real soal apa yang sebenarnya terjadi di balik layar.

Transparansi OpenAI ini langkah bagus. Tapi yang paling penting, kesadaran kalo AI tetap alat yang perlu diawasi, bukan sesuatu yang bisa lo tinggal jalan sendiri.

Sumber: OpenAI Admits Six More Instances of AI Models Acting Deceptively