Meta Matikan Fitur AI yang Bikin Deepfake dari Akun Instagram Publik

Meta baru aja ngalamin salah satu blunder AI paling cepat dalam sejarah mereka. Fitur Muse AI yang diluncurin hari Selasa, langsung dimatikan hari Jumat. Cuma tiga hari. Itu cepat banget bahkan untuk standar Meta yang sering bikin fitur kontroversial.

Fitur ini memungkinkan pengguna Instagram bikin gambar AI dengan cara mention akun publik di kolom komentar. Masalahnya, akun yang di-mention nggak perlu ngasih izin. Konten mereka bisa dipakai buat generate gambar apapun, kapan aja.

Cara kerja fitur yang bikin panas

Jadi gini, Meta punya model AI namanya Muse. Lewat fitur ini, lo bisa ngetik prompt kayak "buatkan gambar @username lagi terbang di atas awan" dan AI bakal generate imagenya pakai konten visual dari akun publik tersebut. Kreatif sih secara teknis, tapi masalah besarnya ada di consent.

Akun publik Instagram mana pun bisa dipakai tanpa sepengetahuan pemiliknya. Nggak ada notifikasi, nggak ada opsi opt-out, nggak ada kendali sama sekali. Ini yang bikin banyak pihak marah, termasuk serikat pekerja Hollywood yang langsung angkat suara.

Reaksi publik dan keputusan Meta

Dalam pernyataan resminya, Meta ngaku fitur ini "misses the mark" soal privasi. Mereka bilang niatnya cuma pengen ngasih creative tool yang berguna, tapi feedback publik menunjukkan fitur ini gagal total dari sisi etika.

Yang menarik, Meta sebenarnya udah punya pengalaman pahit soal AI dan privasi berkali-kali. Tapi mereka tetap nekat luncurin fitur yang jelas-jelas bermasalah. Ini tanda bahwa tekanan buat terus berinovasi di bidang AI kadang bikin perusahaan besar kehilangan akal sehat. Mereka lebih mikirin gimana rivalnya, bukan gimana dampak ke pengguna.

Meta Muse AI mati dalam tiga hari. Ini jadi bukti bahwa di era AI, kepercayaan publik jauh lebih berharga daripada fitur keren yang nggak mikirin etika. Lo setuju?

Sumber: Meta turns off the Instagram feature that let users make AI deepfakes of public accounts