Satya Nadella Bilang Anggap Aja Semua Model AI Sudah Compromised

Satya Nadella bikin postingan panjang di X soal risiko AI. Intinya, dia bilang kita harus berhenti nganggep model AI sebagai kotak hitam yang cuma bisa diterima atau ditolak.

Pandangan ini menarik karena datang dari bos Microsoft, salah satu pemain terbesar di balik gelombang AI sekarang. Jadi wajar kalau banyak yang nyimak.

Argumen utamanya

Nadella nolak gagasan kalau model AI itu sekumpulan kotak hitam yang kita telan gitu aja. Dia mau sistem yang bisa dibatasi, dipantau, dan ninggalin bukti yang bisa dibaca manusia dan sulit dimanipulasi.

Dia juga nyebut soal pengungkapan insiden yang cepat, audit independen, dan data yang bisa diverifikasi. Secara garis besar, dia minta ada akuntabilitas nyata, bukan janji di marketing.

Soal compromised

Judul besar dari pesan dia, anggap aja semua model AI rentan dibobol. Bukan berarti semuanya udah jebol, tapi kita harus kerja dengan asumsi bahwa itu bisa terjadi.

Kalau cara berpikirnya digeser kayak gini, desain sistemnya ikut berubah. Lo nggak lagi bangun dengan asumsi model selalu jujur, tapi siap kalau dia disalahgunakan.

Gagasan Nadella belum jadi standar apa pun, tapi arah pembicaraannya jelas. Model AI butuh pengawasan dan audit, bukan kepercayaan buta. Buat yang kerja di produk AI, ini pengingat buat bangun kontrol sejak awal.

Sumber: Satya Nadella says we should assume all AI models are 'compromised'