Satya Nadella Serukan Arsitektur Kepercayaan Baru, Perlakukan Model AI Seperti Insider Risk
Reinald
11 Oktober 2026
2 menit baca
REDMOND, CLOVERTECHNO.ID - CEO Microsoft Satya Nadella menyerukan pembangunan arsitektur kepercayaan baru untuk era Super Intelligence. Dalam unggahan panjang di platform X pada Sabtu (10/10/2026), Nadella menekankan bahwa organisasi tidak boleh lagi memperlakukan model AI frontier sebagai kotak hitam bersarang.
Menurut Nadella, sistem perangkat lunak tradisional selama beberapa dekade terakhir masih memungkinkan penelusuran perilaku hingga ke jalur kode tertentu. Namun pemahaman mekanistik semacam itu tidak lagi tersedia pada sistem Super Intelligence saat ini, meskipun model frontier kini jauh lebih mampu.
“Kita tidak bisa mengalihkan tanggung jawab atas apa yang dilakukan kecerdasan atas nama kita. Jaminan dari penyedia model tidak melepaskan tanggung jawab tersebut,” tulis Nadella.
| Prinsip Utama | Penjelasan |
|---|---|
| Pemisahan Supply & Authority | Memisahkan pasokan kecerdasan dari wewenang mengendalikannya |
| Model sebagai Insider Risk | Memperlakukan model closed maupun open-weight seperti risiko orang dalam |
| Observability | Setiap aksi model harus meninggalkan bukti yang bisa diamati manusia |
| Containment | Asumsi model sudah terkompromi sejak awal, dengan tombol darurat |
| Independent Controls | Kontrol akses dan aksi berada di luar model |
Pendekatan Engineering untuk Containment
Nadella mengusulkan pendekatan engineering terhadap containment dan governance. Model non-deterministik perlu dikelilingi oleh desain sistem deterministik yang kuat, kontrol manusia, serta prosedur operasional yang andal.
Ia menekankan prinsip keamanan informasi lama sejak 1970-an: sebuah program tidak boleh mampu melewati atau mengubah mekanisme yang mengatur izinnya sendiri. Oleh karena itu, harness yang mengatur pekerjaan model serta ruang aksi yang menentukan apa yang bisa dilakukannya harus dipisahkan dari model itu sendiri.
Beberapa prinsip desain yang diusulkan meliputi diversitas model, observabilitas penuh, verifiability, kontrol independen, auditabilitas independen, containment sejak awal, serta pengungkapan insiden secara tepat waktu.
Pesan Utama
Nadella menutup unggahannya dengan pernyataan kunci: “Sistem Super Intelligence yang paling dapat dipercaya bukanlah yang memiliki model yang paling kita percayai. Melainkan sistem yang memungkinkan kita paling sedikit mempercayai model tersebut.”
Pernyataan ini menyoroti pentingnya membangun sistem AI yang dapat diamati, dibatasi, dan dikendalikan secara independen di tingkat organisasi, bukan hanya bergantung pada jaminan penyedia model.
Seiring semakin banyaknya perusahaan yang mengadopsi sistem agentic AI untuk mengakses data sensitif dan mengambil tindakan kritis, penerapan prinsip containment dan governance menjadi semakin mendesak. CloverTechno.id membantu organisasi merancang dan mengimplementasikan solusi perangkat lunak serta sistem AI yang aman, terkontrol, dan sesuai kebutuhan bisnis—mulai dari arsitektur sistem, kontrol akses, hingga mekanisme observability. Hubungi tim CloverTechno untuk konsultasi lebih lanjut.
