timelinews.id - CEO Microsoft Satya Nadella mendorong pengembangan mekanisme pengaman yang memungkinkan sistem kecerdasan buatan (AI) dihentikan ketika menjalankan tugas berisiko. Usulan tersebut muncul di tengah meningkatnya perhatian terhadap kemampuan AI yang dapat mengambil tindakan secara mandiri.
Dalam unggahan pada 10 Oktober 2026, Nadella menekankan bahwa perusahaan tidak seharusnya memperlakukan sistem AI canggih sebagai teknologi yang selalu dapat dipercaya. Menurutnya, model AI perlu dilengkapi pembatasan akses, pemantauan, dan mekanisme pengendalian dari luar sistem.
“Kita harus menganggap sebuah model telah dikompromikan dan membatasinya sejak awal,” tulis Nadella dalam pernyataannya, sebagaimana dikutip TechCrunch pada 10 Oktober 2026. Ia mengibaratkan mekanisme tersebut seperti rem darurat yang memungkinkan pihak berwenang menghentikan AI di tengah pelaksanaan tugas.
Nadella juga menyoroti pentingnya pencatatan tindakan model yang dapat diperiksa manusia. Catatan tersebut diperlukan agar perusahaan dapat menelusuri keputusan yang diambil sistem ketika terjadi kesalahan atau insiden keamanan.
Pendekatan itu menjadi relevan seiring berkembangnya AI agent, yakni sistem yang tidak hanya menghasilkan teks, tetapi juga dapat menjalankan serangkaian tindakan melalui aplikasi, layanan, atau perangkat lunak yang terhubung.
Dalam lingkungan perusahaan, kemampuan tersebut dapat membantu otomatisasi pekerjaan. Namun, jika aksesnya tidak dibatasi dengan baik, kesalahan sistem berpotensi memengaruhi data, akun, atau proses operasional.
Usulan Nadella menempatkan pengawasan manusia sebagai bagian penting dari desain sistem AI. Mekanisme penghentian juga perlu didukung pembatasan hak akses, pencatatan aktivitas, dan prosedur pemulihan ketika sistem bertindak di luar kewenangannya.
Pernyataan tersebut merupakan usulan mengenai pengamanan AI, bukan pengumuman bahwa seluruh produk Microsoft telah menerapkan satu tombol penghentian universal.
