![]() |
Melalui Inisiatif Transparansi AI yang baru, Microsoft bekerja sama dengan lebih dari 40 organisasi, termasuk Accenture, Adobe, KPMG, Mastercard, dan Volvo Cars, untuk mendorong pendekatan bersama terhadap transparansi, keamanan, dan tata kelola AI di seluruh model dan penyedia. Microsoft juga akan meningkatkan visibilitas mengenai cara model dan agen AI berinteraksi dengan data perusahaan di seluruh produk dan layanannya
REDMOND, Wash., 20 November 2026 /PRNewswire/ — Organisasi dapat mengamati sebagian besar aktivitas di sekitar model AI, tetapi sering kali tidak dapat merekonstruksi apa yang terjadi antara suatu permintaan dan hasil sehingga sulit untuk memverifikasi perilaku model secara independen. Dalam acara Microsoft Ignite pada Selasa, Ketua Dewan Direksi dan CEO Microsoft, Satya Nadella, mengumumkan fase berikutnya dari komitmen Microsoft untuk menjadikan AI lebih aman: Inisiatif Transparansi AI, yaitu suatu inisiatif kolaboratif bersama pelanggan dan mitra untuk membangun pendekatan terbuka yang sama terhadap keamanan dan tata kelola di seluruh model dan penyedia. Inisiatif ini mencerminkan prinsip sederhana: Semakin besar otonomi AI, semakin besar pula transparansi yang dibutuhkan.
"Agar kontrol keamanan berjalan efektif, setiap organisasi membutuhkan transparansi yang lebih besar terhadap model itu sendiri," ujar Hayete Gallot, Wakil Presiden Eksekutif, Microsoft Security. "Melalui upaya ini, kami akan meningkatkan transparansi ke semua model. Ini adalah langkah penting untuk menjadikan pembatasan dampak ancaman (containment) lebih cerdas dan lebih kuat, sehingga kami dapat mendukung akuntabilitas dan keterlacakan dengan lebih baik."
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Perusahaan kini menghubungkan model AI ke data, perangkat, kredensial, dan infrastruktur, sehingga agen dapat mengambil tindakan tanpa memerlukan persetujuan manusia pada setiap langkah. Kontrol yang ada saat ini dapat mengamati sebagian besar aktivitas di sekitar model AI, tetapi tidak dapat melihat apa yang terjadi di dalamnya atau secara independen memverifikasi laporan model atas perilaku mereka sendiri. Hal ini membatasi kemampuan organisasi untuk memahami konteks di balik tindakan agen. Kesenjangan bukti tersebut menimbulkan risiko keamanan, kepatuhan, audit, dan akuntabilitas. Tim keamanan membutuhkan arsitektur kepercayaan baru untuk mengatasi peningkatan risiko dari orang dalam yang ditimbulkan oleh agen AI yang kian canggih.
"Seiring dengan kian terintegrasinya agen AI ke dalam operasi perusahaan, tim keamanan perlu visibilitas yang jelas tentang apa saja yang diakses oleh agen tersebut, tindakan apa yang dilakukannya, dan bagaimana tindakan tersebut dapat diverifikasi," terang Aanchal Gupta, Direktur Keamanan, Adobe. "Membangun pendekatan bersama terhadap transparansi AI di seluruh industri sangat penting demi memperkuat kepercayaan dan membantu organisasi berinovasi dengan penuh keyakinan, sambil menjaga keamanan dan akuntabilitas."
Dari prinsip menuju penerapan
Inisiatif ini terdiri atas tiga bagian. Pertama, Microsoft akan memperluas partisipasinya dalam Inisiatif Standar Agen SI (SI Agent Standards Initiative) yang digagas oleh National Institute of Standards and Technology dan memanfaatkan penelitiannya untuk mengembangkan standar terbuka di seluruh industri terkait transparansi, keamanan, dan tata kelola AI. Kedua, Microsoft berkolaborasi dengan lebih dari 40 organisasi, termasuk Accenture, Adobe, KPMG, Mastercard, dan Volvo Cars, untuk membantu mengembangkan standar terbuka bagi sistem AI yang akuntabel, dapat diverifikasi secara independen, dan dirancang dengan mengutamakan keamanan, terlepas dari model atau penyedianya.
Ketiga, Microsoft akan mengintegrasikan upaya ini ke dalam Microsoft AI, Microsoft Foundry, dan Microsoft Copilot, sehingga pelanggan dapat menggunakan bukti yang dihasilkan bersama perangkat keamanan dan kepatuhan mereka, baik yang berasal dari Microsoft atau penyedia lain.
"Klien kami ingin mempercepat pemanfaatan AI dan mereka seharusnya tidak perlu memilih antara inovasi dan keamanan," tutur John Israel, Direktur Keamanan Informasi Global, KPMG International. "Kepercayaan terhadap AI membutuhkan transparansi, kemampuan untuk menjelaskan, dan pengawasan yang bertanggung jawab. Kami bangga dapat bekerja sama dengan Microsoft dalam Inisiatif Transparansi AI untuk membantu menetapkan standar terbuka di seluruh industri yang memberikan organisasi visibilitas dan kontrol yang dibutuhkannya agar dapat menerapkan AI secara bertanggung jawab dalam skala besar."
Akuntabilitas yang jelas
Agen yang memiliki akses ke data, perangkat, dan kredensial membawa profil risiko yang sama dengan orang dalam yang memiliki hak istimewa. Namun, agen AI beroperasi dengan kecepatan dan skala mesin sehingga pengawasan independen menjadi sangat penting.
Akuntabilitas tetap berada di tangan organisasi. Ketika terjadi sesuatu yang berdampak besar, para pemimpin harus mempertanggungjawabkannya kepada pelanggan, karyawan, dewan direksi, auditor, dan regulator. Menyalahkan AI bukanlah jawaban, dan semata-mata "percaya pada model" bukanlah bentuk kontrol.
Inisiatif ini dirancang agar dapat diterapkan di berbagai model dan penyedia, termasuk model tertutup dan model dengan bobot terbuka (open weight). Dengan demikian, tim pengembang dapat mengubah atau memperbarui model yang mendukung agen mereka tanpa mengorbankan kemampuan tim TI dan keamanan dalam mengelolanya dengan aman ataupun kemampuan tim kepatuhan dalam mengaudit tindakan agen tersebut.
"Ketika organisasi mengambil langkah selanjutnya dalam reinvensi AI mereka, dibutuhkan fondasi kepercayaan dan keyakinan yang kuat sebagai landasan untuk berkembang," tegas Harpreet Sidhu, kepala bidang keamanan siber global, Accenture. "Inisiatif seperti yang digagas Microsoft ini dalam mengambil pendekatan terbuka, yang didorong oleh industri untuk transparansi AI dapat membantu upaya kami mengamankan model AI dan melengkapinya dengan mekanisme kontrol dan tata kelola. Accenture bangga dapat bermitra dengan Microsoft dan para pemimpin lainnya di ranah ini."
Lihat, verifikasi, kendalikan
Microsoft meyakini bahwa setiap organisasi harus mampu melihat apa yang diakses dan apa yang dilakukan oleh sistem AI, memverifikasi tindakan mereka secara independen, dan mengontrol apa saja yang diizinkan untuk dilakukan.
- Lihat: Ketahui apa yang diminta dan diizinkan untuk dilakukan oleh AI, model dan runtime mana yang digunakan, data dan perangkat apa yang diakses, serta tindakan apa yang dilakukannya. Pantau aktivitas agen dan sinyal risiko secara terus-menerus berdasarkan kebijakan dan ambang batas.
- Verifikasi: Agen tidak dapat menjadi satu-satunya sumber kebenaran tentang perilakunya sendiri, dan model AI terdepan tidak dapat dipercaya untuk mengawasi dirinya sendiri. Bukti yang mencakup identitas agen, maksud yang didelegasikan, dan tindakan yang dilakukan harus mengidentifikasi sumbernya (model, runtime yang menjalankannya, atau sistem independen seperti identitas dan kebijakan) sehingga sinyal yang dilaporkan oleh model dapat diperiksa silang dengan catatan yang diamati secara independen. Organisasi harus dapat memverifikasi aktivitas AI secara independen menggunakan sistem keamanan dan kepatuhan mereka sendiri, tanpa hanya mengandalkan laporan penyedia model tentang perilaku model tersebut.
- Kontrol: Tetap kendalikan tindakan apa saja yang diizinkan untuk dilakukan AI. Bukti yang jelas tentang tujuan, pemilik, data, dan otoritas yang didelegasikan untuk setiap alur kerja membantu organisasi menegakkan kebijakan mereka sebelum tindakan yang berdampak besar dilakukan dan merekonstruksi apa yang terjadi selama investigasi, penahanan, pemulihan, dan audit. Bukti tersebut harus tetap berada dalam kendali organisasi ketika model dan penyedia berubah. Organisasi harus tetap mempertahankan kontrol atas data yang dapat diakses agen mereka dan bagaimana akses tersebut dikelola, terlepas dari model atau penyedianya.
Mari berpartisipasi
Organisasi yang tertarik untuk turut membantu membentuk inisiatif ini atau mengikuti perkembangannya dapat mempelajari selengkapnya dan mendaftarkan diri di aka.ms/learnmoreAItransparency.
Ikuti berita dari Microsoft Ignite, tempat Microsoft dan para pemimpin industri akan berbagi wawasan mengenai cara organisasi mengelola model dan agen AI dengan penuh keyakinan. Informasi lebih lanjut tersedia di blog Microsoft Security.






