AI generatif dapat mempercepat penyusunan dokumen, analisis awal, layanan pelanggan, dan pekerjaan kreatif. Namun penggunaan tanpa aturan dapat membawa risiko kebocoran data, hasil yang keliru, bias, ketidakjelasan hak cipta, serta keputusan yang sulit dipertanggungjawabkan.

Tata kelola tidak bertujuan menghentikan eksperimen. Tujuannya adalah memastikan setiap penggunaan memiliki pemilik, tujuan, batas data, metode evaluasi, dan pengawasan manusia yang sebanding dengan risikonya.

AI perlu dikelola sepanjang siklus hidup

NIST AI RMF menggunakan pendekatan Govern, Map, Measure, dan Manage. Organisasi dapat menerjemahkannya menjadi kebijakan, pemetaan konteks, pengujian hasil, serta pengendalian risiko sebelum dan setelah sistem digunakan.

Pisahkan penggunaan berisiko rendah seperti ide awal dari penggunaan berdampak tinggi seperti keputusan kredit, kesehatan, hukum, atau kepegawaian.

Sementara itu, tentukan informasi apa yang boleh diproses dan larang data pribadi, rahasia dagang, atau kredensial masuk ke layanan yang tidak disetujui.

Evaluasi kualitas hasil

Gunakan data uji, kriteria penerimaan, pemeriksaan fakta, dan pengawasan manusia. Catat kegagalan agar model atau proses dapat diperbaiki.

Dalam praktiknya, pengguna perlu mengetahui kapan konten dibantu AI, batas kemampuannya, dan siapa yang bertanggung jawab atas keputusan akhir.

Agar tidak berhenti pada rencana, tim perlu membuat daftar penggunaan AI yang sudah berjalan dan menetapkan pemilik bisnis, teknis, keamanan, dan kepatuhan. Setelah itu, tim dapat memulai pilot terbatas dengan data yang aman. Upaya untuk mengukur manfaat, kesalahan, dan risiko sebelum memperluas penggunaan dibutuhkan agar penerapannya tetap terkendali.

Untuk melihat hasil penerapan, pengelola perlu memeriksa sejumlah kondisi: kasus penggunaan disetujui, data sensitif dibatasi, output diperiksa manusia, vendor dan retensi data ditinjau serta insiden AI memiliki jalur pelaporan. Hasil pemeriksaan berkala akan menunjukkan bagian yang masih membutuhkan perhatian.

AI generatif memberi nilai ketika ditempatkan pada proses yang tepat dan diawasi secara konsisten. Tata kelola yang jelas membuat inovasi lebih aman dan lebih mudah dipertanggungjawabkan.

Rujukan redaksi: NIST AI Risk Management Framework.