Penggunaan AI di perusahaan: apa yang perlu diatur?

Mulai dari pekerjaan, bukan daftar merek

Aturan penggunaan AI (kecerdasan buatan) perlu menjawab tiga hal: untuk pekerjaan apa, dengan data apa, dan siapa yang bertanggung jawab. Persetujuan memakai sebuah aplikasi belum tentu mencakup semua fitur, jenis data, atau tujuan penggunaannya.

Catat juga fitur peringkas rapat, pembantu penulisan, pencarian dokumen, dan asisten pemrograman yang sudah ada di aplikasi kerja. Fitur tersebut dapat memproses informasi perusahaan meskipun tim tidak membuka aplikasi AI terpisah.

Bedakan kewajiban dan pedoman

• Kewajiban hukum: jika menggunakan data pribadi, periksa UU PDP, termasuk dasar dan tujuan pemrosesan, keamanan, hak orang yang datanya digunakan, serta penilaian dampak. Kewajiban PSE dan aturan bidang usaha tetap perlu dinilai sesuai kegiatan.
• Pedoman etika: SE Menkominfo 9/2023 ditujukan kepada pelaku usaha pemrograman berbasis AI pada KBLI 62015 serta PSE publik dan privat. Bagian 2–3 menjelaskan tujuan dan cakupannya. Dokumen ini menjadi acuan etika; jangan menyebutnya sebagai undang-undang AI atau izin penggunaan data.
• Kerangka kerja: NIST AI RMF bersifat sukarela. Kerangka ini membantu membagi tanggung jawab, mengenali risiko, menguji hasil, dan menangani masalah. Panduan teknis tersebut bukan hukum Indonesia.

Pada pemeriksaan 27 September 2026, panduan ini belum memverifikasi naskah Perpres AI yang telah ditetapkan. Siaran pers Komdigi 28 Juli 2026 menyebut rancangan menunggu penetapan Presiden; berita itu tidak membuktikan status setelah tanggal tersebut. Karena itu, panduan ini tidak memakai rancangan tersebut sebagai dasar kewajiban.

Tentukan batas penggunaan yang mudah dipahami

Berikut contoh pembagian kebijakan internal, bukan kategori risiko resmi dari pemerintah:

Pekerjaan	Contoh keputusan internal
Membuat kerangka tulisan dari informasi publik	Boleh melalui alat yang disetujui, dengan pemeriksaan hasil
Merangkum dokumen klien atau rapat internal	Periksa klasifikasi data, izin penggunaan, kontrak dan pengaturan penyedia terlebih dahulu
Mengurutkan kandidat kerja atau menentukan kelayakan pelanggan	Tinjau dampak, dasar pemrosesan, aturan bidang usaha dan kewenangan pengambil keputusan sebelum dipakai
Mengirim pesan, mengubah data atau menjalankan kode secara otomatis	Batasi akses, tentukan tindakan yang perlu persetujuan petugas, dan siapkan cara menghentikannya

Jangan menganggap akun berbayar selalu aman untuk semua data. Periksa paket, fitur, pengaturan, dan ketentuan yang benar-benar berlaku. Lanjutkan ke pemeriksaan data dan vendor AI.

Periksa hasil sebelum digunakan

NIST AI 600-1 menjelaskan bahwa AI generatif dapat menghasilkan informasi salah yang disampaikan dengan meyakinkan. Sebagai langkah kerja, periksa fakta, angka, sumber, dan kesesuaian hasil dengan tugas. Untuk kode, lakukan peninjauan serta pengujian sebelum menjalankannya pada sistem kerja.

Tentukan pemeriksa yang memahami bidangnya dan dapat menolak hasil. Untuk penggunaan yang berdampak pada orang, sediakan cara mengajukan keberatan dan menindaklanjutinya. UU PDP Pasal 10 mengatur hak keberatan atas keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau dampak signifikan. Pasal 34 juga mengatur penilaian dampak untuk pemrosesan berpotensi berisiko tinggi.

Uji satu alur sebelum memperluas penggunaan

Contoh fiktif: tim layanan pelanggan ingin AI menyusun draf jawaban. Uji dengan pertanyaan buatan, tetapkan informasi yang boleh dimasukkan, dan minta petugas memeriksa jawaban sebelum dikirim. Catat kasus ketika AI memberi informasi salah atau mengusulkan tindakan di luar kewenangan petugas.

Simpan hasil uji, keputusan penggunaan, penanggung jawab, dan hal yang masih perlu diperbaiki. Tinjau ulang ketika fitur, penyedia, data, atau tujuan berubah. Gunakan panduan kebijakan internal dan checklist penggunaan AI untuk membagi pekerjaan.

Untuk materi di sektor jasa keuangan, baca juga aturan finfluencer dan konten keuangan.