Profiling dan keputusan otomatis: periksa data, dampak, dan hak pengguna

Periksa keputusan, bukan hanya nama teknologinya

Pemrofilan menyusun penilaian tentang seseorang dari data; keputusan otomatis menggunakan hasil pengolahan untuk menentukan tindakan. Dalam contoh bisnis, skor dapat memengaruhi siapa yang mendapat penawaran, lolos penyaringan awal atau dibatasi aksesnya. Penjelasan ini membantu memetakan pekerjaan, bukan menggantikan batas ketentuan UU.

Pasal 10 ayat (1) UU PDP memberi hak mengajukan keberatan terhadap keputusan yang hanya didasarkan pada pemrosesan otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau dampak signifikan. Tidak semua rekomendasi layar memenuhi kondisi tersebut; periksa akibat dan cara keputusan benar-benar dibuat.

Aturan itu tidak terbatas pada AI. Sistem berbasis aturan sederhana juga bisa memutuskan secara otomatis. Sebaliknya, adanya AI belum membuktikan suatu keputusan sepenuhnya otomatis.

Catat alur dari data ke tindakan

Libatkan pemilik kegiatan, tim produk/IT, pemeriksa kewajiban dan DPO bila ada. Buat catatan yang menjawab:

• Data berasal dari mana, apakah benar, dan untuk tujuan apa digunakan?
• Dasar pemrosesan apa yang mendukung kegiatan tersebut?
• Bagaimana skor atau kelompok dibentuk, dan apa yang belum diketahui tentang caranya?
• Tindakan apa yang terjadi setelah skor keluar: saran, penolakan, pembatasan atau pemeriksaan lanjutan?
• Siapa dapat mengoreksi data, membatalkan tindakan dan menangani keberatan?

Nama jabatan “reviewer” belum membuktikan ada tinjauan. Periksa apakah orang itu mempunyai informasi, waktu dan kewenangan untuk mengubah hasil, atau hanya menekan tombol setuju. Jangan menyimpulkan bahwa langkah manusia formal otomatis membuat Pasal 10 tidak relevan.

Nilai dampak dan pemicu DPIA

Pasal 34 memuat pemicu risiko tinggi, termasuk keputusan otomatis yang memiliki akibat hukum atau dampak signifikan, serta evaluasi, penskoran atau pemantauan sistematis. Kondisi hak keberatan Pasal 10 dan pemicu DPIA Pasal 34 perlu diperiksa masing-masing; daftar risiko tinggi tidak berhenti pada keputusan yang sepenuhnya otomatis.

Catat dampak bagi orang: kehilangan kesempatan, kesalahan pembatasan, kesulitan memperbaiki data, atau paparan informasi sensitif. Bandingkan dengan alternatif yang memakai lebih sedikit data atau keputusan bertahap. Gunakan panduan DPIA dan worksheet penilaian.

Contoh: penyaringan pelamar kerja

Contoh fiktif: aplikasi memberi skor dari CV, lalu menolak pelamar di bawah batas tanpa pemeriksaan lain. Tim belum mengetahui apakah dokumen yang gagal terbaca mendapat skor rendah yang sama dengan pelamar yang tidak memenuhi syarat.

Temuan	Keputusan kerja contoh
Format CV memengaruhi skor	Pisahkan kegagalan membaca dokumen dari penilaian kemampuan; uji dengan dokumen buatan
Data lama atau tidak tepat ikut dinilai	Siapkan koreksi dan pemeriksaan sumber sebelum memakai skor
Penolakan berlangsung otomatis	Nilai dampak serta kondisi Pasal 10 dan 34; jangan meluncurkan hanya karena vendor menyebutnya objektif
Petugas tidak dapat mengubah hasil	Tetapkan kewenangan pemeriksaan dan koreksi yang nyata sebelum mengandalkannya sebagai pengaman

Simpan pertanyaan terbuka, perubahan yang diperlukan dan pemilik keputusan. Tabel ini bukan kesimpulan bahwa seluruh penggunaan skor pelamar dilarang atau dibolehkan.

Siapkan keberatan dan bukti tindak lanjut

Sebagai rancangan kerja, sediakan kanal yang dapat ditemukan, referensi keputusan, verifikasi identitas yang proporsional, petugas pemeriksa, hasil dan cara memberitahukannya. Pengguna tidak perlu memahami nama model untuk menyampaikan bahwa datanya salah atau keputusan merugikannya.

Petugas sebaiknya dapat melihat data masukan dan versi aturan/model yang relevan, membedakan fakta dari perkiraan, serta mencatat alasan mempertahankan atau mengubah keputusan. Batasi akses dan jangan membuka data orang lain ketika menjelaskan hasil.

Pasal 10 ayat (2) menyerahkan ketentuan lebih lanjut pada PP; artikel ini tidak menetapkan tenggat atau prosedur keberatan resmi yang belum diverifikasi. Baca alur hak data untuk konteks dan catatan UU PDP untuk batas verifikasi aturan pelaksanaan. Untuk fitur AI, lanjutkan ke evaluasi sebelum penggunaan.