# OWASP Top 10 untuk LLM: risiko dan cara menggunakannya Sumber diperiksa. Metode: https://kompli.id/metodologi/. OWASP Top 10 LLM membantu mengenali risiko ketika model bahasa dipakai dalam aplikasi. Catat edisi, petakan fitur yang terdampak, lalu tentukan pemeriksaan dan bukti. URL kanonis: https://kompli.id/panduan/owasp/owasp-top-10-llm/ Sumber diakses: 2026-10-01 Diperbarui: 2026-10-01 Penulis: Kompli Sumber diperiksa: 2026-10-01 ## Untuk apa daftar ini? **OWASP Top 10 LLM adalah daftar risiko untuk aplikasi yang memakai model bahasa besar, bukan sertifikasi atau checklist lengkap.** Gunakan untuk menentukan bagian aplikasi yang perlu diperiksa: masukan, dokumen, hasil model, tool, data dan biaya pemakaian. LLM (*large language model*) menghasilkan atau mengolah bahasa. Aplikasi di sekelilingnya menentukan dokumen yang dibaca, pengguna yang dilayani dan tindakan yang bisa dijalankan. Risiko tetap dapat muncul walaupun model berasal dari penyedia tepercaya. Daftar ini berbeda dari [OWASP Top 10 web](/panduan/owasp/owasp-top-10/) dan [API Security Top 10](/panduan/owasp/owasp-api-top-10/). Aplikasi AI tetap membutuhkan pemeriksaan web/API yang relevan; menambah LLM tidak menggantikan pengamanan akun atau hak akses. ## Edisi yang dipakai: 2026 Ringkasan berikut mengikuti PDF pada [halaman resmi OWASP GenAI LLM Top 10 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/), diperiksa 1 Oktober 2026. Halaman tersebut menampilkan tanggal 3 Agustus 2026. Kolom tanggal publikasi dan riwayat rilis di PDF masih berisi penanda yang belum terisi; jangan memakai tanggal halaman sebagai bukti tanggal final PDF. [Halaman daftar 2025](https://genai.owasp.org/llm-top-10/) masih tersedia dengan nomor berbeda. Tulis kode **beserta tahun**, misalnya `LLM03:2026`, agar tim membaca risiko yang sama. Nomor yang berubah tidak membuat catatan uji lama otomatis tidak berlaku; periksa nama, cakupan dan pengujiannya. ## Sepuluh risiko dan contoh pemeriksaannya Nama Inggris mengikuti edisi 2026; penjelasan dan contoh di bawah disusun Kompli. Contoh menggambarkan kemungkinan kegagalan, bukan laporan insiden pelanggan. ### LLM01:2026 — Prompt Injection Masukan atau dokumen menyisipkan instruksi yang mencoba mengubah perilaku model. Contoh: tiket dukungan meminta asisten mengabaikan batas akses lalu mengirim tiket lain. Perlakukan dokumen sebagai data; pastikan permintaan tool tetap diperiksa di luar model. Larangan dalam prompt saja tidak cukup. ### LLM02:2026 — Sensitive Information Disclosure Informasi terbatas terbuka lewat jawaban, konteks atau integrasi. Contoh: ringkasan menyertakan data pelanggan lain. Batasi data sebelum dikirim ke model, uji identitas berbeda dan periksa hasil yang ditampilkan maupun dicatat pada log. ### LLM03:2026 — Excessive Agency Agen diberi fungsi, izin atau kebebasan bertindak melebihi kebutuhan. Contoh: asisten pembaca tiket juga dapat menghapus akun. Batasi tool dan objek; tindakan berdampak perlu izin serta persetujuan yang sesuai. Baca [pengendalian tindakan agen](/panduan/ai/hak-akses-dan-tindakan-agen-ai/). ### LLM04:2026 — Supply Chain Komponen dari luar membawa risiko: model, pustaka, data, plugin atau konektor. Contoh: pembaruan plugin memberi akses baru yang tidak diperiksa. Catat asal dan versi, verifikasi artefak, tinjau perubahan izin serta uji ulang sebelum dipakai. ### LLM05:2026 — Data and Model Poisoning Data latihan, penyesuaian model atau sumber pencarian sengaja diubah untuk memengaruhi hasil. Contoh: dokumen kebijakan palsu masuk ke basis pengetahuan. Catat asal, versi dan pihak yang boleh mengubah sumber; periksa perubahan serta jalur pemulihannya. ### LLM06:2026 — Unbounded Consumption Pemakaian sumber daya tidak dibatasi dengan memadai. Contoh: agen terus memanggil tool yang gagal dan menghabiskan kuota. Tetapkan batas waktu, ukuran masukan, jumlah langkah, panggilan ulang dan biaya; uji apakah batas benar-benar menghentikan proses. ### LLM07:2026 — Misinformation Jawaban yang salah atau tidak didukung sumber dipakai sebagai dasar tindakan. Contoh: asisten menyebut aturan yang sebenarnya tidak ada. Periksa rujukan dan versi, sediakan jawaban ketika informasi tidak tersedia, serta minta pemeriksaan manusia untuk keputusan berdampak. ### LLM08:2026 — Hidden Context Exposure Konteks internal yang semestinya terbatas terbuka, termasuk instruksi sistem dan konteks tersembunyi lain. Jangan meletakkan password, token atau aturan akses yang hanya bergantung pada kerahasiaan prompt. Uji kebocoran konteks; tetap jalankan pemeriksaan akses pada layanan. ### LLM09:2026 — Vector and Embedding Weaknesses Pengelolaan representasi dan pencarian dokumen membuka data atau menghasilkan konteks yang tidak semestinya. Contoh: potongan dokumen kehilangan izin pelanggan saat dimasukkan ke indeks. Embedding bukan jaminan anonim. Periksa [izin dan siklus data RAG](/panduan/ai/keamanan-data-rag/). ### LLM10:2026 — Improper Output Handling Hasil model diteruskan ke sistem lain tanpa validasi yang tepat. Contoh: teks hasil model dipasang sebagai HTML aktif atau dijalankan sebagai perintah. Validasi skema, encode sesuai konteks tampilan dan batasi eksekusi; hasil model bukan kode yang otomatis boleh dijalankan. ## Apa yang berubah dari 2025? Dua risiko tetap pada nomor yang sama: Prompt Injection `LLM01` dan Sensitive Information Disclosure `LLM02`. Delapan lainnya berubah: - Excessive Agency: `LLM06:2025` → `LLM03:2026`. - Supply Chain: `LLM03:2025` → `LLM04:2026`. - Data and Model Poisoning: `LLM04:2025` → `LLM05:2026`. - Unbounded Consumption: `LLM10:2025` → `LLM06:2026`. - Misinformation: `LLM09:2025` → `LLM07:2026`. - System Prompt Leakage `LLM07:2025` diperluas menjadi Hidden Context Exposure `LLM08:2026`. - Vector and Embedding Weaknesses: `LLM08:2025` → `LLM09:2026`. - Improper Output Handling: `LLM05:2025` → `LLM10:2026`. Jangan sekadar mengganti nomor. Edisi 2026 juga memperluas sejumlah cakupan. Simpan edisi lama pada bukti lama dan catat alasan perubahan pada rencana uji berikutnya. ## Ubah daftar risiko menjadi pekerjaan tim Ambil satu fitur, misalnya asisten dukungan. Catat data masuk, sumber dokumen, pengguna, tool dan efeknya. Pilih kasus kegagalan, hasil yang harus ditolak, pemilik perbaikan serta bukti uji ulang. Prioritas mengikuti dampak fitur Anda; urutan daftar bukan keputusan risiko untuk semua perusahaan. Untuk agen yang dapat bertindak, gunakan juga panduan khusus agen; daftar LLM tidak mencakup seluruh alur tindakan. Mulai dari [keamanan fitur AI](/panduan/keamanan/keamanan-fitur-ai/), [peta izin tool](/template/izin-tool-agen-ai/) dan [evaluasi sebelum rilis](/panduan/ai/evaluasi-fitur-ai/). Risiko teknis OWASP bukan penetapan kewajiban hukum Indonesia atau bukti kepatuhan perusahaan. Ringkasan risiko dan perbandingan ini mengadaptasi materi OWASP Foundation, diubah ke bahasa Indonesia dengan contoh Kompli, dan tersedia dengan [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/). OWASP tidak mengesahkan layanan atau hasil pemeriksaan Kompli. ## Sumber rujukan - [OWASP GenAI LLM Top 10 2026 — halaman resmi dan PDF edisi 2026](https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/) — PDF edisi 2026, halaman 2–3, 7 dan 10–57: lisensi, daftar, perubahan, risiko dan mitigasi; tanggal release pada PDF masih placeholder. - [OWASP Top 10 for LLM Applications 2025 — daftar untuk perbandingan edisi](https://genai.owasp.org/llm-top-10/) — Daftar resmi 2025: nama dan nomor risiko untuk perbandingan edisi. ## Perlu membahas kebutuhan tim Anda? Ceritakan sistem yang dikelola dan kebutuhan pengamanan tim Anda. [Konsultasikan kebutuhan Anda](https://kompli.id/konsultasi/?topik=keamanan) ## Bacaan terkait - [Keamanan fitur AI: data, prompt injection, dan akses agen](https://kompli.id/panduan/keamanan/keamanan-fitur-ai/) - [Membatasi hak akses dan tindakan agen AI](https://kompli.id/panduan/ai/hak-akses-dan-tindakan-agen-ai/) - [Mengamankan data RAG dari sumber hingga penghapusan](https://kompli.id/panduan/ai/keamanan-data-rag/) - [Menguji fitur AI sebelum digunakan pelanggan](https://kompli.id/panduan/ai/evaluasi-fitur-ai/)