Skip to main content

OWASP Top-10 untuk Aplikasi LLM — Pemetaan Kawalan Yabanin

Halaman ini memetakan OWASP Top-10 untuk Aplikasi LLM (senarai 2025/2026) kepada kawalan yang benar-benar wujud dalam pangkalan kod Yabanin — apakah setiap kawalan, cara ia didayakan, dan, secara jujur, di mana liputan tamat. Setiap kawalan menamakan laluan kod atau dokumennya; tiada apa-apa pada halaman ini yang merupakan peta jalan yang disamarkan sebagai perisian yang sudah dihantar (item yang dirancang dilabel sedemikian).

Yabanin ialah gerbang, bukan aplikasi LLM: kebanyakan risiko di bawah ialah tentang apa yang aplikasi di sebalik gerbang lakukan. Peranan gerbang ialah memberi pengendali titik penguatkuasaan yang tidak dapat dipintas oleh aplikasi tersebut — dasar dimiliki pentadbir dan berskop organisasi, tidak sekali-kali mengikut permintaan (Saluran Dasar §1).

Legenda status: terbina dalam (dihantar dalam kod), ikut pilihan (terbina dalam, mati secara lalai, didayakan melalui konfigurasi/dasar), karang sendiri (tiada kawalan khusus; pengendali mengarang satu daripada primitif saluran), tidak dilindungi (tiada kawalan; dinamakan supaya tiada siapa menganggap satu wujud).

LLM01 — Suntikan prompt​

Risiko: input yang tidak dipercayai mengemudi model (secara langsung, atau secara tidak langsung melalui hasil alat dan dokumen yang diambil).

KawalanStatusDi mana
Pengesan frasa suntikan berketentuan (RU + EN)terbina dalam, ikut pilihanpkg/guardhooks/finding.go (regex:injection), langkah saluran builtin/injection (pipeline.md §5)
Mod pengawal pada egress/parameter alat: off / log / redact / denyterbina dalam, ikut pilihanpkg/guardhooks/hook.go, YABANIN_GUARD_MODE (agent-governance.md)
Senarai tolak/benarkan tersuai bagi setiap organisasi (langkah contains, regex)karang sendiribuiltin/contains, builtin/regex (RE2, selamat daripada bom pengembangan)
Pendapat kedua semantikkarang sendirilangkah llm_judge (pkg/pipeline/llmjudge) — prompt hakim yang dikarang organisasi, suhu dikunci pada 0
Panggilan pengimbas luaran (Presidio kendalian sendiri, kelas Lakera)karang sendiripkg/pipeline/callout — senarai benarkan egress + pengawal SSRF
Pengurangan jejari letupan: pemberian alat mengikut ejen, persilangan senarai benarkan, pengawal skema/regex argumen, semakan pasca hasilterbina dalam, ikut pilihanpkg/mcpagg, pkg/toolpolicy (mcp-gateway.md §7, tool-policies.md)
Perlindungan diri saluran: panggilan hakim yang dibuat gerbang membawa penanda dalaman judge=true dan dikecualikan; permintaan masuk yang mengemukakan X-Yabanin-Judge (sebarang nilai, walaupun kosong atau diduplikasi) ditolak dan bukannya dikecualikan, supaya muatan bermusuhan tidak boleh mencetuskan rekursi; tindakan langkah yang tidak dikenali ditarafkan sebagai denyterbina dalampipeline.md §6.2, pkg/pipeline/engine.go

Dayakan: tetapkan YABANIN_GUARD_MODE=redact|deny, atau lampirkan dasar dengan builtin/injection pada pre_upstream / tool_pre; pek deploy/policies/_pack/sovereign-default.yaml menyertakannya (dihantar dalam keadaan MATI — pipeline.md §8).

Sempadan (jujur): pengesanan ialah pemadanan frasa/regex yang berketentuan — tiada pengelas suntikan semantik yang terbina dalam; langkah hakim/callout ialah jawapan yang dimaksudkan. Suntikan tidak langsung yang tiba di dalam hasil alat diimbas oleh semakan pasca peraturan (secrets/PII/deny_regex), bukan oleh semantik. Postur pra-saluran yang didokumenkan dalam security-audit.md ("suntikan prompt adalah wujud secara semula jadi") masih terpakai bagi pelaksanaan yang tidak pernah mendayakan pengawal.

LLM02 — Pendedahan maklumat sensitif​

Risiko: PII/rahsia bocor ke dalam prompt, respons, log, atau tangan organisasi lain.

KawalanStatusDi mana
Pengesan PII nasional dengan pengesahan checksum: RU (INN, SNILS, pasport dalaman, OGRN, telefon) + BR/IN/MY/AE/ZA/NG/KE/EG, PAN dengan Luhnterbina dalam, ikut pilihanpkg/guardhooks/finding.go, pkg/guardhooks/ru_ids.go; saluran builtin/national-pii
Pengesan bentuk rahsia (kunci penyedia, PEM, JWT) + nilai JSON berkunci kelayakanterbina dalam, ikut pilihanpkg/guardhooks/credkeys.go; saluran builtin/secrets (bukti dipetik sebagai [REDACTED_SECRET])
Redaksi dan penamaan samaran boleh balik (alias {{YPP_n}}, keluar sahaja — tiada penggantian songsang ke dalam respons)terbina dalam, ikut pilihanbuiltin/redact, builtin/pseudonymize (pipeline.md §5)
Penghalaan sempadan data: tulis semula model kepada model dalam rantau apabila PII ditemuiterbina dalam, ikut pilihanbuiltin/model-rewrite (pipeline.md §5)
Unjuran callout mengehadkan apa yang meninggalkan gerbang (messages / fields:a,b; metadata tidak pernah keluar)terbina dalampkg/pipeline/callout, pipeline.md §6.1
Penyulitan semasa rehat: sampul enc: AES-256-GCM, penulisan gagal-tertutupterbina dalampkg/encryption, mcp-gateway.md §6
Pengasingan organisasi: keselamatan peringkat baris dengan GUC app.current_org disematkan bagi setiap transaksiterbina dalampkg/adminstore, pkg/mcpagg (ujian sqlcontract)
Bacaan bertopeng: kunci BYOK dan kelayakan MCP dibaca semula sebagai 4 aksara terakhir / has_secret sahaja; teks biasa tidak pernah merentasi APIterbina dalampkg/mcpagg/creds.go, byok.md
Kebersihan log: redactPII pada muatan peristiwa, pelucutan kelayakan URL, log keputusan menyimpan hash kandungan — kandungan pengguna yang dipetik hanya kekal dalam pengekalan shadow/nyahpepijatterbina dalampkg/eventpublisher/redis_publisher.go, pipeline.md §9

Dayakan: YABANIN_GUARD_MODE untuk laluan sentiasa hidup; dasar untuk pseudonymize/mask/deny mengikut organisasi, label kunci, model, endpoint.

Sempadan (jujur): himpunan bidang kuasa luar talian adalah tetap (RU + 9); bidang kuasa lain memerlukan langkah regex yang dikarang atau pengesan callout. Ambang keyakinan guardhooks ialah 0.9+ (checksum/format ketat), jadi padanan format sahaja tidak diredaksi. Penamaan samaran sengaja tidak sekali-kali menggantikan semula ke dalam respons (keputusan pemilik) — aliran kerja yang memerlukan nilai asal mesti menyelesaikannya di luar jalur.

LLM03 — Rantaian bekalan​

Risiko: kebergantungan yang terdedah, model yang diusik, atau komponen yang tidak dipercayai dalam laluan penyajian.

KawalanStatusDi mana
govulncheck (peringkat simbol) dalam pintu kualiti + go mod verifyterbina dalammake analyze-security, _quality-security (Makefile), scripts/quality/dep_audit.py
Versi penganalisis/rantaian alat yang disemat; skrip triaj penemuanterbina dalammake install-analysis-tools (Makefile), scripts/security/govulncheck-classify.sh
Pengukuhan kontena: sistem file baca sahaja, no-new-privileges, rangkaian jambatan dalamanterbina dalamsecurity-audit.md
Kawalan bekalan model: langkah senarai benarkan model + senarai putih organisasi/model mengikut kunci/pasukanterbina dalam, ikut pilihanbuiltin/model-whitelist, pkg/whitelist
Asal usul dasar/prompt: dasar diselaraskan daripada git dan merekodkan SHA git; prompt hakim ialah sumber berversiterbina dalampipeline.md §8, pkg/policystore

Sempadan (jujur): pengimbasan meliputi Go sahaja — pokok npm papan pemuka/tapak dan imej asas Docker tidak diperiksa govulncheck di sini. Tiada penjanaan SBOM atau perakuan. Model ialah perkhidmatan huluan: senarai putih mengehadkan model yang mana berkhidmat, bukan integriti pemberatnya; skim asal usul model tidak dilindungi. Pengimbas callout ialah perkhidmatan pihak ketiga di dalam sempadan kepercayaan sebaik sahaja pengendali memasukkannya ke senarai benarkan.

LLM04 — Keracunan data dan model​

Risiko: data latihan/penalaan halus, embedding, atau kandungan cache yang diracun untuk mengubah tingkah laku.

Yabanin tidak mengendalikan sebarang saluran penalaan halus atau data latihan, jadi permukaan keracunan klasik tidak wujud di sini; permukaan bersebelahan ialah:

KawalanStatusDi mana
Pembentukan kunci cache mengikut organisasi (cache:{org_id}:…) — tiada bacaan cache merentas organisasi; lapisan semantik boleh dilumpuhkan mengikut organisasi (mod privasi exact/off); togol pentadbir sahaja dengan auditterbina dalamcache-architecture.md, pkg/cache
Ketepatan cache diukur dan diterbitkan, supaya hampir-padanan semantik ialah pertukaran yang didokumenkan dan bukannya perubahan tingkah laku yang senyapterbina dalamcache-precision.md
Versi dasar yang tidak boleh ubah + penyelarasan git (suntingan DB yang diracun kelihatan sebagai DRIFT dan ditimpa oleh git semasa digunakan)terbina dalampipeline.md §8
Prompt hakim berversi (judges/<name>@<version>) — prompt yang diusik mengubah versi, bukan semantik rujukan sedia adaterbina dalampkg/pipeline/llmjudge

Sempadan (jujur): pengelas tugas ML (pkg/classifier, make train-classifier) berlatih pada metadata trafik gerbang — korpus latihannya tiada rantaian asal usul/perakuan. Stor vektor di sisi pelanggan dan set data penalaan halus sepenuhnya di luar pangkalan kod ini.

LLM05 — Pengendalian keluaran yang tidak wajar​

Risiko: keluaran model dihantar tanpa semakan ke dalam konteks hiliran (shell, SQL, pelayar, alat).

KawalanStatusDi mana
Cangkuk keluaran: post_upstream, stream_prefix, stream_final menjalankan enjin dasar yang sama ke atas respons dan agregat strimterbina dalam, ikut pilihanpipeline.md §2, §7
Semakan keluaran berstruktur: pengesahan JSON Schema / kunci JSON; pengesanan bahasa kod; semakan skema/host URLterbina dalam, ikut pilihanbuiltin/json-schema, builtin/json-keys, builtin/code-detect, builtin/url-check
Keselamatan penstriman: pintu awalan menyemak satu petikan yang ditangkap sebelum bait tertimbal dilepaskan; bawa chunk mengenakan penggantian yang dipelajari daripada padanan awalan yang lengkap kepada kejadian kemudian, termasuk kejadian yang terpecah, tetapi tidak menjamin pengesanan nilai yang tidak lengkap atau nilai baharu yang muncul kemudianterbina dalam, ikut pilihanpipeline.md §7, pkg/pipeline/streaming
Semakan pasca hasil alat (secrets/PII/deny_regex, flag/mask/deny) sebelum ejen melihat hasil alatterbina dalam, ikut pilihanpkg/toolpolicy/guard.go, mcp-gateway.md §7

Dayakan: lampirkan dasar pada cangkuk keluaran; jenis keluaran ialah skop lalai langkah JSON-schema.

Sempadan (jujur): gerbang menganggap keluaran sebagai data — ia tidak mengekod keluaran mengikut konteks untuk pemapar hiliran (pelarian HTML/SQL/shell kekal tugas aplikasi) dan tidak mengurung dalam kotak pasir apa yang klien lakukan dengan hasil. Penolakan stream_final tidak boleh menarik balik bait yang sudah distrim; ia merosot kepada rekod log keputusan yang dibenderakan (pipeline.md §7).

LLM06 — Agensi berlebihan​

Risiko: ejen mengambil lebih banyak tindakan, atau tindakan yang lebih berakibat, daripada yang dimaksudkan.

KawalanStatusDi mana
Kunci prinsipal ejen (yag_*) — panggilan alat ditolak bagi kunci bukan ejen; X-Agent-Id dilucutkan pada ingress dan ditetapkan semula hanya daripada prinsipal yang disahkanterbina dalampkg/mcpagg/proxy.go, mcp-gateway.md §2
Keistimewaan minimum statik: pemberian mengikut ejen, set alat berkesan = senarai benarkan pelayan ∩ senarai benarkan pemberian; panggilan yang disekat tidak dapat dibezakan daripada "pelayan tidak tersedia" (404)terbina dalampkg/mcpagg/catalog.go, mcp-gateway.md §2
Pengawal parameter mengikut panggilan: JSON-Schema pada argumen, max_bytes, deny_regex (400 pra-egress), dasar tolak organisasi bagi tool_calls yang diisytiharkan modelterbina dalam, ikut pilihanpkg/toolpolicy (tool-policies.md)
Siling kos/jejari letupan: bajet harian mengikut ejen, bajet token mengikut tugas, had RPM/TPM organisasiterbina dalampkg/budget/agent.go, agent-governance.md, LLM10 di bawah
Atribusi penuh: setiap panggilan → baris request_logs + audit berantai hash + gateway_mcp_calls_total / span OTelterbina dalammcp-gateway.md §2, pkg/auditlog (rantai sha256)
Endpoint MCP asli menggunakan semula rantai pengawal seruan yang sama; sesi tanpa keadaan yang ditandatangani HMACterbina dalampkg/mcpserver

Sempadan (jujur): pemberian ialah pendayaan statik — tiada aliran kerja kelulusan/persetujuan manusia mengikut panggilan; jika ejen tidak sepatutnya memanggil alat tanpa pengawasan, pemberian itu tidak boleh wujud. Had agensi hanya sebaik senarai benarkan yang dikonfigurasi pentadbir.

LLM07 — Kebocoran prompt sistem​

Risiko: prompt sistem (arahan, rahsia yang terbenam di dalamnya) didedahkan melalui keluaran.

KawalanStatusDi mana
Pengesan bentuk rahsia ke atas respons (post_upstream / stream_final) menangkap kandungan berbentuk rahsia yang meninggalkan modelkarang sendiribuiltin/secrets dengan jenis keluaran
Senarai tolak/bendera bagi serpihan prompt kanonikkarang sendiribuiltin/contains, builtin/regex
Separa sisi pelayan: serpihan prompt berkongsi berada dalam studio prompt dan digantikan di sisi pelayan, tidak pernah dihantar kepada klienterbina dalampipeline.md §5 (builtin/partials-substitute)

Sempadan (jujur): tiada pengesan kebocoran prompt sistem yang khusus — tiada pengelas untuk "teks ini kelihatan seperti prompt sistem kami". Mitigasi mesti dikarang sebagai dasar (contains/regex/judge), dan tiada satu pun dapat menghentikan model daripada memparafrasa arahannya. Jauhkan rahsia daripada prompt sistem; gerbang tidak boleh membetulkan secara retroaktif prompt yang mengandunginya.

LLM08 — Kelemahan vektor dan embedding​

Risiko: songsangan embedding, kebocoran vektor merentas penyewa, dapatan semula yang diracun.

Endpoint embedding Yabanin ialah laluan terus; gerbang tidak mengendalikan stor vektor pelanggan. Permukaan vektor dalam gerbang yang paling hampir ialah cache semantik:

KawalanStatusDi mana
Pembentukan kunci mengikut organisasi bagi semua lapisan cache — tiada padanan semantik merentas organisasiterbina dalamcache-architecture.md
Mod privasi organisasi: lapisan semantik boleh ditukar kepada exact atau off; lapisan tepat sentiasa dikunci mengikut organisasiterbina dalamcache-architecture.md
Ketepatan/ingat kembali penilaian semantik yang diukur, diterbitkanterbina dalamcache-precision.md
Perubahan dasar cache untuk pentadbir sahaja + diaudit; TTL + janitor mengehadkan entri basiterbina dalamcache-architecture.md

Sempadan (jujur): tiada pengesanan songsangan embedding atau inferens keahlian wujud. Ambang keserupaan menukar ketepatan untuk penjimatan; organisasi yang model ancamannya menganggap jawapan hampir pendua sebagai kebocoran mesti menjalankan lapisan semantik dalam keadaan mati.

LLM09 — Maklumat salah​

Risiko: model menyatakan kepalsuan dengan yakin.

Tidak dilindungi oleh kawalan khusus. Tiada semakan grounding, pemarkah kefaktualan, atau pengesahan dapatan semula dalam pangkalan kod, dan halaman ini enggan berpura-pura bahawa satu wujud. Apa yang wujud adalah bersebelahan:

KawalanStatusDi mana
Langkah hakim yang dikarang organisasi boleh memarkahkan keluaran terhadap sebarang rubrik, termasuk kefaktualan (suhu berketentuan, ambang → deny/flag)karang sendiripkg/pipeline/llmjudge
Persampelan kualiti (evalgate) mengukur kualiti yang dinilai mengikut pasangan model/kelas tugas — satu pengukuran, bukan pencegahanterbina dalamevaluation.md, mcp-gateway.md §2
Perakuan salasilah bidang kuasa memperakui di mana respons diproses — asal usul pemprosesan, bukan kebenaran kandunganterbina dalamlineage.md

LLM10 — Penggunaan tanpa had​

Risiko: ejen tidak terkawal, bom kos, kehabisan sumber.

KawalanStatusDi mana
Had organisasi: RPM / TPM, TPM input/output terpisah (ITPM/OTPM), TPM mengikut kunci; `YABANIN_ORG_CAPS=shadowenforce`, gagal-tertutup apabila ralat stor, lalai beta (60 RPM / 200k TPM / $50)terbina dalam
Had kadar mengikut kunci/pasukan (YABANIN_KEY_RATE_LIMITS), keutamaan bahagian adil semasa cuba semulaterbina dalam, ikut pilihanpkg/gateway/ratelimit.go
Bajet dengan tempahan: had keras bulanan pasukan / harian ejen → 429; kemasukan gagal-tertutup (gangguan stor = 503, perbelanjaan tidak pernah tanpa had); had lembut dicatat dalam logterbina dalampkg/budget, security-audit.md, runbooks/budget-reservations-alerts.md
Pemutus litar, mengikut endpoint atau global (YABANIN_CIRCUIT_SCOPE) — huluan yang tidak stabil berhenti memakan perbelanjaanterbina dalampkg/circuit, pkg/gateway/circuit_wiring.go
Kerja terhad di mana-mana: penimbal awalan penstriman (64 token / 500 ms), tamat masa proxy MCP yang terhad + saiz respons maksimum, singleflight callout + tamat masa mengikut langkah, had max_input regex (1 MiB lalai / 64 MiB keras)terbina dalampipeline.md, mcp-gateway.md
Keterlihatan gelung: gateway_mcp_calls_total, gateway_policy_*, analitik perbelanjaanterbina dalammcp-gateway.md §2, analytics.md

Sempadan (jujur): had lalai ialah lalai beta — pelaksanaan yang menaikkannya menanggung akibatnya. Had kadar adalah mengikut organisasi/mengikut kunci, bukan mengikut pengguna akhir; organisasi dengan ramai manusia di sebalik satu kunci memerlukan had peringkat kunci atau kuota huluan. Pengasingan pemutus mengikut penyedia (satu pemutus global hari ini) ialah kecacatan yang diketahui yang dijejaki untuk kad penghalaan OUTPLAY (OP-18).

Mendayakan kawalan — rujukan pantas​

LapisanSuisLalai
Cangkuk pengawal (PII/rahsia/suntikan pada egress sembang + parameter alat)YABANIN_GUARD_MODE=log|redact|denyoff
Saluran dasarYABANIN_POLICY_MODE=shadow|enforce + dasar yang dilampirkanoff
Pek lalai berdaulat (PII + rahsia + suntikan)yb policies reconcile --include-pack, mendarat dilumpuhkanoff
Pagar alat pada MCP/A2Adasar alat organisasi + peraturan mengikut pelayanoff (tiada peraturan = laluan terus)
Permukaan MCP/A2A/MCP asliYABANIN_MCP_GATEWAY=1 (+ setara A2A)off
Had organisasi / had kunciYABANIN_ORG_CAPS=enforce / YABANIN_KEY_RATE_LIMITSshadow / off
Egress calloutYABANIN_POLICY_CALLOUT_ALLOW_HOSTSkosong = langkah callout tidak tersedia (gagal-tertutup)
Egress huluan MCPYABANIN_MCP_ALLOWED_UPSTREAMSkosong = setiap host ditolak (gagal-tertutup)

Postur tolak-lalai bagi setiap tombol egress disengajakan: apabila tiada apa-apa dikonfigurasi, tiada apa-apa mendail keluar.