OWASP Top-10 untuk Aplikasi LLM — Pemetaan Kawalan Yabanin
Halaman ini memetakan OWASP Top-10 untuk Aplikasi LLM (senarai 2025/2026) kepada kawalan yang benar-benar wujud dalam pangkalan kod Yabanin — apakah setiap kawalan, cara ia didayakan, dan, secara jujur, di mana liputan tamat. Setiap kawalan menamakan laluan kod atau dokumennya; tiada apa-apa pada halaman ini yang merupakan peta jalan yang disamarkan sebagai perisian yang sudah dihantar (item yang dirancang dilabel sedemikian).
Yabanin ialah gerbang, bukan aplikasi LLM: kebanyakan risiko di bawah ialah tentang apa yang aplikasi di sebalik gerbang lakukan. Peranan gerbang ialah memberi pengendali titik penguatkuasaan yang tidak dapat dipintas oleh aplikasi tersebut — dasar dimiliki pentadbir dan berskop organisasi, tidak sekali-kali mengikut permintaan (Saluran Dasar §1).
Legenda status: terbina dalam (dihantar dalam kod), ikut pilihan (terbina dalam, mati secara lalai, didayakan melalui konfigurasi/dasar), karang sendiri (tiada kawalan khusus; pengendali mengarang satu daripada primitif saluran), tidak dilindungi (tiada kawalan; dinamakan supaya tiada siapa menganggap satu wujud).
LLM01 — Suntikan prompt
Risiko: input yang tidak dipercayai mengemudi model (secara langsung, atau secara tidak langsung melalui hasil alat dan dokumen yang diambil).
| Kawalan | Status | Di mana |
|---|---|---|
| Pengesan frasa suntikan berketentuan (RU + EN) | terbina dalam, ikut pilihan | pkg/guardhooks/finding.go (regex:injection), langkah saluran builtin/injection (pipeline.md §5) |
Mod pengawal pada egress/parameter alat: off / log / redact / deny | terbina dalam, ikut pilihan | pkg/guardhooks/hook.go, YABANIN_GUARD_MODE (agent-governance.md) |
Senarai tolak/benarkan tersuai bagi setiap organisasi (langkah contains, regex) | karang sendiri | builtin/contains, builtin/regex (RE2, selamat daripada bom pengembangan) |
| Pendapat kedua semantik | karang sendiri | langkah llm_judge (pkg/pipeline/llmjudge) — prompt hakim yang dikarang organisasi, suhu dikunci pada 0 |
| Panggilan pengimbas luaran (Presidio kendalian sendiri, kelas Lakera) | karang sendiri | pkg/pipeline/callout — senarai benarkan egress + pengawal SSRF |
| Pengurangan jejari letupan: pemberian alat mengikut ejen, persilangan senarai benarkan, pengawal skema/regex argumen, semakan pasca hasil | terbina dalam, ikut pilihan | pkg/mcpagg, pkg/toolpolicy (mcp-gateway.md §7, tool-policies.md) |
Perlindungan diri saluran: panggilan hakim yang dibuat gerbang membawa penanda dalaman judge=true dan dikecualikan; permintaan masuk yang mengemukakan X-Yabanin-Judge (sebarang nilai, walaupun kosong atau diduplikasi) ditolak dan bukannya dikecualikan, supaya muatan bermusuhan tidak boleh mencetuskan rekursi; tindakan langkah yang tidak dikenali ditarafkan sebagai deny | terbina dalam | pipeline.md §6.2, pkg/pipeline/engine.go |
Dayakan: tetapkan YABANIN_GUARD_MODE=redact|deny, atau lampirkan dasar dengan
builtin/injection pada pre_upstream / tool_pre; pek
deploy/policies/_pack/sovereign-default.yaml menyertakannya (dihantar dalam keadaan MATI —
pipeline.md §8).
Sempadan (jujur): pengesanan ialah pemadanan frasa/regex yang berketentuan — tiada pengelas suntikan semantik yang terbina dalam; langkah hakim/callout ialah jawapan yang dimaksudkan. Suntikan tidak langsung yang tiba di dalam hasil alat diimbas oleh semakan pasca peraturan (secrets/PII/deny_regex), bukan oleh semantik. Postur pra-saluran yang didokumenkan dalam security-audit.md ("suntikan prompt adalah wujud secara semula jadi") masih terpakai bagi pelaksanaan yang tidak pernah mendayakan pengawal.
LLM02 — Pendedahan maklumat sensitif
Risiko: PII/rahsia bocor ke dalam prompt, respons, log, atau tangan organisasi lain.
| Kawalan | Status | Di mana |
|---|---|---|
| Pengesan PII nasional dengan pengesahan checksum: RU (INN, SNILS, pasport dalaman, OGRN, telefon) + BR/IN/MY/AE/ZA/NG/KE/EG, PAN dengan Luhn | terbina dalam, ikut pilihan | pkg/guardhooks/finding.go, pkg/guardhooks/ru_ids.go; saluran builtin/national-pii |
| Pengesan bentuk rahsia (kunci penyedia, PEM, JWT) + nilai JSON berkunci kelayakan | terbina dalam, ikut pilihan | pkg/guardhooks/credkeys.go; saluran builtin/secrets (bukti dipetik sebagai [REDACTED_SECRET]) |
Redaksi dan penamaan samaran boleh balik (alias {{YPP_n}}, keluar sahaja — tiada penggantian songsang ke dalam respons) | terbina dalam, ikut pilihan | builtin/redact, builtin/pseudonymize (pipeline.md §5) |
| Penghalaan sempadan data: tulis semula model kepada model dalam rantau apabila PII ditemui | terbina dalam, ikut pilihan | builtin/model-rewrite (pipeline.md §5) |
Unjuran callout mengehadkan apa yang meninggalkan gerbang (messages / fields:a,b; metadata tidak pernah keluar) | terbina dalam | pkg/pipeline/callout, pipeline.md §6.1 |
Penyulitan semasa rehat: sampul enc: AES-256-GCM, penulisan gagal-tertutup | terbina dalam | pkg/encryption, mcp-gateway.md §6 |
Pengasingan organisasi: keselamatan peringkat baris dengan GUC app.current_org disematkan bagi setiap transaksi | terbina dalam | pkg/adminstore, pkg/mcpagg (ujian sqlcontract) |
Bacaan bertopeng: kunci BYOK dan kelayakan MCP dibaca semula sebagai 4 aksara terakhir / has_secret sahaja; teks biasa tidak pernah merentasi API | terbina dalam | pkg/mcpagg/creds.go, byok.md |
Kebersihan log: redactPII pada muatan peristiwa, pelucutan kelayakan URL, log keputusan menyimpan hash kandungan — kandungan pengguna yang dipetik hanya kekal dalam pengekalan shadow/nyahpepijat | terbina dalam | pkg/eventpublisher/redis_publisher.go, pipeline.md §9 |
Dayakan: YABANIN_GUARD_MODE untuk laluan sentiasa hidup; dasar untuk
pseudonymize/mask/deny mengikut organisasi, label kunci, model, endpoint.
Sempadan (jujur): himpunan bidang kuasa luar talian adalah tetap (RU + 9); bidang kuasa
lain memerlukan langkah regex yang dikarang atau pengesan callout. Ambang
keyakinan guardhooks ialah 0.9+ (checksum/format ketat), jadi
padanan format sahaja tidak diredaksi. Penamaan samaran sengaja tidak sekali-kali
menggantikan semula ke dalam respons (keputusan pemilik) — aliran kerja yang memerlukan
nilai asal mesti menyelesaikannya di luar jalur.
LLM03 — Rantaian bekalan
Risiko: kebergantungan yang terdedah, model yang diusik, atau komponen yang tidak dipercayai dalam laluan penyajian.
| Kawalan | Status | Di mana |
|---|---|---|
govulncheck (peringkat simbol) dalam pintu kualiti + go mod verify | terbina dalam | make analyze-security, _quality-security (Makefile), scripts/quality/dep_audit.py |
| Versi penganalisis/rantaian alat yang disemat; skrip triaj penemuan | terbina dalam | make install-analysis-tools (Makefile), scripts/security/govulncheck-classify.sh |
| Pengukuhan kontena: sistem file baca sahaja, no-new-privileges, rangkaian jambatan dalaman | terbina dalam | security-audit.md |
| Kawalan bekalan model: langkah senarai benarkan model + senarai putih organisasi/model mengikut kunci/pasukan | terbina dalam, ikut pilihan | builtin/model-whitelist, pkg/whitelist |
| Asal usul dasar/prompt: dasar diselaraskan daripada git dan merekodkan SHA git; prompt hakim ialah sumber berversi | terbina dalam | pipeline.md §8, pkg/policystore |
Sempadan (jujur): pengimbasan meliputi Go sahaja — pokok npm papan pemuka/tapak dan imej asas Docker tidak diperiksa govulncheck di sini. Tiada penjanaan SBOM atau perakuan. Model ialah perkhidmatan huluan: senarai putih mengehadkan model yang mana berkhidmat, bukan integriti pemberatnya; skim asal usul model tidak dilindungi. Pengimbas callout ialah perkhidmatan pihak ketiga di dalam sempadan kepercayaan sebaik sahaja pengendali memasukkannya ke senarai benarkan.
LLM04 — Keracunan data dan model
Risiko: data latihan/penalaan halus, embedding, atau kandungan cache yang diracun untuk mengubah tingkah laku.
Yabanin tidak mengendalikan sebarang saluran penalaan halus atau data latihan, jadi permukaan keracunan klasik tidak wujud di sini; permukaan bersebelahan ialah:
| Kawalan | Status | Di mana |
|---|---|---|
Pembentukan kunci cache mengikut organisasi (cache:{org_id}:…) — tiada bacaan cache merentas organisasi; lapisan semantik boleh dilumpuhkan mengikut organisasi (mod privasi exact/off); togol pentadbir sahaja dengan audit | terbina dalam | cache-architecture.md, pkg/cache |
| Ketepatan cache diukur dan diterbitkan, supaya hampir-padanan semantik ialah pertukaran yang didokumenkan dan bukannya perubahan tingkah laku yang senyap | terbina dalam | cache-precision.md |
| Versi dasar yang tidak boleh ubah + penyelarasan git (suntingan DB yang diracun kelihatan sebagai DRIFT dan ditimpa oleh git semasa digunakan) | terbina dalam | pipeline.md §8 |
Prompt hakim berversi (judges/<name>@<version>) — prompt yang diusik mengubah versi, bukan semantik rujukan sedia ada | terbina dalam | pkg/pipeline/llmjudge |
Sempadan (jujur): pengelas tugas ML (pkg/classifier,
make train-classifier) berlatih pada metadata trafik gerbang — korpus latihannya
tiada rantaian asal usul/perakuan. Stor vektor di sisi pelanggan dan
set data penalaan halus sepenuhnya di luar pangkalan kod ini.
LLM05 — Pengendalian keluaran yang tidak wajar
Risiko: keluaran model dihantar tanpa semakan ke dalam konteks hiliran (shell, SQL, pelayar, alat).
| Kawalan | Status | Di mana |
|---|---|---|
Cangkuk keluaran: post_upstream, stream_prefix, stream_final menjalankan enjin dasar yang sama ke atas respons dan agregat strim | terbina dalam, ikut pilihan | pipeline.md §2, §7 |
| Semakan keluaran berstruktur: pengesahan JSON Schema / kunci JSON; pengesanan bahasa kod; semakan skema/host URL | terbina dalam, ikut pilihan | builtin/json-schema, builtin/json-keys, builtin/code-detect, builtin/url-check |
| Keselamatan penstriman: pintu awalan menyemak satu petikan yang ditangkap sebelum bait tertimbal dilepaskan; bawa chunk mengenakan penggantian yang dipelajari daripada padanan awalan yang lengkap kepada kejadian kemudian, termasuk kejadian yang terpecah, tetapi tidak menjamin pengesanan nilai yang tidak lengkap atau nilai baharu yang muncul kemudian | terbina dalam, ikut pilihan | pipeline.md §7, pkg/pipeline/streaming |
| Semakan pasca hasil alat (secrets/PII/deny_regex, flag/mask/deny) sebelum ejen melihat hasil alat | terbina dalam, ikut pilihan | pkg/toolpolicy/guard.go, mcp-gateway.md §7 |
Dayakan: lampirkan dasar pada cangkuk keluaran; jenis keluaran ialah skop lalai langkah JSON-schema.
Sempadan (jujur): gerbang menganggap keluaran sebagai data — ia tidak
mengekod keluaran mengikut konteks untuk pemapar hiliran (pelarian HTML/SQL/shell
kekal tugas aplikasi) dan tidak mengurung dalam kotak pasir apa yang klien lakukan dengan
hasil. Penolakan stream_final tidak boleh menarik balik bait yang sudah distrim; ia
merosot kepada rekod log keputusan yang dibenderakan (pipeline.md §7).
LLM06 — Agensi berlebihan
Risiko: ejen mengambil lebih banyak tindakan, atau tindakan yang lebih berakibat, daripada yang dimaksudkan.
| Kawalan | Status | Di mana |
|---|---|---|
Kunci prinsipal ejen (yag_*) — panggilan alat ditolak bagi kunci bukan ejen; X-Agent-Id dilucutkan pada ingress dan ditetapkan semula hanya daripada prinsipal yang disahkan | terbina dalam | pkg/mcpagg/proxy.go, mcp-gateway.md §2 |
| Keistimewaan minimum statik: pemberian mengikut ejen, set alat berkesan = senarai benarkan pelayan ∩ senarai benarkan pemberian; panggilan yang disekat tidak dapat dibezakan daripada "pelayan tidak tersedia" (404) | terbina dalam | pkg/mcpagg/catalog.go, mcp-gateway.md §2 |
Pengawal parameter mengikut panggilan: JSON-Schema pada argumen, max_bytes, deny_regex (400 pra-egress), dasar tolak organisasi bagi tool_calls yang diisytiharkan model | terbina dalam, ikut pilihan | pkg/toolpolicy (tool-policies.md) |
| Siling kos/jejari letupan: bajet harian mengikut ejen, bajet token mengikut tugas, had RPM/TPM organisasi | terbina dalam | pkg/budget/agent.go, agent-governance.md, LLM10 di bawah |
Atribusi penuh: setiap panggilan → baris request_logs + audit berantai hash + gateway_mcp_calls_total / span OTel | terbina dalam | mcp-gateway.md §2, pkg/auditlog (rantai sha256) |
| Endpoint MCP asli menggunakan semula rantai pengawal seruan yang sama; sesi tanpa keadaan yang ditandatangani HMAC | terbina dalam | pkg/mcpserver |
Sempadan (jujur): pemberian ialah pendayaan statik — tiada aliran kerja kelulusan/persetujuan manusia mengikut panggilan; jika ejen tidak sepatutnya memanggil alat tanpa pengawasan, pemberian itu tidak boleh wujud. Had agensi hanya sebaik senarai benarkan yang dikonfigurasi pentadbir.
LLM07 — Kebocoran prompt sistem
Risiko: prompt sistem (arahan, rahsia yang terbenam di dalamnya) didedahkan melalui keluaran.
| Kawalan | Status | Di mana |
|---|---|---|
Pengesan bentuk rahsia ke atas respons (post_upstream / stream_final) menangkap kandungan berbentuk rahsia yang meninggalkan model | karang sendiri | builtin/secrets dengan jenis keluaran |
| Senarai tolak/bendera bagi serpihan prompt kanonik | karang sendiri | builtin/contains, builtin/regex |
| Separa sisi pelayan: serpihan prompt berkongsi berada dalam studio prompt dan digantikan di sisi pelayan, tidak pernah dihantar kepada klien | terbina dalam | pipeline.md §5 (builtin/partials-substitute) |
Sempadan (jujur): tiada pengesan kebocoran prompt sistem yang khusus — tiada pengelas untuk "teks ini kelihatan seperti prompt sistem kami". Mitigasi mesti dikarang sebagai dasar (contains/regex/judge), dan tiada satu pun dapat menghentikan model daripada memparafrasa arahannya. Jauhkan rahsia daripada prompt sistem; gerbang tidak boleh membetulkan secara retroaktif prompt yang mengandunginya.
LLM08 — Kelemahan vektor dan embedding
Risiko: songsangan embedding, kebocoran vektor merentas penyewa, dapatan semula yang diracun.
Endpoint embedding Yabanin ialah laluan terus; gerbang tidak mengendalikan stor vektor pelanggan. Permukaan vektor dalam gerbang yang paling hampir ialah cache semantik:
| Kawalan | Status | Di mana |
|---|---|---|
| Pembentukan kunci mengikut organisasi bagi semua lapisan cache — tiada padanan semantik merentas organisasi | terbina dalam | cache-architecture.md |
Mod privasi organisasi: lapisan semantik boleh ditukar kepada exact atau off; lapisan tepat sentiasa dikunci mengikut organisasi | terbina dalam | cache-architecture.md |
| Ketepatan/ingat kembali penilaian semantik yang diukur, diterbitkan | terbina dalam | cache-precision.md |
| Perubahan dasar cache untuk pentadbir sahaja + diaudit; TTL + janitor mengehadkan entri basi | terbina dalam | cache-architecture.md |
Sempadan (jujur): tiada pengesanan songsangan embedding atau inferens keahlian wujud. Ambang keserupaan menukar ketepatan untuk penjimatan; organisasi yang model ancamannya menganggap jawapan hampir pendua sebagai kebocoran mesti menjalankan lapisan semantik dalam keadaan mati.
LLM09 — Maklumat salah
Risiko: model menyatakan kepalsuan dengan yakin.
Tidak dilindungi oleh kawalan khusus. Tiada semakan grounding, pemarkah kefaktualan, atau pengesahan dapatan semula dalam pangkalan kod, dan halaman ini enggan berpura-pura bahawa satu wujud. Apa yang wujud adalah bersebelahan:
| Kawalan | Status | Di mana |
|---|---|---|
| Langkah hakim yang dikarang organisasi boleh memarkahkan keluaran terhadap sebarang rubrik, termasuk kefaktualan (suhu berketentuan, ambang → deny/flag) | karang sendiri | pkg/pipeline/llmjudge |
| Persampelan kualiti (evalgate) mengukur kualiti yang dinilai mengikut pasangan model/kelas tugas — satu pengukuran, bukan pencegahan | terbina dalam | evaluation.md, mcp-gateway.md §2 |
| Perakuan salasilah bidang kuasa memperakui di mana respons diproses — asal usul pemprosesan, bukan kebenaran kandungan | terbina dalam | lineage.md |
LLM10 — Penggunaan tanpa had
Risiko: ejen tidak terkawal, bom kos, kehabisan sumber.
| Kawalan | Status | Di mana |
|---|---|---|
| Had organisasi: RPM / TPM, TPM input/output terpisah (ITPM/OTPM), TPM mengikut kunci; `YABANIN_ORG_CAPS=shadow | enforce`, gagal-tertutup apabila ralat stor, lalai beta (60 RPM / 200k TPM / $50) | terbina dalam |
Had kadar mengikut kunci/pasukan (YABANIN_KEY_RATE_LIMITS), keutamaan bahagian adil semasa cuba semula | terbina dalam, ikut pilihan | pkg/gateway/ratelimit.go |
| Bajet dengan tempahan: had keras bulanan pasukan / harian ejen → 429; kemasukan gagal-tertutup (gangguan stor = 503, perbelanjaan tidak pernah tanpa had); had lembut dicatat dalam log | terbina dalam | pkg/budget, security-audit.md, runbooks/budget-reservations-alerts.md |
Pemutus litar, mengikut endpoint atau global (YABANIN_CIRCUIT_SCOPE) — huluan yang tidak stabil berhenti memakan perbelanjaan | terbina dalam | pkg/circuit, pkg/gateway/circuit_wiring.go |
Kerja terhad di mana-mana: penimbal awalan penstriman (64 token / 500 ms), tamat masa proxy MCP yang terhad + saiz respons maksimum, singleflight callout + tamat masa mengikut langkah, had max_input regex (1 MiB lalai / 64 MiB keras) | terbina dalam | pipeline.md, mcp-gateway.md |
Keterlihatan gelung: gateway_mcp_calls_total, gateway_policy_*, analitik perbelanjaan | terbina dalam | mcp-gateway.md §2, analytics.md |
Sempadan (jujur): had lalai ialah lalai beta — pelaksanaan yang menaikkannya menanggung akibatnya. Had kadar adalah mengikut organisasi/mengikut kunci, bukan mengikut pengguna akhir; organisasi dengan ramai manusia di sebalik satu kunci memerlukan had peringkat kunci atau kuota huluan. Pengasingan pemutus mengikut penyedia (satu pemutus global hari ini) ialah kecacatan yang diketahui yang dijejaki untuk kad penghalaan OUTPLAY (OP-18).
Mendayakan kawalan — rujukan pantas
| Lapisan | Suis | Lalai |
|---|---|---|
| Cangkuk pengawal (PII/rahsia/suntikan pada egress sembang + parameter alat) | YABANIN_GUARD_MODE=log|redact|deny | off |
| Saluran dasar | YABANIN_POLICY_MODE=shadow|enforce + dasar yang dilampirkan | off |
| Pek lalai berdaulat (PII + rahsia + suntikan) | yb policies reconcile --include-pack, mendarat dilumpuhkan | off |
| Pagar alat pada MCP/A2A | dasar alat organisasi + peraturan mengikut pelayan | off (tiada peraturan = laluan terus) |
| Permukaan MCP/A2A/MCP asli | YABANIN_MCP_GATEWAY=1 (+ setara A2A) | off |
| Had organisasi / had kunci | YABANIN_ORG_CAPS=enforce / YABANIN_KEY_RATE_LIMITS | shadow / off |
| Egress callout | YABANIN_POLICY_CALLOUT_ALLOW_HOSTS | kosong = langkah callout tidak tersedia (gagal-tertutup) |
| Egress huluan MCP | YABANIN_MCP_ALLOWED_UPSTREAMS | kosong = setiap host ditolak (gagal-tertutup) |
Postur tolak-lalai bagi setiap tombol egress disengajakan: apabila tiada apa-apa dikonfigurasi, tiada apa-apa mendail keluar.
Berkaitan
- Saluran Dasar — enjin penguatkuasaan dan mod kegagalannya
- Gerbang MCP — model ancaman permukaan alat (R1–R10)
- Dasar Alat, Tadbir Urus Ejen
- Postur keselamatan — permukaan pengesahan, rahsia semasa rehat, rantaian bekalan
- Audit keselamatan — imbasan CVE dan adendum model ancaman OUTPLAY