LLM アプリケーション向け OWASP Top-10 — Yabanin の制御マッピング
このページは、**LLM アプリケーション向け OWASP Top-10(2025/2026 リスト)**を、Yabanin のコードベースに実際に存在する制御へ対応付けます。各制御が何であるか、どう有効にするか、そして正直に、対象がどこで終わるかを示します。すべての制御は、そのコードパスまたはドキュメントを明示します。このページの内容は、ロードマップを出荷済みソフトウェアのように装ったものではありません(計画中の項目はそのようにラベルされています)。
Yabanin はゲートウェイであり、LLM アプリケーションではありません。以下のリスクの多くは、ゲートウェイの背後にあるアプリケーションが何をするかに関するものです。ゲートウェイの役割は、それらのアプリケーションが回避できない強制点をオペレータに与えることです。方針は管理者が所有し、組織スコープであり、リクエスト単位ではありません(方針パイプライン §1)。
状態の凡例: 組み込み(コードに同梱されます)、オプトイン(組み込みですが、既定ではオフ です。設定または方針で有効にします)、自作(専用の制御はありません。オペレータがパイプラインのプリミティブから作成します)、対象外(制御はありません。存在すると誰も思い込まないよう、名前を挙げています)。
LLM01 — プロンプトインジェクション
リスク: 信頼できない入力がモデルを誘導します(直接、またはツール結果や取得したドキュメントを経由して間接的に)。
| 制御 | 状態 | 場所 |
|---|---|---|
| 決定的なインジェクション語句の検出器(RU + EN) | 組み込み、オプトイン | pkg/guardhooks/finding.go(regex:injection)、パイプラインステップ builtin/injection(pipeline.md §5) |
出口とツールパラメータ上のガードモード: off / log / redact / deny | 組み込み、オプトイン | pkg/guardhooks/hook.go、YABANIN_GUARD_MODE(agent-governance.md) |
組織ごとのカスタム拒否/許可リスト(contains、regex ステップ) | 自作 | builtin/contains、builtin/regex(RE2、展開ボムに対して安全) |
| セマンティックなセカンドオピニオン | 自作 | llm_judge ステップ(pkg/pipeline/llmjudge)— 組織が作成した判定プロンプト。temperature は 0 に固定 |
| 外部スキャナの呼び出し(自社運用の Presidio、Lakera クラス) | 自作 | pkg/pipeline/callout — 出口の許可リスト + SSRF ガード |
| 影響範囲の縮小: エージェントごとのツール付与、許可リストの交差、引数のスキーマ/正規表現ガード、結果の事後チェック | 組み込み、オプトイン | pkg/mcpagg、pkg/toolpolicy(mcp-gateway.md §7、tool-policies.md) |
パイプラインの自己保護: ゲートウェイ自身が行う判定呼び出しは内部マーカー judge=true を持ち、免除されます。受信リクエストが X-Yabanin-Judge を提示した場合(任意の値。空でも重複でも)は免除ではなく拒否されるため、敵対的なペイロードは再帰を引き起こせません。未知のステップアクションは deny として評価されます | 組み込み | pipeline.md §6.2、pkg/pipeline/engine.go |
有効化: YABANIN_GUARD_MODE=redact|deny を設定するか、pre_upstream / tool_pre 上で builtin/injection を持つ方針を付与します。deploy/policies/_pack/sovereign-default.yaml パックに含まれています(同梱時はオフ — pipeline.md §8)。
境界(正直に): 検出は決定的な語句/正規表現のマッチです。組み込みのセマンティックなインジェクション分類器はありません。想定される答えは、判定/呼び出しステップです 。ツールの結果の中に届く間接インジェクションは、ルールの事後チェック(secrets/PII/deny_regex)によってスキャンされ、セマンティクスによってはスキャンされません。security-audit.md に書かれたパイプライン前の姿勢(「プロンプトインジェクションは本質的です」)は、ガードを一度も有効にしない導入でも依然として成り立ちます。
LLM02 — 機密情報の漏えい
リスク: PII/シークレットが、プロンプト、応答、ログ、または他の組織の手に漏れます。
| 制御 | 状態 | 場所 |
|---|---|---|
| チェックサム検証付きの各国 PII 検出器: RU(INN、SNILS、国内パスポート、OGRN、電話)+ BR/IN/MY/AE/ZA/NG/KE/EG、Luhn 付き PAN | 組み込み、オプトイン | pkg/guardhooks/finding.go、pkg/guardhooks/ru_ids.go。パイプライン builtin/national-pii |
| シークレット形状の検出器(プロバイダキー、PEM、JWT)+ 資格情報をキーにした JSON 値 | 組み込み、オプトイン | pkg/guardhooks/credkeys.go。パイプライン builtin/secrets(証拠は [REDACTED_SECRET] として引用) |
秘匿化と可逆的な仮名化({{YPP_n}} エイリアス。送信方向のみ — 応答への逆置換はしません) | 組み込み、オプトイン | builtin/redact、builtin/pseudonymize(pipeline.md §5) |
| データ境界の経路: PII が見つかったとき、モデルをリージョン内のものへ書き換えます | 組み込み、オプトイン | builtin/model-rewrite(pipeline.md §5) |
呼び出しの射影は、ゲートウェイの外へ出るものを制限します(messages / fields:a,b。メタデータは決して外へ出ません) | 組み込み | pkg/pipeline/callout、pipeline.md §6.1 |
保存時の暗号化: enc: の AES-256-GCM エンベロープ。書き込みはフェイルクローズ | 組み込み | pkg/encryption、mcp-gateway.md §6 |
組織の分離: トランザクションごとに app.current_org GUC を固定した行レベルセキュリティ | 組み込み | pkg/adminstore、pkg/mcpagg(sqlcontract テスト) |
マスクされた読み取り: BYOK キーと MCP の資格情報は、末尾 4 文字 / has_secret のみとして読み戻されます。平文が API を越えることはありません | 組み込み | pkg/mcpagg/creds.go、byok.md |
ログの衛生: イベントペイロードの redactPII、URL の資格情報の除去。決定ログはコンテンツハッシュを保存します — 引用されたユーザー内容が残るのは shadow/debug 保持のときだけです | 組み込み | pkg/eventpublisher/redis_publisher.go、pipeline.md §9 |
有効化: 常時オンのパ スには YABANIN_GUARD_MODE。組織、キーラベル、モデル、エンドポイントごとの pseudonymize/mask/deny は方針で設定します。
境界(正直に): オフラインの管轄集合は固定です(RU + 9)。それ以外の管轄には、作成した regex ステップか、呼び出し検出器が必要です。guardhooks の確信度しきい値は 0.9 以上(チェックサム/厳密形式)なので、形式のみの一致は秘匿化されません。仮名化は意図的に、応答へ再置換しません(owner の決定)。原本が必要なワークフローは、帯域外で解決しなければなりません。
LLM03 — サプライチェーン
リスク: 脆弱な依存関係、改ざんされたモデル、または提供経路上の信頼できないコンポーネント。
| 制御 | 状態 | 場所 |
|---|---|---|
品質ゲート内の govulncheck(シンボルレベル)+ go mod verify | 組み込み | make analyze-security、_quality-security(Makefile)、scripts/quality/dep_audit.py |
| 固定されたアナライザ/ツールチェーンのバージョン。検出のトリアージスクリプト | 組み込み | make install-analysis-tools(Makefile)、scripts/security/govulncheck-classify.sh |
| コンテナの堅牢化: 読み取り専用ファイルシステム、no-new-privileges、内部ブリッジネットワーク | 組み込み | security-audit.md |
| モデル供給の制御: モデル許可リストのステップ + キー/チームごとの組織/モデルのホワイトリスト | 組み込み、オプトイン | builtin/model-whitelist、pkg/whitelist |
| 方針/プロンプトの来歴: 方針は git から照合され、git SHA を記録します。判定プロンプトはバージョン付きリソースです | 組み込み | pipeline.md §8、pkg/policystore |
境界(正直に): スキャンの対象は Go のみです。ダッシュボード/サイトの npm ツリーと Docker ベースイメージは、ここでは govulncheck されません。SBOM の生成も証明もありません。モデルは上流のサービスです。ホワイトリストが制約するのは、どのモデルが応答するかであり、その重みの完全性ではありません。モデル来歴の仕組みは対象外です。呼び出しスキャナは、オペレータが許可リストに載せた時点で、信頼境界の内側にあるサードパーティのサービスです。
LLM04 — データとモデルのポイズニング
リスク: 学習/ファインチューニングのデータ、埋め込み、またはキャッシュされた内容が汚染され、挙動が変わります。
Yabanin はファインチューニングも学習データパイプラインも運用しないため、古典的なポイズニング面はここには存在しません。隣接する面は次のとおりです。
| 制御 | 状態 | 場所 |
|---|---|---|
組織ごとのキャッシュキー(cache:{org_id}:…)。組織をまたぐキャッシュ読み取りはありません。セマンティック層は組織ごとに無効化できます(exact/off のプライバシーモード)。切り替えは管理者のみで、監査されます | 組み込み | cache-architecture.md、pkg/cache |
| キャッシュ精度は測定され公開されるため、セマンティックな近似ヒットは、静かな挙動変化ではなく、文書化されたトレードオフです | 組み込み | cache-precision.md |
| 不変の方針バージョンと git 照合(汚染された DB 編集は DRIFT として現れ、apply 時に git によって上書きされます) | 組み込み | pipeline.md §8 |
バージョン付き判定プロンプト(judges/<name>@<version>)。改ざんされたプロンプトが変えるのはバージョンであり、既存参照のセマンティクスではありません | 組み込み | pkg/pipeline/llmjudge |
境界(正直に): ML タスク分類器(pkg/classifier、make train-classifier)は、ゲートウェイのトラフィックメタデータで学習します。その学習コーパスには来歴/証明の連鎖がありません。顧客側のベクトルストアとファインチューニング用データセットは、このコードベースの完全に外側です。
LLM05 — 不適切な出力処理
リスク: モデル出力が、下流のコンテキスト(シェル、SQL、ブラウザ、ツール)へ未検査のまま渡されます。
| 制御 | 状態 | 場所 |
|---|---|---|
出力フック: post_upstream、stream_prefix、stream_final は、応答とストリーム集約に対して同じ方針エンジンを実行します | 組み込み、オプトイン | pipeline.md §2, §7 |
| 構造化出力のチェック: JSON Schema / JSON キーの検証。コード言語の検出。URL スキーム/ホストのチェック | 組み込み、オプトイン | builtin/json-schema、builtin/json-keys、builtin/code-detect、builtin/url-check |
| ストリーミングの安全性: プレフィックスゲートは、バッファされたバイトが解放される前に、捕捉したスナップショットを 1 つ検査します。チャンクキャリーは、完全なプレフィックス一致から学習した置換を、分割された出現を含む後続の出現へ適用しますが、不完全な値や、後から新たに現れる値の検出は保証しません | 組み込み、オプトイン | pipeline.md §7、pkg/pipeline/streaming |
| エージェントがツール結果を見る前の、ツール結果の事後チェック(secrets/PII/deny_regex、flag/mask/deny) | 組み込み、オプトイン | pkg/toolpolicy/guard.go、mcp-gateway.md §7 |
有効化: 出力フックに方針を付与します。出力の種類は、JSON スキーマステップの既定スコープです。
境界(正直に): ゲートウェイは出力をデータとして扱います。下流のレンダラ向けに出力をコンテキストエンコードすることはありません(HTML/SQL/シェルのエスケープは、アプリケーションの仕事のままです)。また、クライアントが結果をどう使うかをサンドボックス化しません。stream_final の deny は、すでにストリームされたバイトを取り消せません。フラグ付きの決定ログレコードへ劣化します(pipeline.md §7)。
LLM06 — 過剰な主体性
リスク: エージェントが、意図したよりも多くのアクション、またはより重大なアクションを実行します。
| 制御 | 状態 | 場所 |
|---|---|---|
エージェントプリンシパルのキー(yag_*)。エージェント以外のキーによるツール呼び出しは拒否されます。X-Agent-Id は入口で除去され、検証済みプリンシパルからのみ再設定されます | 組み込み | pkg/mcpagg/proxy.go、mcp-gateway.md §2 |
| 静的な最小権限: エージェントごとの付与。有効なツール集合 = サーバ許可リスト ∩ 付与許可 リスト。ブロックされた呼び出しは「サーバ利用不可」(404)と区別できません | 組み込み | pkg/mcpagg/catalog.go、mcp-gateway.md §2 |
呼び出しごとのパラメータガード: 引数に対する JSON Schema、max_bytes、deny_regex(出口前の 400)、モデルが宣言した tool_calls に対する組織の拒否方針 | 組み込み、オプトイン | pkg/toolpolicy(tool-policies.md) |
| コスト/影響範囲の上限: エージェントごとの日次予算、タスクごとのトークン予算、組織の RPM/TPM 上限 | 組み込み | pkg/budget/agent.go、agent-governance.md、下記の LLM10 |
完全な帰属: すべての呼び出し → request_logs 行 + ハッシュ連鎖の監査 + gateway_mcp_calls_total / OTel スパン | 組み込み | mcp-gateway.md §2、pkg/auditlog(sha256 連鎖) |
| ネイティブ MCP エンドポイントは同じ呼び出しガード連鎖を再利用します。セッションはステートレスな HMAC 署名です | 組み込み | pkg/mcpserver |
境界(正直に): 付与は静的な有効化です。呼び出しごとの人間による承認/同意のワークフローはありません。エージェントが無人でツールを呼び出すべきでないなら、その付与は存在してはなりません。主体性の制限は、管理者が設定する許可リストの質までしか良くなりません。
LLM07 — システムプロンプトの漏えい
リスク: システムプロンプト(指示、およびその中に埋め込まれたシークレット)が、出力を通じて露呈します。
| 制御 | 状態 | 場所 |
|---|---|---|
応答に対するシークレット形状の検出器(post_upstream / stream_final)は、モデルから出ていくシークレット形状の内容を捕捉します | 自作 | 出力の種類を指定した builtin/secrets |
| 正規プロンプト断片の deny/flag リスト | 自作 | builtin/contains、builtin/regex |
| サーバ側パーシャル: 共有プロンプト断片はプロンプトスタジオにあり、サーバ側で置換されます。クライアントへ送られることはありません | 組み込み | pipeline.md §5(builtin/partials-substitute) |
境界(正直に): 専用のシステムプロンプト漏えい検出器はありません。「このテキストは自社のシステムプロンプトのように見える」という分類器はありません。緩和は方針として作成しなければなりません(contains/regex/judge)。そしてそのどれも、モデルが指示を言い換えることを止められません。シークレットをシステムプロンプトに入れないでください。ゲートウェイは、それらを含むプロンプトを後から修正できません。
LLM08 — ベクトルと埋め込みの弱点
リスク: 埋め込みの反転、テナントをまたぐベクトルの漏えい、汚染された検索。
Yabanin の埋め込みエンドポイントはパススルーです。ゲートウェイは顧客のベクトルストアを運用しません。ゲートウェイ内で最も近いベクトル面は、セマンティックキャッシュです。
| 制御 | 状態 | 場所 |
|---|---|---|
| すべてのキャッシュ層を組織ごとにキー付け。組織をまたぐセマンティックヒットはありません | 組み込み | cache-architecture.md |
組織のプライバシーモード: セマンティック層は exact または off へ切り替えられます。完全一致層は常に組織キーです | 組み込み | cache-architecture.md |
| セマンティック判定の精度/再現率は測定され、公開されます | 組み込み | cache-precision.md |
| キャッシュ方針の変更は管理者のみで、監査されます。TTL とジャニタが古いエントリを制限します | 組み込み | cache-architecture.md |
境界(正直に): 埋め込み反転やメンバーシップ推論の検出は存在しません。類似度のしきい値は、精度と節約を引き換えます。脅威モデルが近似重複の回答を漏えいとみなす組織は、セマンティック層をオフにして運用しなければなりません。
LLM09 — 誤情報
リスク: モデルが、自信を持って虚偽を述べます。
専用の制御では対象外です。 コードベースに根拠チェック、事実性スコアラー、検索検証はありません。このページは、それらがあるかのように装うことを拒否します。存在するものは、隣接する次のものです。
| 制御 | 状態 | 場所 |
|---|---|---|
| 組織が作成した判定ステップは、事実性を含む任意の評価基準に対して出力を採点できます(決定的な temperature、しきい値 → deny/flag) | 自作 | pkg/pipeline/llmjudge |
| 品質サンプリング(evalgate)は、モデルの組/タスククラスごとに判定済み品質を測定します。これは測定であり、防止ではありません | 組み込み | evaluation.md、mcp-gateway.md §2 |
| 管轄リネージの証明は、応答がどこで処理されたかを証明します。処理の来歴であり、内容の真偽ではありません | 組み込み | lineage.md |
LLM10 — 無制限の消費
リスク: 暴走するエージェント、コスト爆弾、リソースの枯渇。
| 制御 | 状態 | 場所 |
|---|---|---|
| 組織の上限: RPM / TPM、入力/出力を分割した TPM(ITPM/OTPM)、キーごとの TPM。`YABANIN_ORG_CAPS=shadow | enforce`。ストアエラー時はフェイルクローズ。ベータの既定値(60 RPM / 200k TPM / $50) | 組み込み |
キー/チームごとのレート制限(YABANIN_KEY_RATE_LIMITS)。リトライ時のフェアシェア優先度 | 組み込み、オプトイン | pkg/gateway/ratelimit.go |
| 予約付きの予算: チームの月次 / エージェントの日次ハードリミット → 429。フェイルクローズの受付(ストア障害 = 503。支出は決して無制限になりません)。ソフトリミットはログに記録されます | 組み込み | pkg/budget、security-audit.md、runbooks/budget-reservations-alerts.md |
サーキットブレーカ。エンドポイントごと、またはグローバル(YABANIN_CIRCUIT_SCOPE)。フラッピングする上流は、支出の消費を止めます | 組み込み | pkg/circuit、pkg/gateway/circuit_wiring.go |
あらゆる箇所で処理量を制限: ストリーミングのプレフィックスバッファ(64 トークン / 500 ms)、制限された MCP プロキシのタイムアウトと最大応答サイズ、呼び出しのシングルフライトとステップごとのタイムアウト、正規表現の max_input 上限(既定 1 MiB / ハード上限 64 MiB) | 組み込み | pipeline.md、mcp-gateway.md |
ループの可視性: gateway_mcp_calls_total、gateway_policy_*、支出の利用分析 | 組み込み | mcp-gateway.md §2、analytics.md |
境界(正直に): 既定の上限はベータの既定値です。それらを引き上げる導入は、その結果の責任を負います。レート上限は組織ごと/キーごとであり、エンドユーザーごとではありません。1 つのキーの背後に多数の人がいる組織には、キーレベルの上限か上流のクォータが必要です。プロバイダごとのブレーカ分離(現在はグローバルブレーカが 1 つ)は、OUTPLAY の経路カード(OP-18)で追跡されている既知の欠陥です。
制御の有効化 — クイックリファレンス
| 層 | スイッチ | 既定 |
|---|---|---|
| ガードフック(チャット出口とツールパラメータ上の PII/シークレット/インジェクション) | YABANIN_GUARD_MODE=log|redact|deny | off |
| 方針パイプライン | YABANIN_POLICY_MODE=shadow|enforce + 付与された方針 | off |
| ソブリン既定パック(PII + シークレット + インジェクション) | yb policies reconcile --include-pack、無効のまま配置 | off |
| MCP/A2A 上のツールガードレール | 組織のツール方針 + サーバごとのルール | off(ルールなし = パススルー) |
| MCP/A2A/ネイティブ MCP の面 | YABANIN_MCP_GATEWAY=1(+ A2A 相当) | off |
| 組織の上限 / キー制限 | YABANIN_ORG_CAPS=enforce / YABANIN_KEY_RATE_LIMITS | shadow / off |
| 呼び出しの出口 | YABANIN_POLICY_CALLOUT_ALLOW_HOSTS | 空 = 呼び出しステップは利用不可(フェイルクローズ) |
| MCP 上流の出口 | YABANIN_MCP_ALLOWED_UPSTREAMS | 空 = すべてのホストを拒否(フェイルクローズ) |
すべての出口ノブの既定拒否の姿勢は意図的です。何も設定されていなければ、何も外部へ発信しません。
関連
- 方針パイプライン — 強制エンジンとその失敗モード
- MCP ゲートウェイ — ツール面の脅威モデル(R1–R10)
- ツール方針、エージェントガバナンス
- セキュリティ態勢 — 認証の面、保存時のシークレット、サプライチェーン
- セキュリティ監査 — CVE スキャンと OUTPLAY 脅威モデルの補遺