メインコンテンツまでスキップ

LLM アプリケーション向け OWASP Top-10 — Yabanin の制御マッピング

このページは、**LLM アプリケーション向け OWASP Top-10(2025/2026 リスト)**を、Yabanin のコードベースに実際に存在する制御へ対応付けます。各制御が何であるか、どう有効にするか、そして正直に、対象がどこで終わるかを示します。すべての制御は、そのコードパスまたはドキュメントを明示します。このページの内容は、ロードマップを出荷済みソフトウェアのように装ったものではありません(計画中の項目はそのようにラベルされています)。

Yabanin はゲートウェイであり、LLM アプリケーションではありません。以下のリスクの多くは、ゲートウェイの背後にあるアプリケーションが何をするかに関するものです。ゲートウェイの役割は、それらのアプリケーションが回避できない強制点をオペレータに与えることです。方針は管理者が所有し、組織スコープであり、リクエスト単位ではありません(方針パイプライン §1)。

状態の凡例: 組み込み(コードに同梱されます)、オプトイン(組み込みですが、既定ではオフです。設定または方針で有効にします)、自作(専用の制御はありません。オペレータがパイプラインのプリミティブから作成します)、対象外(制御はありません。存在すると誰も思い込まないよう、名前を挙げています)。

LLM01 — プロンプトインジェクション​

リスク: 信頼できない入力がモデルを誘導します(直接、またはツール結果や取得したドキュメントを経由して間接的に)。

制御状態場所
決定的なインジェクション語句の検出器(RU + EN)組み込み、オプトインpkg/guardhooks/finding.go(regex:injection)、パイプラインステップ builtin/injection(pipeline.md §5)
出口とツールパラメータ上のガードモード: off / log / redact / deny組み込み、オプトインpkg/guardhooks/hook.go、YABANIN_GUARD_MODE(agent-governance.md)
組織ごとのカスタム拒否/許可リスト(contains、regex ステップ)自作builtin/contains、builtin/regex(RE2、展開ボムに対して安全)
セマンティックなセカンドオピニオン自作llm_judge ステップ(pkg/pipeline/llmjudge)— 組織が作成した判定プロンプト。temperature は 0 に固定
外部スキャナの呼び出し(自社運用の Presidio、Lakera クラス)自作pkg/pipeline/callout — 出口の許可リスト + SSRF ガード
影響範囲の縮小: エージェントごとのツール付与、許可リストの交差、引数のスキーマ/正規表現ガード、結果の事後チェック組み込み、オプトインpkg/mcpagg、pkg/toolpolicy(mcp-gateway.md §7、tool-policies.md)
パイプラインの自己保護: ゲートウェイ自身が行う判定呼び出しは内部マーカー judge=true を持ち、免除されます。受信リクエストが X-Yabanin-Judge を提示した場合(任意の値。空でも重複でも)は免除ではなく拒否されるため、敵対的なペイロードは再帰を引き起こせません。未知のステップアクションは deny として評価されます組み込みpipeline.md §6.2、pkg/pipeline/engine.go

有効化: YABANIN_GUARD_MODE=redact|deny を設定するか、pre_upstream / tool_pre 上で builtin/injection を持つ方針を付与します。deploy/policies/_pack/sovereign-default.yaml パックに含まれています(同梱時はオフ — pipeline.md §8)。

境界(正直に): 検出は決定的な語句/正規表現のマッチです。組み込みのセマンティックなインジェクション分類器はありません。想定される答えは、判定/呼び出しステップです。ツールの結果の中に届く間接インジェクションは、ルールの事後チェック(secrets/PII/deny_regex)によってスキャンされ、セマンティクスによってはスキャンされません。security-audit.md に書かれたパイプライン前の姿勢(「プロンプトインジェクションは本質的です」)は、ガードを一度も有効にしない導入でも依然として成り立ちます。

LLM02 — 機密情報の漏えい​

リスク: PII/シークレットが、プロンプト、応答、ログ、または他の組織の手に漏れます。

制御状態場所
チェックサム検証付きの各国 PII 検出器: RU(INN、SNILS、国内パスポート、OGRN、電話)+ BR/IN/MY/AE/ZA/NG/KE/EG、Luhn 付き PAN組み込み、オプトインpkg/guardhooks/finding.go、pkg/guardhooks/ru_ids.go。パイプライン builtin/national-pii
シークレット形状の検出器(プロバイダキー、PEM、JWT)+ 資格情報をキーにした JSON 値組み込み、オプトインpkg/guardhooks/credkeys.go。パイプライン builtin/secrets(証拠は [REDACTED_SECRET] として引用)
秘匿化と可逆的な仮名化({{YPP_n}} エイリアス。送信方向のみ — 応答への逆置換はしません)組み込み、オプトインbuiltin/redact、builtin/pseudonymize(pipeline.md §5)
データ境界の経路: PII が見つかったとき、モデルをリージョン内のものへ書き換えます組み込み、オプトインbuiltin/model-rewrite(pipeline.md §5)
呼び出しの射影は、ゲートウェイの外へ出るものを制限します(messages / fields:a,b。メタデータは決して外へ出ません)組み込みpkg/pipeline/callout、pipeline.md §6.1
保存時の暗号化: enc: の AES-256-GCM エンベロープ。書き込みはフェイルクローズ組み込みpkg/encryption、mcp-gateway.md §6
組織の分離: トランザクションごとに app.current_org GUC を固定した行レベルセキュリティ組み込みpkg/adminstore、pkg/mcpagg(sqlcontract テスト)
マスクされた読み取り: BYOK キーと MCP の資格情報は、末尾 4 文字 / has_secret のみとして読み戻されます。平文が API を越えることはありません組み込みpkg/mcpagg/creds.go、byok.md
ログの衛生: イベントペイロードの redactPII、URL の資格情報の除去。決定ログはコンテンツハッシュを保存します — 引用されたユーザー内容が残るのは shadow/debug 保持のときだけです組み込みpkg/eventpublisher/redis_publisher.go、pipeline.md §9

有効化: 常時オンのパスには YABANIN_GUARD_MODE。組織、キーラベル、モデル、エンドポイントごとの pseudonymize/mask/deny は方針で設定します。

境界(正直に): オフラインの管轄集合は固定です(RU + 9)。それ以外の管轄には、作成した regex ステップか、呼び出し検出器が必要です。guardhooks の確信度しきい値は 0.9 以上(チェックサム/厳密形式)なので、形式のみの一致は秘匿化されません。仮名化は意図的に、応答へ再置換しません(owner の決定)。原本が必要なワークフローは、帯域外で解決しなければなりません。

LLM03 — サプライチェーン​

リスク: 脆弱な依存関係、改ざんされたモデル、または提供経路上の信頼できないコンポーネント。

制御状態場所
品質ゲート内の govulncheck(シンボルレベル)+ go mod verify組み込みmake analyze-security、_quality-security(Makefile)、scripts/quality/dep_audit.py
固定されたアナライザ/ツールチェーンのバージョン。検出のトリアージスクリプト組み込みmake install-analysis-tools(Makefile)、scripts/security/govulncheck-classify.sh
コンテナの堅牢化: 読み取り専用ファイルシステム、no-new-privileges、内部ブリッジネットワーク組み込みsecurity-audit.md
モデル供給の制御: モデル許可リストのステップ + キー/チームごとの組織/モデルのホワイトリスト組み込み、オプトインbuiltin/model-whitelist、pkg/whitelist
方針/プロンプトの来歴: 方針は git から照合され、git SHA を記録します。判定プロンプトはバージョン付きリソースです組み込みpipeline.md §8、pkg/policystore

境界(正直に): スキャンの対象は Go のみです。ダッシュボード/サイトの npm ツリーと Docker ベースイメージは、ここでは govulncheck されません。SBOM の生成も証明もありません。モデルは上流のサービスです。ホワイトリストが制約するのは、どのモデルが応答するかであり、その重みの完全性ではありません。モデル来歴の仕組みは対象外です。呼び出しスキャナは、オペレータが許可リストに載せた時点で、信頼境界の内側にあるサードパーティのサービスです。

LLM04 — データとモデルのポイズニング​

リスク: 学習/ファインチューニングのデータ、埋め込み、またはキャッシュされた内容が汚染され、挙動が変わります。

Yabanin はファインチューニングも学習データパイプラインも運用しないため、古典的なポイズニング面はここには存在しません。隣接する面は次のとおりです。

制御状態場所
組織ごとのキャッシュキー(cache:{org_id}:…)。組織をまたぐキャッシュ読み取りはありません。セマンティック層は組織ごとに無効化できます(exact/off のプライバシーモード)。切り替えは管理者のみで、監査されます組み込みcache-architecture.md、pkg/cache
キャッシュ精度は測定され公開されるため、セマンティックな近似ヒットは、静かな挙動変化ではなく、文書化されたトレードオフです組み込みcache-precision.md
不変の方針バージョンと git 照合(汚染された DB 編集は DRIFT として現れ、apply 時に git によって上書きされます)組み込みpipeline.md §8
バージョン付き判定プロンプト(judges/<name>@<version>)。改ざんされたプロンプトが変えるのはバージョンであり、既存参照のセマンティクスではありません組み込みpkg/pipeline/llmjudge

境界(正直に): ML タスク分類器(pkg/classifier、make train-classifier)は、ゲートウェイのトラフィックメタデータで学習します。その学習コーパスには来歴/証明の連鎖がありません。顧客側のベクトルストアとファインチューニング用データセットは、このコードベースの完全に外側です。

LLM05 — 不適切な出力処理​

リスク: モデル出力が、下流のコンテキスト(シェル、SQL、ブラウザ、ツール)へ未検査のまま渡されます。

制御状態場所
出力フック: post_upstream、stream_prefix、stream_final は、応答とストリーム集約に対して同じ方針エンジンを実行します組み込み、オプトインpipeline.md §2, §7
構造化出力のチェック: JSON Schema / JSON キーの検証。コード言語の検出。URL スキーム/ホストのチェック組み込み、オプトインbuiltin/json-schema、builtin/json-keys、builtin/code-detect、builtin/url-check
ストリーミングの安全性: プレフィックスゲートは、バッファされたバイトが解放される前に、捕捉したスナップショットを 1 つ検査します。チャンクキャリーは、完全なプレフィックス一致から学習した置換を、分割された出現を含む後続の出現へ適用しますが、不完全な値や、後から新たに現れる値の検出は保証しません組み込み、オプトインpipeline.md §7、pkg/pipeline/streaming
エージェントがツール結果を見る前の、ツール結果の事後チェック(secrets/PII/deny_regex、flag/mask/deny)組み込み、オプトインpkg/toolpolicy/guard.go、mcp-gateway.md §7

有効化: 出力フックに方針を付与します。出力の種類は、JSON スキーマステップの既定スコープです。

境界(正直に): ゲートウェイは出力をデータとして扱います。下流のレンダラ向けに出力をコンテキストエンコードすることはありません(HTML/SQL/シェルのエスケープは、アプリケーションの仕事のままです)。また、クライアントが結果をどう使うかをサンドボックス化しません。stream_final の deny は、すでにストリームされたバイトを取り消せません。フラグ付きの決定ログレコードへ劣化します(pipeline.md §7)。

LLM06 — 過剰な主体性​

リスク: エージェントが、意図したよりも多くのアクション、またはより重大なアクションを実行します。

制御状態場所
エージェントプリンシパルのキー(yag_*)。エージェント以外のキーによるツール呼び出しは拒否されます。X-Agent-Id は入口で除去され、検証済みプリンシパルからのみ再設定されます組み込みpkg/mcpagg/proxy.go、mcp-gateway.md §2
静的な最小権限: エージェントごとの付与。有効なツール集合 = サーバ許可リスト ∩ 付与許可リスト。ブロックされた呼び出しは「サーバ利用不可」(404)と区別できません組み込みpkg/mcpagg/catalog.go、mcp-gateway.md §2
呼び出しごとのパラメータガード: 引数に対する JSON Schema、max_bytes、deny_regex(出口前の 400)、モデルが宣言した tool_calls に対する組織の拒否方針組み込み、オプトインpkg/toolpolicy(tool-policies.md)
コスト/影響範囲の上限: エージェントごとの日次予算、タスクごとのトークン予算、組織の RPM/TPM 上限組み込みpkg/budget/agent.go、agent-governance.md、下記の LLM10
完全な帰属: すべての呼び出し → request_logs 行 + ハッシュ連鎖の監査 + gateway_mcp_calls_total / OTel スパン組み込みmcp-gateway.md §2、pkg/auditlog(sha256 連鎖)
ネイティブ MCP エンドポイントは同じ呼び出しガード連鎖を再利用します。セッションはステートレスな HMAC 署名です組み込みpkg/mcpserver

境界(正直に): 付与は静的な有効化です。呼び出しごとの人間による承認/同意のワークフローはありません。エージェントが無人でツールを呼び出すべきでないなら、その付与は存在してはなりません。主体性の制限は、管理者が設定する許可リストの質までしか良くなりません。

LLM07 — システムプロンプトの漏えい​

リスク: システムプロンプト(指示、およびその中に埋め込まれたシークレット)が、出力を通じて露呈します。

制御状態場所
応答に対するシークレット形状の検出器(post_upstream / stream_final)は、モデルから出ていくシークレット形状の内容を捕捉します自作出力の種類を指定した builtin/secrets
正規プロンプト断片の deny/flag リスト自作builtin/contains、builtin/regex
サーバ側パーシャル: 共有プロンプト断片はプロンプトスタジオにあり、サーバ側で置換されます。クライアントへ送られることはありません組み込みpipeline.md §5(builtin/partials-substitute)

境界(正直に): 専用のシステムプロンプト漏えい検出器はありません。「このテキストは自社のシステムプロンプトのように見える」という分類器はありません。緩和は方針として作成しなければなりません(contains/regex/judge)。そしてそのどれも、モデルが指示を言い換えることを止められません。シークレットをシステムプロンプトに入れないでください。ゲートウェイは、それらを含むプロンプトを後から修正できません。

LLM08 — ベクトルと埋め込みの弱点​

リスク: 埋め込みの反転、テナントをまたぐベクトルの漏えい、汚染された検索。

Yabanin の埋め込みエンドポイントはパススルーです。ゲートウェイは顧客のベクトルストアを運用しません。ゲートウェイ内で最も近いベクトル面は、セマンティックキャッシュです。

制御状態場所
すべてのキャッシュ層を組織ごとにキー付け。組織をまたぐセマンティックヒットはありません組み込みcache-architecture.md
組織のプライバシーモード: セマンティック層は exact または off へ切り替えられます。完全一致層は常に組織キーです組み込みcache-architecture.md
セマンティック判定の精度/再現率は測定され、公開されます組み込みcache-precision.md
キャッシュ方針の変更は管理者のみで、監査されます。TTL とジャニタが古いエントリを制限します組み込みcache-architecture.md

境界(正直に): 埋め込み反転やメンバーシップ推論の検出は存在しません。類似度のしきい値は、精度と節約を引き換えます。脅威モデルが近似重複の回答を漏えいとみなす組織は、セマンティック層をオフにして運用しなければなりません。

LLM09 — 誤情報​

リスク: モデルが、自信を持って虚偽を述べます。

専用の制御では対象外です。 コードベースに根拠チェック、事実性スコアラー、検索検証はありません。このページは、それらがあるかのように装うことを拒否します。存在するものは、隣接する次のものです。

制御状態場所
組織が作成した判定ステップは、事実性を含む任意の評価基準に対して出力を採点できます(決定的な temperature、しきい値 → deny/flag)自作pkg/pipeline/llmjudge
品質サンプリング(evalgate)は、モデルの組/タスククラスごとに判定済み品質を測定します。これは測定であり、防止ではありません組み込みevaluation.md、mcp-gateway.md §2
管轄リネージの証明は、応答がどこで処理されたかを証明します。処理の来歴であり、内容の真偽ではありません組み込みlineage.md

LLM10 — 無制限の消費​

リスク: 暴走するエージェント、コスト爆弾、リソースの枯渇。

制御状態場所
組織の上限: RPM / TPM、入力/出力を分割した TPM(ITPM/OTPM)、キーごとの TPM。`YABANIN_ORG_CAPS=shadowenforce`。ストアエラー時はフェイルクローズ。ベータの既定値(60 RPM / 200k TPM / $50)組み込み
キー/チームごとのレート制限(YABANIN_KEY_RATE_LIMITS)。リトライ時のフェアシェア優先度組み込み、オプトインpkg/gateway/ratelimit.go
予約付きの予算: チームの月次 / エージェントの日次ハードリミット → 429。フェイルクローズの受付(ストア障害 = 503。支出は決して無制限になりません)。ソフトリミットはログに記録されます組み込みpkg/budget、security-audit.md、runbooks/budget-reservations-alerts.md
サーキットブレーカ。エンドポイントごと、またはグローバル(YABANIN_CIRCUIT_SCOPE)。フラッピングする上流は、支出の消費を止めます組み込みpkg/circuit、pkg/gateway/circuit_wiring.go
あらゆる箇所で処理量を制限: ストリーミングのプレフィックスバッファ(64 トークン / 500 ms)、制限された MCP プロキシのタイムアウトと最大応答サイズ、呼び出しのシングルフライトとステップごとのタイムアウト、正規表現の max_input 上限(既定 1 MiB / ハード上限 64 MiB)組み込みpipeline.md、mcp-gateway.md
ループの可視性: gateway_mcp_calls_total、gateway_policy_*、支出の利用分析組み込みmcp-gateway.md §2、analytics.md

境界(正直に): 既定の上限はベータの既定値です。それらを引き上げる導入は、その結果の責任を負います。レート上限は組織ごと/キーごとであり、エンドユーザーごとではありません。1 つのキーの背後に多数の人がいる組織には、キーレベルの上限か上流のクォータが必要です。プロバイダごとのブレーカ分離(現在はグローバルブレーカが 1 つ)は、OUTPLAY の経路カード(OP-18)で追跡されている既知の欠陥です。

制御の有効化 — クイックリファレンス​

層スイッチ既定
ガードフック(チャット出口とツールパラメータ上の PII/シークレット/インジェクション)YABANIN_GUARD_MODE=log|redact|denyoff
方針パイプラインYABANIN_POLICY_MODE=shadow|enforce + 付与された方針off
ソブリン既定パック(PII + シークレット + インジェクション)yb policies reconcile --include-pack、無効のまま配置off
MCP/A2A 上のツールガードレール組織のツール方針 + サーバごとのルールoff(ルールなし = パススルー)
MCP/A2A/ネイティブ MCP の面YABANIN_MCP_GATEWAY=1(+ A2A 相当)off
組織の上限 / キー制限YABANIN_ORG_CAPS=enforce / YABANIN_KEY_RATE_LIMITSshadow / off
呼び出しの出口YABANIN_POLICY_CALLOUT_ALLOW_HOSTS空 = 呼び出しステップは利用不可(フェイルクローズ)
MCP 上流の出口YABANIN_MCP_ALLOWED_UPSTREAMS空 = すべてのホストを拒否(フェイルクローズ)

すべての出口ノブの既定拒否の姿勢は意図的です。何も設定されていなければ、何も外部へ発信しません。