Pengenalan
Yabanin — Your Agnostic Bridge Across Numerous Inference Networks (akronim songsang Y·A·B·A·N·I·N; pakej github.com/reireirei/yabanin, nama kod CLI yabanin) ialah
gerbang AI serasi OpenAI yang melakukan tiga perkara dalam satu satah kawalan:
- Nilai kos — audit perbelanjaan tempatan memisahkan anggaran berasaskan penggunaan dan simulasi cache/penghalaan. Penjimatan bergantung pada beban kerja dan kualiti output yang boleh diterima.
- Kawal pengendalian permintaan — penghalaan penyedia, cubaan semula dan sandaran boleh menambah baik ketahanan dalam pelaksanaan yang dikonfigurasi dan had kegagalan.
- Periksa bukti permintaan — rekod salasilah bertandatangan pilihan merekodkan model, bukti rantau dan bidang kuasa log. Tandatangan mengesahkan tuntutan yang direkodkan, bukan secara bebas lokasi pemprosesan fizikal.
Yabanin merangkumi gerbang kendalian sendiri dan perkhidmatan sokongan. Nilaikan seluruh laluan permintaan, termasuk penyedia luaran, storan dan endpoint model tempatan, bagi keperluan pelaksanaan anda. Gerbang kendalian sendiri sahaja tidak mengekalkan inferens luaran secara tempatan.
Seni bina
Seni bina penyelesaian menerangkan pemilikan komponen, pemprosesan permintaan, storan bukti, laluan MCP dan pelaksanaan dengan rajah Mermaid.
Client ──► Gateway (:8082) ──► Upstream provider (OpenAI / Anthropic / sovereign / open-weights)
│ ├─ Postgres 16 (sessions, rules, models, lineage ledger, audit logs)
│ ├─ Redis 7 (semantic cache, event stream, rate limiting)
│ └─ Embedder (sentence-transformers / bge for semantic caching)
│
├─ Loggerd (:8085) ←── Redis stream consumer → Postgres persistence
├─ Admin (:8086) — Control plane API, dashboard, policy management
└─ MCP (:8787/SSE) — Partner bridge (stdio + HTTP-SSE)
Satu binari, empat komponen. Binari yabanin yang disatukan menjalankan setiap komponen dalam proses (yabanin [gateway|admin|loggerd|mcp]; tanpa tindanan compose, yabanin dev memulakan seluruh tindanan dalam satu proses). Binari legasi per komponen (yabanin-gateway, yabanin-loggerd, yabanin-admin, yabanin-migrate) masih dibina untuk imej Docker tetapi bukan laluan utama. Gerbang membaca peraturan daripada Postgres dan menerbitkan peristiwa ke
Redis; loggerd ialah pengguna strim Redis yang menulis log permintaan; admin ialah satah kawalan
bagi dasar, residensi, pengesahan salasilah, dan pelaporan pematuhan; mcp merapatkan integrasi rakan kongsi dan
ejen melalui Model Context Protocol.
Apa yang sudah dibina
Repositori ini merangkumi kawasan berikut yang sudah dibina. “Sudah dibina” bukan pensijilan kesediaan enterprise; senario pelaksanaan dan kegagalan memerlukan pengesahan khusus persekitaran.
| Lapisan | Status |
|---|---|
| proxy serasi OpenAI + penstriman SSE | Sudah dibina |
| Berbilang penyedia + sandaran + pemutus litar + cubaan semula | Sudah dibina |
| Cache semantik (pgvector + Redis) | Sudah dibina |
| Pengelas tugasan (peraturan V0 + ML V1) | Sudah dibina |
| Papan pemuka kos / FinOps (React + Vite) | Sudah dibina (halaman kos/kredit/cache/pengelas) |
| Pengebilan kredit prabayar, bajet pasukan, amaran perbelanjaan | Sudah dibina |
| Had organisasi & kredit beta (RPM/TPM gagal tertutup per organisasi, 402 apabila kredit habis, geran permulaan, paparan kredit berskop organisasi) | Sudah dibina — lihat Persediaan organisasi |
| Pengesahan salasilah bidang kuasa (Ed25519) | Sudah dibina |
| Aktif-aktif berbilang rantau (RLS + failover) | Sudah dibina |
| Penyewa tunggal jurang udara / di premis sendiri + lesen/PKI | Sudah dibina |
| Pendaftaran model berdaulat + pek dasar Asia (SG/IN/ID/JP) | Sudah dibina (penyesuai serasi OpenAI, bukan perkongsian) |
| SOC 2 / ISO 27001 | 📝 Lembaran kerja draf kawalan, tidak disahkan — jangan kemukakan sebagai pensijilan |
| Rantaian cincang audit | Sudah dibina — laluan tulis pentadbir menulis baris bukti gangguan (ENT-03: row_hash = sha256(prev_hash | serialized row), rantai bersambung di bawah keserentakan, disahkan hujung ke hujung oleh latih tubi DR dan ujian integrasi) |
| Akses JIT | 📝 Pakej pkg/jitaccess dan ujian wujud; pendawaian pentadbir akan datang — jangan kemukakan sebagai sudah dikeluarkan |
| KMS (AWS) | 📝 Stub gagal tertutup — hanya penyedia local / file disambungkan dan diuji; AWS KMS akan datang |
| Pelayan MCP | Sudah dibina |
| Saluran dasar (YPP) — dasar YAML deklaratif atas trafik gerbang: 20 langkah pengesan/mutator terbina dalam, panggilan keluar HTTP luaran (dijaga SSRF), hakim LLM, pencabangan bersyarat, pelancaran bayang→kuatkuasa, penyelarasan git-sebagai-kod, log keputusan | Sudah dibina — lihat Saluran Dasar |
| Studio prompt (bahagian belakang) — prompt organisasi berversi, ikatan label, templat separa, render semasa permintaan | Sudah dibina (API; UI konsol sedang dibangunkan) |
Identiti enterprise — peruntukan SCIM 2.0 (/scim/v2), SSO pentadbir SAML 2.0, pengesahan JWT→kunci gerbang (JWKS) | Sudah dibina — lihat SSO (OIDC), SSO (SAML) |
| Eksport kebolehcerapan — log permintaan melalui OTLP/HTTP dengan atribut konvensyen semantik GenAI; eksport log S3/GCS; tangkapan invois penyelarasan perbelanjaan | Sudah dibina |
Kitar hayat ejen (kunci ejen yag_, delegasi dengan TTL & siling geran, profil peranan, bajet per ejen/tugasan, geran alat MCP, analitik kos tag tugasan, eval sebagai pintu PR) | Sudah dibina — lihat Tadbir Urus Ejen dan Pembangunan Berasaskan Ejen |
BYOK — kunci penyedia organisasi (kelayakan huluan per organisasi, disulitkan enc: semasa rehat, bertopeng dalam API/UI, RLS terasing organisasi) | Sudah dibina — lihat BYOK |
| Jemputan ahli & onboarding alu-aluan (token jemputan, aliran log masuk pertama 3 langkah: kunci penyedia → kunci gerbang → konfigurasi klien) | Sudah dibina — lihat Persediaan organisasi |
| Maklum balas pemilik & telemetri beta (halaman maklum balas, paparan metrik beta, papan pemuka Grafana, halaman status, amaran Telegram) | Sudah dibina — lihat Operasi dan runbook stand awam |
| SDK (Go / Node / Python) | 📝 Beta — pembungkus nipis, Python/Node sepadan dengan API yang didokumenkan |
| Pek menegak (kewangan, kesihatan, undang-undang, …) | 📝 Praset peraturan residensi bertip + cangkuk salasilah, bukan modul Halal/HIPAA/ITAR yang disahkan |
Jalankan pintu kualiti dalam AGENTS.md repositori terhadap checkout anda. Hasil ujian lampau tidak mengesahkan pelaksanaan baharu.
Ke mana seterusnya
- Cuba tanpa memasang: stand demo awam — yabanin.ai (dokumen, papan pemuka dan gerbang; lihat Stand awam)
- Jalankan secara tempatan: Panduan pembangunan
- Bawa kunci penyedia sendiri: BYOK
- Terokai kawalan kos: Cache semantik · Pengelas tugasan
- Tadbir trafik ejen: Saluran dasar · Tadbir urus ejen · Gerbang MCP
- Terokai kawalan rantau: Pengesahan salasilah · Pek dasar residensi · Model berdaulat · Berbilang rantau
- Kendalikannya: Runbook pengeluaran · Tindak balas insiden