Pilihan pelaksanaan
Yabanin berjalan di tempat anda meletakkannya. Gerbang mengawal trafik yang dikonfigurasi; tempat inferens berjalan bergantung pada endpoint model yang anda konfigurasikan.
Konfigurasi tempatan sahaja
Gunakan inferens tempatan (cth. llama.cpp di belakang gerbang) apabila beban kerja mesti kekal di dalam persekitaran yang anda pilih. Sahkan peraturan rangkaian dan rantai kebergantungan yang penuh — termasuk alat, telemetri, log dan sandaran.
Lihat: senarai semak jurang udara.
Konfigurasi awan yang diluluskan
Jalankan Yabanin dalam VPC anda atau di premis sendiri dan konfigurasikan laluan inferens luaran yang diluluskan (penyedia serasi OpenAI). Semak terma penyedia dan tetapan data bagi setiap perkhidmatan dan ciri yang didayakan.
Lihat: panduan pemasangan.
Sempadan
Kendalian sendiri bagi gerbang tidak menukar inferens luaran menjadi inferens tempatan. Kedua-dua konfigurasi memerlukan pemasangan yang selamat dan operasi yang berterusan. Untuk soalan pengendalian data yang perlu dijawab sebelum peluasan, lihat senarai semak kesediaan ejen.