BotConnector

Penggunaan offline

Penggunaan offline dimungkinkan, tapi itu sifat dari tempat model berjalan, bukan saklar yang Anda nyalakan.

Yang berjalan offline

Local AI, setelah runtime dan modelnya sudah ada di mesin. Request menuju loopback dan tidak pernah keluar:

bccli -m provider/model

Pemasangan, berkas model, dan runtime harus sudah siap sebelum Anda memutus koneksi — tidak ada yang diunduh saat request.

Yang tidak

BotConnector Cloud membutuhkan akses internet. Begitu juga apa pun yang secara eksplisit menjangkau jaringan: pencarian web, tool remote, Model ID cloud, dan layar Workspace yang Anda pakai untuk mengelola key atau tagihan.

Perbedaan itu layak diketahui sebelum naik pesawat atau berkunjung ke lokasi: sesi yang dipaku ke model lokal tetap berjalan, sementara yang dipaku ke model cloud berhenti dengan error jaringan, dan keduanya terlihat sama persis sampai request dibuat.

Merencanakan sekitar itu

Bila Anda butuh sesi yang bertahan melewati pemutusan koneksi, pilih provider lokal di depan alih-alih berganti di tengah tugas. Berganti mudah selama jaringan hidup dan mustahil setelah mati.

Selanjutnya