Gunakan Local AI di BCCLI

Setelah runtime lokal berjalan dan provider-nya terdaftar, modelnya duduk di daftar yang sama dengan model cloud. BCCLI bisa memakai Ollama — lokal maupun cloud — LM Studio, dan provider kompatibel OpenAI lain tanpa mode terpisah.

Periksa daftarnya

bccli models

Setiap entri adalah provider/model. Model lokal muncul saat runtime-nya berjalan dan modelnya tersedia; daftar yang sama juga menampilkan model BotConnector Cloud bila Anda memasukinya.

Paku model lokal

bccli -m provider/model

Di dalam sesi, /provider dan /model berganti tanpa memulai ulang — cara cepat membandingkan model lokal dengan model cloud pada tugas yang sama.

Apa yang berubah saat modelnya lokal

Request tidak pernah meninggalkan mesin, jadi jawabannya tersedia offline — selama runtime dan berkas modelnya sudah ada. Yang Anda lepaskan adalah katalognya: model lokal adalah apa pun yang Anda unduh, secepat mesin ini menjalankannya.

Sebaliknya, bila panggilan lokal gagal sementara yang cloud berjalan, runtime-lah tempat mencarinya, bukan BCCLI. Periksa ia berjalan di alamat loopback yang diharapkan CLI.

Selanjutnya

• Setup provider Local AI — bila provider belum ada di daftar.
• Penggunaan offline — apa yang tetap berjalan tanpa jaringan.