BotConnector

Pengelolaan model lokal

BCCLI v0.4 tidak menyertakan perintah unduh model terpisah, dan itu batas, bukan kekurangan. Mengunduh adalah tugas runtime: ia yang memiliki direktori, format berkas, dan kuantisasi yang bisa dilayaninya.

Alurnya

  1. Unduh atau impor model dengan runtime yang Anda pakai — Ollama, LM Studio, atau server kompatibel OpenAI mana pun.
  2. Pastikan runtime itu berjalan di mesin ini.
  3. Daftarkan sekali:
bccli provider list
bccli provider add <id>
  1. Pastikan modelnya masuk:
bccli models

Bila ada di daftar itu, ia bisa dipakai dengan bccli -m provider/model.

Mengelola provider

bccli provider remove <id>

Menghapus provider dari BCCLI. Menghapusnya tidak menghapus berkas model dan tidak menyentuh kredensial provider lain — ia hanya berhenti menawarkan model yang tidak lagi bisa dijangkau.

Kenapa tidak ada bccli get

Perintah unduh di dalam CLI harus menebak format dan direktori yang diharapkan runtime Anda, dan tebakannya akan salah bagi siapa pun yang memakai runtime lain. Runtime yang sudah Anda miliki adalah tempat yang benar untuk mengambil keputusan itu.

Selanjutnya