Unduh model lokal

BCCLI v0.4 tidak menyertakan pengunduh model terpisah. Ini disengaja: runtime yang akan melayani model itulah yang tahu format berkas, kuantisasi, dan direktori yang dibutuhkannya, dan BCCLI bukan runtime itu.

Versi singkat

1. Unduh dan tempatkan model dengan runtime atau provider yang sudah Anda pakai.
2. Pastikan runtime itu berjalan dan bisa dijangkau.
3. Tanyakan ke BCCLI apa yang bisa dilihatnya:

bccli models

Bila model ada di daftar itu, ia siap dipakai dengan bccli -m provider/model. Bila tidak ada, BCCLI tidak bisa menjangkaunya, apa pun kata berkas di disk.

Memilih model yang muat

Model yang tidak muat di memori akan dimuat lambat atau tidak sama sekali, dan kegagalannya terlihat seperti pemasangan yang rusak. Periksa ukurannya sebelum mengunduh: Local AI membahas kecocokan perangkat keras, dan Kebutuhan sistem membahas runtime-nya sendiri.

Ke mana berkasnya diletakkan

Direktori unduhan milik runtime, bukan milik BCCLI. Letakkan model di tempat runtime itu mencari model — biasanya direktori models yang Anda atur saat memasangnya — dan BCCLI akan menemukannya lewat daftar provider yang sama seperti model lokal lain.

Selanjutnya

• Unduhan model lokal — langkah unduh milik runtime.
• Memakai model di BCCLI — memaku model lokal ke satu jalannya.