Download model lokal

BCCLI v0.4 tidak menyertakan pengunduh model terpisah. Mengunduh adalah tugas runtime: ia yang tahu format, kuantisasi, dan direktori yang dibutuhkannya, dan BCCLI hanya perlu tahu apa yang akhirnya dilayani runtime itu.

Unduh lewat runtime

Ikuti instruksi runtime itu sendiri — direktori model yang Anda atur sekali, lalu tarik atau impor per model. Berkasnya mendarat di tempat runtime mencari, bukan di tempat BCCLI mencari, karena BCCLI sama sekali tidak membaca berkas.

Pastikan BCCLI melihatnya

bccli models

Ini satu-satunya pemeriksaan yang penting. Bila model ada di daftar itu, ia siap dipakai:

bccli -m provider/model

Bila tidak ada, berkasnya bukan hal yang perlu diselidiki — provider-nya. Periksa bccli provider list, dan pastikan runtime berjalan di alamat yang BCCLI harapkan.

Sebelum mengunduh

Pastikan modelnya muat di memori mesin ini. Model yang tidak muat dimuat lambat atau gagal, dan kegagalannya terbaca seperti pemasangan rusak alih-alih masalah ukuran. Local AI membahas kecocokan perangkat keras; Persyaratan sistem membahas runtime-nya.

Selanjutnya

• Setup provider Local AI — mendaftarkan runtime.
• Gunakan Local AI di BCCLI — menjalankannya terhadap model lokal.