Setup provider Local AI

BCCLI tidak menjalankan model sendiri. Ia berbicara dengan runtime yang menjalankannya, jadi langkah pertama selalu runtime yang terpasang, berjalan, dan bisa menjawab request di mesin ini.

1. Pasang dan jalankan runtime

Pakai runtime yang sudah Anda sukai — Ollama dan LM Studio keduanya didukung, begitu juga provider lain yang berbicara API kompatibel OpenAI. Pasang sesuai dokumentasi proyeknya, lalu jalankan.

CLI publik menemukan runtime Ollama di loopback, pada http://localhost:11434. Runtime yang terikat di port lain, atau di antarmuka lain, tidak akan ditemukan oleh default itu.

2. Beri tahu BCCLI bahwa ia ada

bccli provider list
bccli provider add <id>

provider list menunjukkan apa yang sudah dikenal BCCLI. provider add mendaftarkan yang berjalan tapi belum dikenalnya.

3. Pastikan modelnya muncul

bccli models

Model muncul di sini setelah provider-nya dikonfigurasi dan dimasuki. Runtime yang berjalan tapi belum punya model terunduh akan terdaftar dengan benar dan tetap tidak menyumbang apa pun ke daftar ini.

Selanjutnya

• Unduhan model lokal — menyiapkan model untuk runtime.
• Gunakan Local AI di BCCLI — memaku model lokal ke satu jalannya.