warning

Referensi managed-runtime legacy. Contoh command di bawah berasal dari desktop/managed llama.cpp preview lama dan bersifat legacy, bukan permukaan command BCCLI v0.4 saat ini. Gunakan BCCLI dan AI Lokal untuk instruksi terkini.

Python models

Desain target SDK

python

from botconnector import Client

client = Client()

# Daftar model yang tersedia lokal
for m in client.models.list():
    print(m.id, m.size)

# Unduh kuantisasi
client.models.download("publisher/model", quant="Q4_K_M")

# Muat / bongkar
client.models.load("publisher/model")
client.models.unload()

Source SDK sudah diimplementasikan, tetapi paket PyPI belum dipublikasikan. Jalur lewat paket yang didukung untuk manajemen model tetap CLI: botconnector models, botconnector get, botconnector run. API HTTP native tersedia di API Native.