Python SDK

Apa itu?

Klien Python tipis untuk BotConnector Core — layanan yang sama yang dipakai aplikasi desktop dan CLI. Ini bukan mesin inferensi kedua: pemuatan model, runtime, dan penyajian tetap di dalam Core; SDK berbicara ke API lokalnya.

Penggunaan source (preview)

pip install botconnector-ai

Paket masih source-only; jangan gunakan pip install botconnector-ai karena belum ada rilis PyPI. SDK memanggil API lokal dan bukan mesin inferensi kedua.

Desain target

from botconnector import Client

client = Client()

models = client.models.list()
model = client.llm("qwen/model")
response = model.chat("Hello")
print(response.text)

Di bagian ini

• Python chat
• Python streaming
• Manajemen model Python
• Python embeddings
• Python tools

Yang bisa dipakai hari ini

API lokal kompatibel OpenAI, jadi klien openai standar langsung bekerja:

from openai import OpenAI

client = OpenAI(base_url="http://127.0.0.1:11435/v1", api_key="not-needed")
resp = client.chat.completions.create(
    model="<publisher>/<model>",
    messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)

Lihat API kompatibel OpenAI untuk referensi endpoint.

Status

Tercatat sebagai Beta / Implemented / Preview di halaman status. Publikasi PyPI belum tersedia.