Penyelesaian masalah runtime

warning

Penyelesaian masalah runtime

Mulai dari bukti

powershell

botconnector doctor --json
botconnector runtime status

Catat: backend, aset rilis runtime, path executable, path model, ukuran konteks, port, exit code, dan stderr. Error native dipertahankan apa adanya — itu emas diagnostik; jangan mencoba ulang buta.

Runtime tidak mau start

Gejala	Kemungkinan penyebab	Tindakan
Proses keluar seketika	Instalasi runtime rusak/tidak lengkap	`botconnector runtime install` untuk mengunduh ulang
"CUDA error" saat init	Ketidakcocokan driver/GPU	Perbarui driver; coba Vulkan; fallback CPU
"vulkan device not found"	Driver tanpa Vulkan 1.x	Perbarui driver GPU
Port sudah dipakai	Instance lama masih berjalan	`botconnector ps`, hentikan, atau ganti `--port`
Antivirus memblokir biner	Biner tanpa tanda tangan	Whitelist path runtime

Model gagal saat pemuatan

OOM (out of memory) → kuantisasi lebih kecil atau konteks lebih kecil: Masalah memori.
Checksum mismatch → unduhan korup; hapus dan unduh ulang: Masalah unduhan.
Arsitektur tidak didukung → runtime terlalu tua untuk versi GGUF ini; botconnector runtime install untuk memperbarui: Runtime.

API tidak pernah READY

Konfirmasi status dengan botconnector ps (STOPPED/STARTING/READY).
Periksa file log di %USERPROFILE%\botconnector\logs.
Pastikan port yang diharapkan: curl http://127.0.0.1:11435/v1/models.
Firewall atau AV bisa memblokir binding localhost — jarang, tapi uji dengan port lain.

Log

Lokasi log: %USERPROFILE%\botconnector\logs. Stderr runtime dipertahankan per peluncuran — sertakan saat melaporkan masalah.

Terkait

Masalah GPU
Runtime — siklus hidup dan backend.