Memilih model

Tujuan

Memilih model dari katalog yang mampu mengerjakan tugas Anda dan muat di mesin Anda.

Yang perlu disiapkan

• Tugas Anda (chat, coding, vision, dan sebagainya).
• RAM dan GPU mesin Anda, dari botconnector doctor (Instal Local Runtime) atau Persyaratan sistem.

Langkah-langkah

1. Sebutkan tugas Anda. Kemampuan yang Anda butuhkan menentukan kandidatnya: chat, coding, reasoning, vision, embeddings, audio — lihat Kemampuan.
2. Buka Katalog model dan saring berdasarkan kemampuan itu. Setiap entri membawa label bukti yang disimpulkan dari metadata Hub — label itu petunjuk, bukan jaminan.
3. Saring berdasarkan kecocokan perangkat keras. Katalog menyorot model yang ukuran filennya muat di RAM Anda — lihat Kecocokan perangkat keras.
4. Bandingkan kandidat dari sisi kualitas vs ukuran. Jumlah parameter dan kuantisasi yang lebih besar memberi jawaban lebih baik tapi butuh memori lebih — lihat Kuantisasi dan Konteks dan memori.
5. Pilih satu model dan unduh: Unduh model untuk mode perangkat, atau pilih di Pemilih model untuk mode cloud.

Hasil yang diharapkan

Satu model terpilih, dengan kuantisasi yang Anda tahu akan muat di mesin dan compute target yang Anda pilih dengan sengaja.

Jika gagal

• Model terpilih tidak berperilaku sesuai labelnya (template salah, keluaran lemah): Masalah model.
• Model tidak muat di memori Anda: Masalah memori dan Kecocokan perangkat keras.
• Masalah umum: Penyelesaian masalah.

Langkah berikutnya

Cocokkan model dengan mesin Anda secara detail: Kecocokan perangkat keras, atau langsung mengunduh: Unduh model.