Prompt memberi tahu model apa yang harus dilakukan setiap kali. Fine-tuning mengubah model sehingga ia sudah tahu.
Cara kerjanya
Anda mulai dari model yang sudah dilatih dan menjalankan pelatihan tambahan dengan contoh Anda sendiri. Pada supervised fine-tuning (SFT), setiap contoh adalah percakapan berisi jawaban yang Anda inginkan. Panduan OpenAI memakai JSONL, “one complete JSON structure on every line” (terjemahan: satu struktur JSON lengkap di setiap baris), dalam format chat:
{"messages": [{"role": "user", "content": "Classify: 'card charged twice'"}, {"role": "assistant", "content": "billing"}]}
Job pelatihan menyesuaikan bobot agar jawaban-jawaban itu lebih mungkin muncul, lalu mengembalikan ID model baru. OpenAI menetapkan minimum 10 contoh dan merekomendasikan mulai dengan 50 serta mengevaluasi sebelum menambah lagi.
Full fine-tuning memperbarui semua bobot, yang mahal untuk model besar. Makalah LoRA karya Hu dan rekan-rekannya menyebut men-deploy salinan GPT-3 hasil fine-tuning secara terpisah, “each with 175B parameters” (terjemahan: masing-masing dengan 175B parameter), terlalu mahal. Metode yang hemat parameter seperti LoRA melatih add-on kecil sebagai gantinya. Distilasi adalah ide yang berkaitan: melakukan fine-tuning model kecil dengan output model yang lebih besar.
Mengapa penting
- Prompt lebih pendek. Perilaku yang tadinya butuh prompt few-shot panjang bisa dipindahkan ke bobot, sehingga token input per panggilan berkurang.
- Konsistensi. Kasus yang cocok antara lain klasifikasi, gaya output yang tetap, terjemahan domain tertentu, dan memperbaiki kegagalan dalam mengikuti instruksi.
- Pemeliharaan. Model hasil fine-tuning terikat pada satu model dasar. Saat model dasar dipensiunkan, Anda harus melatih ulang. Panduan OpenAI kini menyebutkan bahwa platform fine-tuning-nya sedang dihentikan bertahap, tertutup bagi pengguna baru, dan model hasil fine-tuning tetap dilayani sampai model dasarnya dimatikan.
- Ukur dulu. Buat eval sebelum melatih, atau Anda tidak akan tahu apakah model hasil fine-tuning lebih baik.
Fine-tuning adalah cara yang buruk untuk menambahkan fakta yang berubah. Retrieval menjaga fakta tetap terkini.
Di BroadNet Inference
Referensi API BroadNet tidak mendokumentasikan API fine-tuning, job pelatihan, atau unggah bobot sendiri. Namun dokumentasi itu menyebut bahwa “our Arabic fine-tunes and other models on request” (terjemahan: model fine-tune bahasa Arab kami dan model lain atas permintaan) diakses dengan ID model privat yang diberikan bersama endpoint. BroadNet mencantumkan satu model seperti itu atas permintaan: fine-tune Cohere Transcribe Arabic untuk angka, tanggal, dan nama dalam audio yang bising. Untuk model transkripsi bahasa Arab publik, lihat panduan speech-to-text bahasa Arab. Jika Anda perlu melatih model sendiri, titik awal yang lazim adalah model open-weight; pertimbangannya dibahas di model open-weight vs model tertutup.