BroadRouter
Mulai

Fine-tuning

Diperbarui

Fine-tuning adalah proses melanjutkan pelatihan model bahasa yang sudah dilatih sebelumnya dengan dataset yang lebih kecil dan khusus tugas, seperti contoh percakapan, sehingga bobotnya berubah dan model menjalankan tugas atau gaya itu dengan lebih andal tanpa perlu instruksi panjang atau contoh di setiap prompt.

Disebut juga: fine-tuning, fine tuning, finetuning, penyetelan model, supervised fine-tuning, SFT, model fine-tuning

Prompt memberi tahu model apa yang harus dilakukan setiap kali. Fine-tuning mengubah model sehingga ia sudah tahu.

Cara kerjanya

Anda mulai dari model yang sudah dilatih dan menjalankan pelatihan tambahan dengan contoh Anda sendiri. Pada supervised fine-tuning (SFT), setiap contoh adalah percakapan berisi jawaban yang Anda inginkan. Panduan OpenAI memakai JSONL, “one complete JSON structure on every line” (terjemahan: satu struktur JSON lengkap di setiap baris), dalam format chat:

{"messages": [{"role": "user", "content": "Classify: 'card charged twice'"}, {"role": "assistant", "content": "billing"}]}

Job pelatihan menyesuaikan bobot agar jawaban-jawaban itu lebih mungkin muncul, lalu mengembalikan ID model baru. OpenAI menetapkan minimum 10 contoh dan merekomendasikan mulai dengan 50 serta mengevaluasi sebelum menambah lagi.

Full fine-tuning memperbarui semua bobot, yang mahal untuk model besar. Makalah LoRA karya Hu dan rekan-rekannya menyebut men-deploy salinan GPT-3 hasil fine-tuning secara terpisah, “each with 175B parameters” (terjemahan: masing-masing dengan 175B parameter), terlalu mahal. Metode yang hemat parameter seperti LoRA melatih add-on kecil sebagai gantinya. Distilasi adalah ide yang berkaitan: melakukan fine-tuning model kecil dengan output model yang lebih besar.

Mengapa penting

  • Prompt lebih pendek. Perilaku yang tadinya butuh prompt few-shot panjang bisa dipindahkan ke bobot, sehingga token input per panggilan berkurang.
  • Konsistensi. Kasus yang cocok antara lain klasifikasi, gaya output yang tetap, terjemahan domain tertentu, dan memperbaiki kegagalan dalam mengikuti instruksi.
  • Pemeliharaan. Model hasil fine-tuning terikat pada satu model dasar. Saat model dasar dipensiunkan, Anda harus melatih ulang. Panduan OpenAI kini menyebutkan bahwa platform fine-tuning-nya sedang dihentikan bertahap, tertutup bagi pengguna baru, dan model hasil fine-tuning tetap dilayani sampai model dasarnya dimatikan.
  • Ukur dulu. Buat eval sebelum melatih, atau Anda tidak akan tahu apakah model hasil fine-tuning lebih baik.

Fine-tuning adalah cara yang buruk untuk menambahkan fakta yang berubah. Retrieval menjaga fakta tetap terkini.

Di BroadNet Inference

Referensi API BroadNet tidak mendokumentasikan API fine-tuning, job pelatihan, atau unggah bobot sendiri. Namun dokumentasi itu menyebut bahwa “our Arabic fine-tunes and other models on request” (terjemahan: model fine-tune bahasa Arab kami dan model lain atas permintaan) diakses dengan ID model privat yang diberikan bersama endpoint. BroadNet mencantumkan satu model seperti itu atas permintaan: fine-tune Cohere Transcribe Arabic untuk angka, tanggal, dan nama dalam audio yang bising. Untuk model transkripsi bahasa Arab publik, lihat panduan speech-to-text bahasa Arab. Jika Anda perlu melatih model sendiri, titik awal yang lazim adalah model open-weight; pertimbangannya dibahas di model open-weight vs model tertutup.

Pertanyaan umum

Berapa banyak contoh yang dibutuhkan untuk fine-tuning LLM?

Panduan OpenAI menetapkan minimum 10 dan menyarankan mulai dengan 50 contoh yang dibuat dengan baik, lalu mengukur hasilnya. Jika 50 contoh bagus tidak mengubah apa pun, pikirkan ulang tugasnya sebelum menambah contoh.

Fine-tuning atau RAG untuk pengetahuan perusahaan?

Biasanya retrieval. Fine-tuning bagus untuk mengajarkan perilaku dan format, tetapi fakta yang berubah lebih mudah dijaga tetap terkini di dokumen yang Anda ambil saat request.

Bisakah saya melakukan fine-tuning model di BroadNet Inference?

Dokumentasi BroadNet tidak mencantumkan API fine-tuning. Dokumentasi itu menyebut model fine-tune bahasa Arab milik BroadNet sendiri, yang diakses sebagai endpoint privat atas permintaan.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity