Prompt memberitahu model apa yang perlu dilakukan setiap kali. Fine-tuning mengubah model supaya ia sudah tahu.
Cara ia berfungsi
Anda bermula daripada model yang telah dilatih dan menjalankan latihan tambahan dengan contoh anda sendiri. Dalam supervised fine-tuning (SFT), setiap contoh ialah perbualan dengan jawapan yang anda mahukan. Panduan OpenAI menggunakan JSONL, “one complete JSON structure on every line” (satu struktur JSON lengkap pada setiap baris), dalam format chat:
{"messages": [{"role": "user", "content": "Classify: 'card charged twice'"}, {"role": "assistant", "content": "billing"}]}
Tugas latihan melaraskan pemberat supaya jawapan tersebut lebih berkemungkinan, dan memulangkan ID model baharu. OpenAI menetapkan minimum 10 contoh dan mengesyorkan bermula dengan 50 serta menilai sebelum menambah lagi.
Fine-tuning penuh mengemas kini setiap pemberat, yang mahal bagi model besar. Kertas kajian LoRA oleh Hu dan rakan-rakan menyifatkan penggunaan salinan GPT-3 yang diperhalusi secara berasingan, “each with 175B parameters” (setiap satu dengan 175B parameter), sebagai terlalu mahal. Kaedah cekap parameter seperti LoRA sebaliknya melatih tambahan kecil. Penyulingan ialah idea yang berkaitan: fine-tune model kecil dengan output model yang lebih besar.
Mengapa ia penting
- Prompt lebih pendek. Tingkah laku yang dahulunya memerlukan prompt few-shot yang panjang boleh dipindahkan ke dalam pemberat, mengurangkan token input bagi setiap panggilan.
- Konsistensi. Kegunaan yang sesuai ialah pengelasan, gaya output tetap, terjemahan domain dan membetulkan kegagalan mematuhi arahan.
- Penyelenggaraan. Model yang ditala terikat kepada satu model asas. Apabila model asas dihentikan, anda perlu melatih semula. Panduan OpenAI kini menyatakan ia sedang menamatkan platform fine-tuning secara berperingkat, ditutup kepada pengguna baharu, dengan model yang ditala terus disediakan sehingga model asasnya ditutup.
- Ukur dahulu. Bina eval sebelum melatih, atau anda tidak dapat tahu sama ada model yang ditala lebih baik.
Fine-tuning ialah cara yang lemah untuk menambah fakta yang berubah. Pengambilan semula memastikan fakta itu sentiasa terkini.
Di BroadNet Inference
Rujukan API BroadNet tidak mendokumenkan API fine-tuning, tugas latihan atau muat naik pemberat anda sendiri. Ia memang menyatakan bahawa “our Arabic fine-tunes and other models on request” (Terjemahan BroadRouter: “fine-tune bahasa Arab kami dan model lain atas permintaan”) dicapai dengan ID model persendirian yang dikeluarkan bersama endpoint. BroadNet menyenaraikan satu model sebegitu atas permintaan: fine-tune Cohere Transcribe Arabic untuk nombor, tarikh dan nama dalam audio yang bising. Untuk model transkripsi bahasa Arab awam, lihat panduan speech-to-text bahasa Arab. Jika anda perlu melatih model sendiri, model open-weight ialah titik permulaan biasa; pertukarannya diterangkan dalam model open-weight vs tertutup.