İnce Ayar (Fine-Tuning) Nedir?
Kısa tanım
İnce ayar (fine-tuning), önceden eğitilmiş bir yapay zekâ modelinin, belirli bir görev, üslup veya alan için hazırlanmış daha küçük bir veri setiyle eğitilmeye devam edilmesidir. Bu süreçte modelin ağırlıkları güncellenir; bu yönüyle modeli değiştirmeden yalnızca girdiyi düzenleyen prompt yazımından ve cevap anında belge getiren RAG'den ayrılır. Tutarlı çıktı formatı, sınıflandırma ve kurum üslubu tipik kullanım amaçlarıdır.
Diğer adları: fine-tuning, fine tuning, model ince ayarı, SFT, LoRA
Ağırlıkları değiştirmek ne demek?
Bir temel model genel dil yeteneklerini ön eğitimde kazanır. İnce ayarda bu model, sizin hazırladığınız örneklerle bir süre daha eğitilir ve parametreleri bu örneklere uyacak biçimde kayar. Sonuçta ortaya, aynı soruya sizin istediğiniz biçimde cevap vermeye daha yatkın yeni bir model sürümü çıkar.
Pratikte üç yaklaşım öne çıkar:
- Denetimli ince ayar (SFT): Girdi ve beklenen çıktı çiftlerinden öğrenme. En yaygın yöntemdir.
- Parametre verimli yöntemler: LoRA gibi tekniklerle modelin tamamı yerine küçük ek katmanlar eğitilir. Maliyet ve donanım ihtiyacı belirgin biçimde düşer.
- Tercih tabanlı eğitim: Aynı soruya verilmiş iki cevaptan hangisinin daha iyi olduğunu gösteren örneklerle modelin eğilimleri ayarlanır.
Eğitim verisi neye benzer?
Sohbet modelleri için eğitim örnekleri çoğunlukla her satırı ayrı bir JSON nesnesi olan JSONL dosyalarında tutulur. Aşağıdaki örnek, müşteri mesajlarını sabit bir kategori listesine ayıran bir model için hazırlanmış tek bir satırdır:
{"messages": [
{"role": "system", "content": "Mesajı şu kategorilerden birine ayır: iade, kargo, fatura, diğer."},
{"role": "user", "content": "Siparişim üç gündür aynı şubede bekliyor."},
{"role": "assistant", "content": "kargo"}
]}Bu türden birkaç yüz ya da birkaç bin temiz örnek, modelin hem kategori adlarını hem de “tek kelimeyle cevap ver” kuralını kalıcı olarak benimsemesini sağlayabilir. Etiketleri tutarsız birkaç düzine örnek ise modeli iyileştirmek yerine kafasını karıştırır; veri kalitesi, veri miktarından daha belirleyicidir.
Prompt, RAG mi ince ayar mı?
| Yöntem | Ne değişir? | En iyi olduğu iş | Zayıf yanı |
|---|---|---|---|
| Prompt yazımı | Yalnızca modele verilen girdi | Hızlı deneme, değişken görevler | Uzun talimatlar her istekte token harcar |
| RAG | Cevap anında bağlama eklenen belgeler | Güncel, kaynak gösterilmesi gereken bilgi | Getirme kalitesi kötüyse cevap da kötüdür |
| İnce ayar | Modelin ağırlıkları | Sabit format, üslup, dar sınıflandırma | Güncel olguları öğretmek için uygun değildir |
Çoğu proje prompt ve iyi bir sistem promptu ile başlamalıdır. Bilgi ihtiyacı ağır basıyorsa RAG eklenir. İnce ayar, bu iki yol denenip ölçüldükten sonra hâlâ çözülemeyen davranış sorunları için düşünülmelidir. Yöntemler birbirini dışlamaz: ince ayarlı bir model, RAG ile getirilen belgeleri okuyabilir.
İnce ayarın yanlış kullanıldığı durumlar
- Değişen bilgiyi öğretmek: Fiyat listesi, stok ya da mevzuat gibi bilgiler ağırlıklara işlendiğinde, değiştikleri gün model eskir. Bu tür bilgi parametrik bilgi olarak değil, getirilen kaynak olarak tutulmalıdır.
- Halüsinasyonu “eğitimle” çözmeye çalışmak: İnce ayar modelin üslubunu değiştirir ama doğruluğu kendi başına garanti etmez.
- Ölçümsüz eğitim: Eğitime hiç girmeyen bir test seti ve karşılaştırma için bir temel (yalnızca prompt kullanan sürüm) yoksa iyileşme iddiası doğrulanamaz.
Bir de bakım yükü vardır. İnce ayar belirli bir temel model sürümüne yapılır; sağlayıcı o sürümü kullanımdan kaldırdığında eğitimin yeni sürümde tekrarlanması ve sonuçların yeniden sınanması gerekir.