Bir makine öğrenmesi projesinde veriyi olduğu gibi kullanmazsınız; onu genellikle üç parçaya ayırırsınız. Bu bölme, modelin gerçek dünyada işe yarayıp yaramayacağını dürüstçe ölçmenin anahtarıdır.
Eğitim verisi: dersler
Modelin örüntüleri öğrendiği veridir. Öğrencinin çalıştığı ders kitabı gibi düşünün. Model, ağırlıklarını bu veri üzerinde ayarlar.
Doğrulama verisi: prova
Model eğitilirken ayarlarını (hiperparametreleri) denemek için kullanılır. Bir çeşit prova sınavıdır: modeli sınava sokmadan önce hangi ayarın daha iyi çalıştığını burada görürsünüz.
Test verisi: gerçek sınav
Modelin daha önce hiç görmediği, yalnızca en sonda kullanılan veridir. Buradaki başarı, modelin gerçek dünyadaki performansına en yakın tahmindir. Test verisine eğitim sırasında asla bakılmaz.
Neden bu kadar önemli?
Çünkü model yalnızca eğitim verisinde iyi olup gerçek dünyada çuvallayabilir; buna aşırı öğrenme (overfitting) demiştik. Ayrı bir test verisi, tam da bu tuzağı yakalamak içindir. Kavram için eğitim/doğrulama/test verisi sayfasına bakabilirsiniz.
İşin hocası ne yapar?
İşin hocası modeli çalıştığı veriyle değil, hiç görmediği veriyle sınar. Çünkü gerçek başarı, ezberde değil, yeni durumda ortaya çıkar.
İlgili yazı: Prompt Mühendisliği