Loss Function

הסבר פורמלי#

בגלוסרי של Google, loss הוא מדד לכמה תחזית מודל רחוקה מהתווית שלה, ו-loss function היא פונקציה שמחשבת את ההפסד על אצווה של דוגמאות. בזמן אימון המטרה היא להקטין אותו, באמצעות ירידת גרדיאנט.

הסבר בגובה העיניים#

זה מד הטעות של המודל. כמו ציון במבחן, רק שכאן ציון נמוך הוא טוב. בלי מספר כזה אין לאלגוריתם דרך לדעת אם שינוי קטן בפרמטרים שיפר את המצב או החמיר אותו.

למה זה חשוב בפועל#

ההפסד הנמוך על נתוני האימון אינו ערובה לאיכות. משווים אותו להפסד על נתונים חדשים כדי לגלות Overfitting.

תגיות#

• loss
• loss-function
• optimization
• training

מקורות#

• Google for Developers — Machine Learning Glossary (loss, loss function)