Inference

הסבר פורמלי#

בגלוסרי של Google, במערכות למידת מכונה מסורתיות, inference הוא התהליך של הפקת תחזיות על ידי הפעלת מודל מאומן על דוגמאות שלא תויגו. בניגוד לאימון, הפרמטרים אינם משתנים בשלב זה.

הסבר בגובה העיניים#

אימון הוא הלימודים, inference הוא העבודה בפועל. כל פעם שאתם שולחים פרומפט ומקבלים תשובה, המודל מבצע inference.

למה זה חשוב בפועל#

עלות, מהירות ושיהוי של שימוש יומיומי ב-AI נקבעים בעיקר בשלב זה.

תגיות#

• inference
• serving
• models
• deployment

מקורות#

• Google for Developers — Machine Learning Glossary (inference)