Grounding

הסבר פורמלי#

Grounding הוא התהליך של ביסוס כל התשובה של מודל שפה, או חלק ממנה, על מידע שנשלף ממקור אמין אחד או יותר (לפי מילון Google ל־ML). הוא נעשה לרוב באמצעות Retrieval ושיטות כמו RAG, ומטרתו לצמצם הזיות.

הסבר בגובה העיניים#

ההבדל בין "אני חושב שזה היה בערך ב־2019" לבין "לפי הדוח הזה, בעמוד 12". תשובה מבוססת מצביעה על מקור שאפשר לפתוח ולבדוק. כשאתם מבקשים מה־AI לענות רק לפי מסמך שצירפתם, אתם מנסים לבסס את התשובה.

למה זה חשוב בפועל#

ביסוס מצמצם טעויות אך לא מבטל אותן: המודל עלול עדיין לפרש לא נכון, להתעלם מקטע או לצטט מקור באופן שגוי. לכן כדאי לדרוש הפניה למקור ולבדוק אותה בנושאים חשובים. את הבדיקה כדאי להפוך לחלק מהתהליך.

תגיות#

• grounding
• hallucination
• citations
• rag

מקורות#

• Machine Learning Glossary (Google for Developers) — ערך Grounding
• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020) — שיטת RAG