Retrieval

הסבר פורמלי#

Retrieval הוא שלב השליפה במערכת AI: בהינתן שאלה, מחפשים במאגר חיצוני (מסמכים, אתר, מסד נתונים) ומחזירים את הקטעים הרלוונטיים ביותר. במאמר המכונן על RAG תוארה שליפה באמצעות retriever עצבי מתוך אינדקס וקטורי של ויקיפדיה, כ"זיכרון לא־פרמטרי", לצד הידע שבמשקלות המודל ("זיכרון פרמטרי"). שליפה יכולה להתבסס על Embedding ו־מסד נתונים וקטורי, אך גם על חיפוש מילות מפתח רגיל.

הסבר בגובה העיניים#

זה החלק של "לחפש בארכיון לפני שעונים". הספרן לא מתאר את כל הספרייה מהזיכרון: הוא מוציא שלושה מסמכים מתאימים ורק אז עונה. איכות התשובה תלויה קודם כול באיכות הספרן.

למה זה חשוב בפועל#

כשמערכת מבוססת מסמכים טועה, לעיתים קרובות הבעיה בשליפה, כלומר נשלף קטע לא נכון או שלא נשלף קטע בכלל, ולא במודל עצמו. כדאי לבדוק מה נשלף לפני שמאשימים את המודל. ראו גם Grounding.

תגיות#

• retrieval
• rag
• search
• knowledge base

מקורות#

• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020) — זיכרון פרמטרי ולא־פרמטרי, retriever עצבי