Human in the Loop

הסבר פורמלי#

Human in the Loop הוא דפוס עיצוב שבו אדם משולב בנקודות מוגדרות בתהליך של מערכת AI. סעיף 14 לחוק ה-AI האירופי, העוסק בפיקוח אנושי על מערכות בסיכון גבוה, מתאר פיקוח שמאפשר להבין את יכולות המערכת ומגבלותיה, לפרש פלט נכון, להתעלם מהפלט, לשנות או לבטל אותו, ולהתערב או לעצור את המערכת. הוא מזהיר גם מ-automation bias, נטייה להישען יתר על המידה על הפלט.

הסבר בגובה העיניים#

ה-AI מנסח טיוטת תשובה ללקוח, ועובד קורא ומאשר לפני שליחה. כך חוסכים זמן, ועדיין אדם אחראי על מה שיוצא. אבל אם המאשר לוחץ "אישור" בלי לקרוא, האדם בלולאה רק קישוט.

למה זה חשוב בפועל#

החליטו איפה בדיוק נדרש אישור אנושי (פעולות יקרות, בלתי הפיכות או רגישות), ותנו למאשר זמן וכלים לבדוק באמת. ראו גם AI Agent.

תגיות#

• human in the loop
• oversight
• automation bias
• ai governance

מקורות#

• EU AI Act, Article 14: Human oversight