Rate Limiting / Rate Limit

הסבר פורמלי#

Rate Limiting הוא שליטה במספר או בגודל הפעולות שנשלחות לשירות בפרק זמן מסוים. שירות יכול להגביל לפי מספר פעולות (למשל 20 בקשות בשנייה), כמות נתונים או "עלות" יחסית של פעולות. בפרוטוקול HTTP, הסטטוס 429 Too Many Requests מציין שהלקוח שלח יותר מדי בקשות בפרק זמן נתון, ויכולה להתלוות אליו כותרת Retry-After שמציינת כמה זמן כדאי להמתין.

המונח משמש בשני כיוונים: שירות שמגביל לקוחות כדי להגן על עצמו, ולקוח שמגביל את עצמו כדי לא לחרוג ממגבלות השירות שהוא קורא לו. לפי MDN, ההגבלה יכולה להתבסס על כתובת ה-IP של הלקוח או על משתמש או יישום מזוהה.

הסבר בגובה העיניים#

זה כמו שומר בכניסה למועדון שמכניס כמה אנשים בדקה: לא כי הוא נגד האורחים, אלא כדי שהמקום לא יתפוצץ. אם עובדים עם API של מודל AI ומקבלים שגיאה שמתארת "יותר מדי בקשות", המשמעות היא שחרגתם ממגבלה, וצריך להאט.

למה זה חשוב בפועל#

כשאוטומציה מקבלת שגיאת הגבלת קצב, הדרך הנכונה היא להאט ולנסות שוב בהמתנה גדלה (ראו Timeout / Retry / Backoff), לא להציף עוד יותר. תיעוד Azure מזהיר שניסיונות חוזרים עיוורים ואגרסיביים עלולים ליצור "retry storm". בדקו בתיעוד של הספק מהם המגבלות בפועל, ואל תנחשו.

תגיות#

• rate-limiting
• throttling
• http-429
• api

מקורות#

• MDN — 429 Too Many Requests — ההגדרה של 429, Retry-After והבסיס של ההגבלה.
• Microsoft Azure Architecture Center — Rate Limiting pattern — מטרת הדפוס וסוגי המדדים.