Latency / p95 / Percentile

הסבר פורמלי#

Latency הוא הזמן שלוקח לטפל בבקשה. ספר ה-SRE של Google מונה אותו בין "ארבעת האותות המוזהבים" של ניטור, ומגדיר אותו כ"הזמן שלוקח לשרת בקשה". אחוזון (percentile) הוא ערך שמתחתיו נמצא חלק נתון מהמדידות: ב-p50 (החציון) מתארים את המקרה האופייני, וב-p95 או p99 את הקצה האיטי. כך p95 של 300 אלפיות השנייה אומר ש-95% מהבקשות הסתיימו תוך 300 אלפיות השנייה או פחות.

הספר מעדיף אחוזונים על ממוצעים, כי ממוצע פשוט יכול להסתיר את הבקשות האיטיות ואת השינויים בהן. הדוגמה שלו: בקשה אופיינית אורכת כ-50 אלפיות שנייה, אבל 5% מהבקשות איטיות פי 20, וממוצע לא יראה זאת.

הסבר בגובה העיניים#

חשבו על משלוחים. אם 19 מתוך 20 חבילות מגיעות ביום אחד ואחת מגיעה אחרי חודש, ה"ממוצע" נראה סביר, אבל הלקוח ההוא כועס. p95 שואל: "מה הזמן שרוב הלקוחות, 95 מתוך 100, מקבלים או טוב ממנו?", ו-p99 מביט עוד יותר לקצה.

למה זה חשוב בפועל#

כשמודדים מהירות של מערכת (כולל אפליקציה שקוראת למודל AI), בקשו אחוזון ולא רק ממוצע, ושאלו על איזה אחוזון מדובר. יעד כמו "p95 מתחת לשנייה" הוא מדד מוגדר שאפשר לשים בתוך SLO.

תגיות#

• latency
• percentile
• performance
• monitoring

מקורות#

• Google SRE Book — Service Level Objectives — העדפת אחוזונים על ממוצעים והדוגמה לזנב איטי.
• Google SRE Book — Monitoring Distributed Systems — Latency כאחד מארבעת האותות המוזהבים.