מוצר

טענות פופולריות שצריך להפסיק לומר

אוסף טענות נפוצות על מוצרי AI, ולמה הן מטעות.

שומרים כדי לחזור אחר כך. הסימון נשמר רק בדפדפן הזה, ויימחק אם תנקו את נתוני הדפדפן.

"אם הכפתורים עובדים — המוצר עובד." לא. התנהגות הממשק מוכיחה רק חלק מהמסלול. עדיין יש לבדוק נתונים, הרשאות, פעולות חיצוניות ואיכות תוצאה.

"מודל מתקדם יותר יפתור את הבעיה." לפעמים. לא אם הבעיה נעוצה במקור נתונים שגוי, הרשאה חסרה, סכמה פגומה או תהליך עסקי לא מוגדר. כל החלפה דורשת Eval מול מטרות וסיכונים.

"שמנו RLS, אז מסד הנתונים מוגן." לא בהכרח. צריך לבדוק grants, policies, views, מפתחות והרשאות בפועל.

"הוספנו מערכת פרומפט שמונעת הזרקת הוראות." הנחיות יכולות לעזור, אבל אינן מחליפות בידוד סמכויות ובקרות מערכת כנגד קלט לא מהימן.

"יש גיבוי, אז אפשר לשחזר." אפשר להניח זאת רק אם בדקתם שחזור, התאמה למצב נדרש והשלכות על המערכת.

"הבדיקות עברו, אז אין באגים." בדיקות מוכיחות התנהגות רק עבור מה שהן מכסות ובהתאם לאיכותן. הן אינן הוכחה להעדר תקלות בעולם.

"צריך לתקן הכול לפני שמשיקים." גם לא. צריך לפתור או לגדר סיכונים בהתאם לשימוש המותר, ולא לבזבז חודשים על ארכיטקטורה מיותרת.

"אנחנו עדיין בבטא ולכן אפשר להשתמש בנתוני אמת ללא הגנות." שם של שלב אינו משנה את הסיכון ואת החובות שחלים על שימוש בנתוני אמת או על פעולות בעלות השלכה.

PR-15