פרטיות, אחריות ואמון

מוצר AI לא מתחיל לשאת באחריות כשהוא "נהיה גדול". האחריות נגזרת מסוג המידע, מקהל המשתמשים ומהפעולות שהוא מבצע. יש לשאול אילו פרטים אישיים נשלחים לספקים, היכן הם נשמרים, למי הם זמינים, מה מדיניות מחיקתם, מהן תקופות השמירה והאם המשתמש מבין את מגבלות השירות. דרישות הדין משתנות לפי מדינה, תחום, קהל ויחסים חוזיים; יש לבדוק אותן בנפרד ולא להניח שקיום מדיניות פרטיות כללית פותר אותן.

הגנה ביחס לסיכון#

למערכת שמציעה ניסוח למשתמש וממתינה לאישורו יש פרופיל סיכון אחר מסוכן ששולח מידע, מבצע תשלום או משנה רשומות באופן עצמאי. דרישת אישור אנושי מועילה רק אם האדם יכול לראות על מה הוא מאשר, להבין את ההשלכה ולהימנע מאישור אוטומטי עיוור. "Human-in-the-loop" אינו כישוף: אם בודק אנושי מוצף בעשרות אלפי אישורים חסרי הקשר, הוא עלול להפוך לחותמת גומי.

מסגרת NIST AI RMF — Generative AI Profile מציעה דרך למפות, למדוד ולנהל סיכונים לאורך מחזור חיי AI. היא אינה מעניקה תעודת "מוצר בטוח" על עצם השימוש בה.

שקיפות בלי הצפת אזהרות#

אזהרה מועילה צריכה להסביר מגבלה שמשנה החלטה. אם פלט אינו מאומת, הציגו זאת במיקום שבו מתקבלת ההחלטה. אם ההצעה תחייב פעולה חיצונית, הציגו מה יקרה בעת אישור. אם יש אפשרות לתקן, להחזיר לאחור או לדווח על טעות, מקמו אותן בתוך הזרימה. המשתמש אינו אמור לקרוא מסמך תנאים ארוך כדי להבין שאירוע בלתי הפיך עומד להתרחש.