מסלול מהיר לבונה יחיד: שש בדיקות לפני שסוכן נוגע בדברים אמיתיים

שש בדיקות של דקה, ואז ממשיכים לבנות#

זה לא עוצר אותך. זה מה שמונע מ-10 הסוכנים שלך למחוק את החברה. אתם בונים לבד, אין צוות אבטחה ואין מי שיתפוס טעות בשבילכם, אז כל בדיקה כאן היא דקה אחת, פעם אחת, לפני שהסוכן מקבל גישה למשהו אמיתי. זה דף עזר ולא פרק בקורס: כל בדיקה מפנה לפרק או לערך שמסביר את הרקע.

1. Git וגיבוי#

למה: אם סוכן שינה משהו ושבר, Git מאפשר לדעת מה השתנה ולחזור אחורה במקום להיכנס לפאניקה. בדיקה של דקה: הריצו git status. אם יש שינויים שלא נשמרו, שמרו אותם (commit) לפני שהסוכן מתחיל, ובדקו שהקוד גם מגובה במקום מרוחק. להמשך: Rollback, ותפעול לשחזור והמשכיות.

2. סודות מחוץ לקוד#

למה: מפתח API סודי לא אמור להופיע בקוד לקוח, בקובצי Git, בצילומי מסך או בלוגים גלויים. בדיקה של דקה: חפשו בפרויקט (למשל עם grep) את שם המפתח או את הקידומת שלו, ובדקו שהוא נמצא רק במשתני סביבה ולא בקבצים שנשמרים ב-Git. להמשך: הרשאות, סודות ומפתחות.

3. הרשאות מינימליות לכל סוכן#

למה: לפי עקרון Least Privilege, סוכן שקורא קבצים לא צריך הרשאת מחיקה. אם משהו משתבש, הנזק מוגבל להרשאות שהיו לו. בדיקה של דקה: לכל סוכן כתבו שורה אחת: מה הוא צריך לקרוא ומה לכתוב. כל מה שמעבר לכך (מחיקה, גישה למערכת החיוב, מפתח מנהל) הסירו. להמשך: הרשאות.

4. תקרת הוצאה#

למה: אורך הקשר גדול, שרשראות סוכנים, ניסיונות חוזרים ופעולות מתוזמנות שלא נעצרות הם מקורות להפתעות בחשבון. התראה בלבד אינה בלם. בדיקה של דקה: ודאו שהוגדרו תקציב ריצה לטוקנים, מכסה אצל הספק, והגבלת קצב (Rate Limiting). אמתו מה בדיוק הספק אוכף ומה נשאר באחריותכם. להמשך: עלויות.

5. אישור אנושי לפני מחיקה, שליחה ותשלום#

למה: פעולות יקרות, בלתי הפיכות או רגישות צריכות אדם בלולאה (Human in the Loop). אבל אישור בלי קריאה הוא קישוט בלבד. בדיקה של דקה: רשמו שלוש פעולות: מחיקה, שליחת הודעה או מייל, ותשלום. ודאו שכל אחת עוצרת ומציגה לכם מה בדיוק עומד לקרות, ושאתם קוראים לפני שאתם מאשרים. להמשך: מה מיוחד במוצר AI, בסעיף על סוכן ועל נקודות בלתי הפיכות.

6. הגנה מהזרקת הוראות כשהסוכן קורא אתר או מייל#

למה: עמוד אינטרנט, מייל או קובץ יכולים להכיל הוראות שמנסות לשכנע את המודל לפעול נגדכם (Prompt Injection). OWASP מציין שלא ידועה שיטה שמבטיחה הגנה מלאה, ולכן המטרה היא צמצום נזק, והנחיית מערכת לבדה אינה מספיקה. בדיקה של דקה: אם הסוכן קורא תוכן שאתם לא כתבתם, בדקו שבאותה הרצה אין לו גם גישה לנתונים רגישים וגם יכולת לשלוח החוצה, ושפעולות רגישות עוברות את בדיקה 5. להמשך: Prompt injection ב"מה מיוחד במוצר AI".

ומה אחרי זה#

אחרי שש הבדיקות אפשר לתת לסוכן לעבוד. הן לא מבטיחות שלא יהיו תקלות, אבל הן הופכות תקלה מאסון למשהו שאפשר לשחזר, לעצור ולהבין. כשהפרויקט גדל, המשיכו אל מוכנות לשחרור ואל אמינות.