בונים סוכניםבטוחים יותר

אלה תוצאות של מעבדת לימוד עם מודל מדומה שמחזיר תוצאות קבועות, כדי שאפשר יהיה לבודד את השפעת ההגנה. הן אינן מדד לביצועים מול מודל אמיתי. גם חסימה של כל שבע המתקפות אינה הוכחה שהמערכת בטוחה. נלמד מה אפשר להסיק מהבדיקות, מה עדיין לא ידוע ואיך להרחיב אותן.

1. 0:00מבינים איפה הסוכן חשוףמכירים את סביבת המעבדה ומזהים איך טקסט ממקור חיצוני יכול להשפיע על שימוש בכלים.
2. 0:30משחזרים תקיפהמוסיפים הוראה למסמך ספק וגורמים לסוכן להדליף קובץ סודי. הופכים את התרחיש לבדיקה שאפשר להריץ שוב.
3. 1:15בודקים סינון מיליםמוסיפים מסנן ובודקים מה הוא עוצר, איך אפשר לעקוף אותו ואילו משימות תקינות הוא חוסם.
4. 2:15מגבילים את פעולת הכלימגדירים כלל לשליחת מייל ובודקים מה משתנה כשההגנה נאכפת בכלי עצמו.
5. 3:00מפרשים את התוצאותבודקים מה התוצאות באמת אומרות, ומה המשמעות של 1% התרעות שווא ב־50 מיליון קריאות ביום.
6. 3:30מחברים לעבודה שלכםעוברים על רשימת בדיקה לסוכן שלכם ומסכמים מה כדאי למפות, לבדוק ולהגביל בהמשך.