01
אירועים נדירים
מתקפות הן נדירות. הסיכוי שהתרעה אמיתית נקבע לפי שיעור הבסיס, לא לפי כמה טוב הגלאי נראה על סט בדיקה מאוזן.
קורס חינמי · למדעני נתונים · בהכנה
הגנה עלסוכני AI
אבטחת סוכני AI היא בעיה סטטיסטית. בונים כל הגנה בעצמכם על המחשב הנייד, ולומדים מה היא הופכת להיות בחמישים מיליון קריאות ביום.
קריאות10,000התרעות101מתקפות1אמיתיות0.98%
01הבעיה
את החלק הקשה אתם כבר יודעים.
לבעיות המרכזיות באבטחת סוכני AI יש תאומות סטטיסטיות. הקורס משלים את החצי של אבטחת המידע.
02
נקודות עבודה
כל סף מוציא תקציב של התרעות שווא. אתם בוחרים איפה להוציא אותו, ומודדים אותו במקום שבו המערכת פועלת.
03
שינוי בהתפלגות
גלאי שנבדק על טקסט חופשי פוגש בייצור JSON, יומנים, diff ו־SQL, ומתנהג אחרת.
04
קונטרפקטואלים
האם מדיניות חדשה תעזור? מריצים אותה על התעבורה של החודש שעבר, ובמצב צל, לפני שאוכפים אותה.
02נסו
ארבעה מחוונים. מספר אחד לא נוח.
גלאי שתופס 99% מהמתקפות ומתריע בטעות על 1% מהקריאות התמימות נשמע מצוין. הזיזו את המחוונים וראו כמה מההתרעות שלו אמיתיות.
התרעות שהן מתקפות אמיתיות
1%התרעות ביום
מתוכן מתקפות אמיתיות
מתקפה אמיתיתהתרעת שווא
03מה תבנו
כל רכיב, בידיים שלכם.
אף מוצר אבטחה, מסחרי או בקוד פתוח, אינו בשימוש בקורס ואינו נלמד בו. אתם בונים שער קטן לסוכנים בכלים פתוחים וכלליים, רכיב אחד בכל מודול.
- M01סוכן קטן שקורא לכלים, והמתקפה שמפילה אותו
- M03שער שבודק כל קריאה לכלי לפני שהיא מתבצעת
- M04גלאים להזרקת הנחיות: תבניות ומסווג מאומן
- M05ספים שנקבעים מתקציב התרעות שווא שנמדד
- M06מערך הערכה על נתונים בצורה של קריאות לכלים אמיתיות
- M07מערך תקיפה יזומה עם דוחות כיסוי כנים
- M08מנוע מדיניות שמאשר, דוחה, או מעכב לאישור אדם
- M09קווי בסיס התנהגותיים וגלאי רצפים
- M10טוען מודלים שבודק לפני שהוא סומך
- M11זיהוי מידע אישי, השחרה ומחיקה
- M12יומן חתום שחושף שינויים, והרצה חוזרת של שינוי מדיניות
- M13לומד מדיניות עם שלב צל
04קנה מידה
בונים בקטן. חושבים בגדול.
כל מודול מסתיים במה שהרכיב הופך להיות במיליוני קריאות ביום, באלפי סוכנים ובצוותים רבים, מחושב מהמדידות שלכם.
על המחשב הנייד
40מ״שהגלאי שלכם בודק קריאה לכלי ב־40 מילישניות. מדדתם אותו, אתם מבינים כל שורה בו, והוא רץ על 8GB זיכרון בלי GPU.
ב־50 מיליון קריאות ביום
23ליבותאותו גלאי מעסיק כ־23 ליבות מסביב לשעון. איפה הוא רץ? מה קורה לקריאה כשהוא איטי או לא זמין? מי בודק את ההתרעות שלו?
05תוכנית הלימודים
חמישה־עשר מודולים ופרויקט גמר.
כל מודול מסתיים במדידה שאתם מפיקים ומגינים עליה, לא בעמוד שקראתם. כ־105 שעות, בקצב שלכם, בעברית ובאנגלית.
I
יסודות
- 00התמצאות: למה אבטחת סוכנים היא בעיה סטטיסטית
- 01הקמת המעבדה והסוכן שלכם
- 02יסודות אבטחת מידע לאנשי נתונים
- 03האנטומיה של סוכן ומשטח התקיפה שלו
II
זיהוי
- 04הזרקת הנחיות, ישירה ועקיפה
- 05גלאים הם מסווגים: שיעורי בסיס, תקציבים ונקודות עבודה
- 06היגיינת הערכה ושינוי בהתפלגות
- 07עמידות מול יריב ותקיפה יזומה
III
אכיפה
- 08מציון להחלטה: מדיניות, עיכובים ובני אדם
- 09זיהוי חריגות בהתנהגות וברצפים
- 10שרשרת האספקה של ML
- 11הגנה על מידע: מידע אישי, השחרה ומחיקה
IV
תפעול
- 12ראיות: יומני ביקורת, הרצה חוזרת והערכה קונטרפקטואלית
- 13למידת מדיניות מתעבורה, בבטחה
- 14ממשל, ביקורת ורגולציה למהנדסים
פרויקט גמרלבנות, ואז לשבור את של מישהו אחר.שער משלכם לתרחיש חדש, מסמך על קנה מידה, ודוח תקיפה יזומה על עבודה של משתתף אחר.
06תעודה
הלימוד חינם. ההסמכה בתשלום.
הקורס כולו פתוח. החלק היחיד בתשלום הוא המבחן המסכם, שנבדק בידי אדם.
חינם
הקורסאין צורך בחשבון כדי לקרוא.
- כל שיעור, בנייה ובדיקה
- עברית ואנגלית
- ערכת פתיחה ובדיקות אוטומטיות לכל מודול
- שלכם, לחזור אליו מתי שתרצו
בתשלום
מבחן מסכם ותעודהלבחירתכם. המחיר יפורסם עם הפתיחה.
- פרויקט הגמר שלכם, נבדק באופן אישי
- משוב כתוב ומפורט
- תעודה חתומה שכל אחד יכול לאמת
- עמוד ציבורי שמקשר לעבודה שנבדקה, אם תרצו
07שאלות
שאלות נפוצות.
צריך רקע באבטחת מידע?
לא. הקורס מניח היכרות עם Python, הסתברות ולמידת מכונה, ומלמד את אבטחת המידע מהיסוד.
מה צריך כדי להריץ אותו?
מחשב נייד עם 8GB זיכרון, עם macOS, Windows (עם WSL 2) או Linux. אין צורך ב־GPU. התקנת Docker והקמת המעבדה הן מודול בפני עצמו.
אילו מוצרים הקורס מלמד?
אף אחד. אתם בונים כל רכיב בעצמכם בכלים פתוחים וכלליים, ובכל מקום שבו נבחר כלי, השיעור מציין גם חלופה.
הוא באמת חינמי?
כן. כל שיעור, בנייה ובדיקה אוטומטית הם בחינם. רק המבחן המסכם, שנבדק בידי אדם, והתעודה שבאה אחריו הם בתשלום.
באילו שפות?
עברית ואנגלית. הקוד, הפקודות והכלים נשארים באנגלית בשתי הגרסאות.
מתי הוא נפתח?
הוא בהכנה. הצטרפו לרשימת ההמתנה כדי לשמוע כשהמודולים הראשונים יתפרסמו.
ההמתנה
08 רשימת המתנה
מייל אחד כשהמודולים הראשונים מתפרסמים, ומדי פעם עדכון על התקדמות הקורס. כתבו ל־shimon@defendingaiagents.com; הכתובת שלכם תשמש רק לקורס הזה, ותוכלו לבקש להסיר אותה בכל עת.