This is the Trace Id: e202a2879a5cab5094840b500f1d9079

 

Cyber Pulse: דוח אבטחת AI

מדידת שימוש ומחקר עדכניים של Microsoft מראים שרבים מהארגונים מאמצים סוכני AI. עכשיו זה הזמן של מנהיגים להטמיע נראות, פיקוח ואבטחה ברמה הגבוהה ביותר.
קרא את הדוח שתף
שלושה עמיתים יושבים באזור דיונים מודרני במשרד, עם טקסט בשכבת-על המדגיש את אימוץ סוכני AI בתכנות פשוט על-ידי חברות Fortune 500.

גיליון 1: מבוא

ארגונים פורצי דרך מגדירים מחדש את אופן ביצוע העבודה, כשבני אדם וסוכנים פועלים יחד כדי להעלות את הרמה של השאיפות האנושיות. נתונים עדכניים של Microsoft מצביעים על כך שצוותים אלו של סוכנים אנושיים מתרחבים ומאומצים באופן נרחב ברחבי העולם.

סוכני AI מתרחבים מהר יותר מקצב המעקב של חלק מהחברות, ופער הנראות הזה מהווה סיכון עסקי. ארגונים זקוקים בדחיפות לפיקוח ואבטחה אפקטיביים כדי לאמץ סוכנים בבטחה, לקדם חדשנות ולהפחית סיכונים. כמו משתמשים אנושיים, סוכני AI דורשים הגנה באמצעות נראות, פיקוח ואבטחה חזקים המבוססת על עקרונות אפס אמון. ארגונים שיצליחו בשלב הבא של אימוץ AI יהיו אלה שיפעלו במהירות ויאחדו צוותי עסק, IT, אבטחה ומפתחים כדי לפקח, לנהל ולהגן על השינוי הדיגיטלי שלהם.

באקוסיסטמה של Microsoft, לקוחות בונים ומפרסמים סוכנים בכל פלטפורמה מרכזית — החל מ- Fabric ו- Foundry ועד Copilot Studio ובונה הסוכנים — המשקף שינוי רחב לעבר אוטומציה המבוסס על בינה מלאכותית בזרימת העבודה.

בניית סוכנים אינה מוגבלת לתפקידים טכניים; העובדים של ימינו במגוון תפקידים יוצרים סוכנים ומשתמשים בהם כחלק מהעבודה היומיומית. למעשה, נתוני Microsoft מראים כי יותר מ- 80% מחברות Fortune 500 מפעילות סוכנים פעילים שנבנו באמצעות כלים בתכנות פשוט/ללא קוד.1 עם התרחבות השימוש בסוכנים והכפלת הזדמנויות הטרנספורמציה, עכשיו זה הזמן להטמיע בקרות יסודיות.

בדומה לעובדים אנושיים, גישת "אפס אמון" לסוכנים משמעותה:
 

  • גישה למינימום הרשאות: תן לכל משתמש, סוכן AI או מערכת רק את ההרשאות הנחוצות — לא יותר.

  • אימות מפורש: תמיד אשר את מי או מה שמבקש גישה באמצעות זהות, תקינות מכשירים, מיקום ורמת סיכון.

  • להניח שהפרצה יכולה להתרחש: עצב מערכות מתוך ציפייה שתוקפים יצליחו לחדור פנימה.

גרפיקה המציגה כי מעל 80% מחברות Fortune 500 משתמשות בכלי סוכני Low Code פעילים, עם Ask Copilot

סוכני AI מתרחבים במהירות — בכל האזורים והתעשיות

אימוץ סוכנים מואץ בין אזורים ברחבי העולם — מ-EMEA ליבשות אמריקה ולאסיה.2
תרשים עמודות המציג את ההתפלגות האזורית: EMEA 42%, ארצות הברית 29%, אסיה 19%, אמריקות 10%.
Microsoft רואה גידול משמעותי באימוץ סוכנים בכל התעשיות. שירותים פיננסיים, ייצור וקמעונאות מובילים את תחום אימוץ הסוכנים. שירותים פיננסיים — כולל בנקאות, שווקי הון וביטוח — מהווים כיום כ- 11% מכלל הסוכנים הפעילים בעולם.2 ייצור אחראי ל- 13% משימוש הסוכנים הגלובלי, מה שמעיד על אימוץ נרחב במפעלים, בשרשראות אספקה ובפעילות אנרגיה.2 קמעונאות מהווה 9%, כאשר הסוכנים משמשים לשיפור חוויית הלקוח, ניהול מלאי ותהליכים בחזית העסק.2

האתגר: חלק מהסוכנים האלה נתמכים על-ידי מחלקות IT — אחרים לא. חלק מהסוכנים מאובטחים — אחרים אינם.
מעגלים חופפים המציגים את התפלגות התעשיות: תוכנה וטכנולוגיה 16%, ייצור 13%, שירותים פיננסיים 11%, קמעונאות 9%.

הסיכון של סוכנים כפולים

פריסה מהירה של סוכנים עלולה לעלות על בקרות אבטחה ותאימות, ולהגביר את הסיכון ל- Shadow AI. שחקנים רעים עלולים לנצל את הגישה וההרשאות של הסוכנים, ולהפוך אותם ל"סוכנים כפולים" בשוגג. בדומה לעובדים אנושיים, סוכן עם גישה מופרזת או הוראות שגויות עלול להפוך לנקודת תורפה.

האיום מניצול סוכנים כפולים, אם הם לא מנוהלים, מורשים בצורה שגויה או מנוצלים על-ידי קלט לא מהימן, הוא סיכון ממשי ולא תאורטי. לאחרונה, צוות Defender של Microsoft זיהה קמפיין הונאה שבו מספר שחקנים ניצלו טכניקת התקפה מבוססת AI הידועה כ'הרעלת זיכרון' כדי לבצע מניפולציה על הזיכרון של מסייעי AI באופן מתמשך, ולהכווין בשקט תגובות עתידיות תוך פגיעה באמינות הדיוק של המערכת.

במחקר עצמאי ומאובטח שנערך על ידי AI Red Team של Microsoft, החוקרים תיעדו כיצד סוכנים הוטעו על-ידי אלמנטים ממשקיים מטעים, כגון ביצוע הוראות מזיקות שהוטמעו בתוכן יומיומי. צוות ה- Red Team גילה גם כיצד ניתן לנווט מחדש בעדינות את ההנמקה של הסוכנים דרך מסגור משימות שבוצעה עליהן מניפולציה. ממצאים אלה מדגימים מדוע קריטי שלארגונים תהיה נראות מלאה וניהול של כל הסוכנים שיש להם נגיעה בארגון, כדי לאכוף בקרות ולנהל סיכונים באופן מרוכז בגישה משולבת.
29% מהעובדים משתמשים בסוכני בינה מלאכותית לא מאושרים לביצוע משימות עבודה, כך עולה מסקר שנערך בשנת 2025
לפי מדד אבטחת הנתוונים של Microsoft, רק 47% מהארגונים בתעשיות שונות מדווחים שהם מטמיעים בקרות אבטחה ספציפיות ל- GenAI,3 מה שמדגיש הזדמנות לארגונים לקבל נראות ברורה הנחוצה לאימוץ בטוח של AI. חשוב אף יותר, לפי סקר רב-לאומי של מעל 1,700 אנשי אבטחת מידע שהזמינה Microsoft מ- Hypothesis Group, כבר 29% מהעובדים פנו לסוכני AI לא נתמכים למשימות עבודה.4
תרשים עוגה המדגים שרק 47% מהארגונים מפעילים בקרות אבטחה לשימוש בבינה מלאכותית גנרטיבית.

ככל שהאימוץ מואץ, כמה מנהלים מודעים לסיכונים הטמונים בכך? כמה מנהלים מחזיקים בתמונה מלאה על אוכלוסיית הסוכנים בארגון שלהם? סוכני AI שאינם מפוקחים או מנוהלים עלולים להחריף סיכונים בארגון — לסכן את האבטחה, המשכיות העסק ומוניטין החברה, וכל זאת נופל ישירות על כתפי ה- CISO וההנהלה הבכירה. זה מה שמונח בליבה של דילמת הסיכון בסייבר. סוכני AI מביאים הזדמנויות חדשות לעבודה ומשולבים עמוקות בתהליכים הפנימיים של הארגון. עם זאת, התנהגות מסוכנת של סוכן עלולה להגביר איומים פנימיים וליצור נקודות כשל חדשות בארגונים שאינם מוכנים להנהל אותם.

 

האופי הכפול של ה- AI הגיע: חדשנות פורצת דרך לצד סיכונים חסרי תקדים.

להפיק את המירב מסוכני ה- AI שלך

חברות מובילות מנצלות את גל ה- AI כדי להפוך את הפיקוח למודרני, לחתוך בחשיפות מיותרות של נתונים ולפרוס בקרות ארגוניות רחבות היקף. הן משלבות זאת בשינוי תרבותי: מנהיגי העסקים מובילים את אסטרטגיית ה- AI, בעוד צוותי IT ואבטחה הפכו לשותפים אמיתיים בנראות, פיקוח וניסויים בטוחים. בעבור ארגונים אלה, אבטחת הסוכנים אינה מגבלה — אלא יתרון תחרותי, המבוסס על התייחסות לסוכני AI כאל בני אדם והחלה של אותם עקרונות "אפס אמון".

הכל מתחיל בנראות, מאחר שאי אפשר להגן על מה שלא רואים, ולא לנהל מה שלא מבינים. לנראות יש שכבת בקרה על כל שכבות הארגון (IT, אבטחה, מפתחים וצוותי AI) כדי להבין:

  • אילו סוכנים קיימים
     

  • מי הבעלים שלהם
     

  • באילו מערכות ונתונים הם נוגעים
     

  • כיצד הם מתנהגים


 

תצפית כוללת חמישה תחומים מרכזיים:

  • רישום מרכזי פועל כמקור אמת יחיד לכל הסוכנים בארגון — נתמכים, של צד שלישי וסוכני צל חדשים. מלאי זה עוזר למנוע התפשטות בלתי מבוקרת של סוכנים, מאפשר אחריות ברורה ותומך בגילוי, תוך שהוא מאפשר להגביל או לבודד סוכנים שאינם נתמכים במידת הצורך.
  • כל סוכן מפוקח באמצעות אותן בקרות גישה מבוססות זהות ומדיניות שמיושמות על משתמשים אנושיים ועל יישומים. מינימום הרשאות, שנאכפות בעקביות, מבטיחות שסוכנים יוכלו לגשת רק לנתונים, מערכות וזרימות עבודה הדרושים למילוי תפקידם — לא יותר ולא פחות.
  • לוחות מחוונים ומדידת שימוש בזמן אמת מספקים תובנות על האינטראקציה של הסוכנים עם אנשים, נתונים ומערכות. מנהלים יכולים לראות היכן הסוכנים פועלים, להבין יחסי תלות ולנטר התנהגות והשפעה — מה שתומך בזיהוי מהיר של שימוש לרעה, סטייה או סיכון מתהווה.
  • סוכנים פועלים בין פלטפורמות Microsoft, מסגרות קוד פתוח ואקוסיסטמות צד שלישי תחת מודל פיקוח אחיד ועקבי. יכולת פעולה הדדית זו מאפשרת לסוכנים לשתף פעולה עם אנשים וסוכנים אחרים בזרימות עבודה, תוך שמירה על ניהול במסגרת אותן בקרות ארגוניות.
  • הגנות מובנות מגנות על הסוכנים מפני שימוש לרעה פנימי ואיומים חיצוניים. אותות אבטחה, אכיפת מדיניות וכלים משולבים עוזרים לארגונים לזהות סוכנים שנחשפו לסכנה או שאינם מתואמים בזמן ולפעול במהירות — לפני שהבעיות מתפתחות לנזקים עסקיים, רגולטוריים או תדמיתיים.

סגירת הפער: רשימת פעולות לביצוע לפיקוח ואבטחת AI

הדרך לשלוט בסיכוני AI ברורה: יש לנהל סוכני AI באותה רמת קפדנות כמו כל עובד או חשבון שירות תוכנה. לפניך שבעה פריטים חשובים לרשימת הפעולות לביצוע שלך.
  • תעד כל מטרה של סוכן והענק לו גישה רק למה שנחוץ לו. ללא הרשאות נרחבות.
  • החל כללי הגנת נתונים על ערוצי AI. שמור על רישומי ביקורת וסמן תוכן שנוצר על-ידי AI.
  • הצע חלופות מאובטחות כדי לבלום Shadow AI. חסום אפליקציות לא מורשות.
  • עדכן את מדריכי המשכיות עסקית לתרחישי AI. ערוך תרגילים שולחניים ומדוד מדדי נראות על פני זהויות, נתונים ושכבות איומים.
  • בנה פיקוח על AI ונהל את התהליכים כבר עכשיו – תעד את נתוני האימון, הערך הטיות והקם פיקוח אנושי משפטי, נתוני ואבטחתי – כך שהתאימות הרגולטורית תהיה מובנית מלכתחילה, לא תוספת מאוחרת.
  • שפר את ניהול סיכוני ה- AI לרמת הארגון – בסס אחריות ניהולית, מדדי KPI מדידים ונראות ברמת חבר הנאמנים לצד סיכונים פיננסיים ותפעוליים.
  • הכשר את העובדים לשימוש בטוח ב- AI. עודד שקיפות ושיתוף פעולה.

ארגונים שמצליחים עם סוכני AI הם אלה שממקדים בנראות, פיקוח ואבטחה. הצלחה בתחום דורשת שיתוף פעולה בין כל הצוותים ונראות מלאה של סוכני AI בכל רמות הארגון: אנשי מקצוע בתחום ה- IT, צוותי אבטחה, צוותי AI ומפתחים – שאת כולם ניתן לנהל דרך פלטפורמת בקרה מרכזית מאוחדת וגם לצפות בהם שם.

Agent 365 היא פלטפורמת הבקרה המאוחדת של Microsoft לניהול סוכני AI ברחבי ארגון. המערכת מספקת פלטפורמה מרכזית ברמת הארגון לרישום, פיקוח, אבטחה, נראות ותפעול של סוכני AI – בין שהם מבוססים על פלטפורמות Microsoft, מסגרות קוד פתוח או מערכות צד שלישי. מידע נוסף על מוצרי ושירותי Microsoft שעוזרים לאבטח את ה- AI וסוכנים, זמין כאן.
כרטיסי משאבים של האבטחה של Microsoft עם מדריכים ליישומי AI, פיקוח על AI ותאימות AI, על רקע כחול
מדריכים לאבטחת AI

המדריכים Microsoft לאבטחת ארגון המבוסס על בינה מלאכותית

קבל הנחיות לבניית תשתית איתנה ל- AI, כולל פיקוח ואבטחה על יישומי AI, ושמירה על תאימות.
קרא את המדריכים

משאבים נוספים

אדם עובד עם מחשב נישא בשולחן עבודה משותף, תוך בדיקת מידע בטלפון חכם

אינדקס אבטחת נתונים של Microsoft

קבל תובנות אודות האופן שבו AI גנרטיבית משנה את תחום אבטחת הנתונים.
קרא את הדוח
מגיש עומד על במה עם קריאות לפעולה על המסך עם המלל: הבנת סיכונים, הצבת בקרות נכונות, מדידה ומעקב

האצת הזדמנויות עם AI שאפשר לתת בו אמון

האזן למנהלי Microsoft החולקים דרכים מעשיות לבניית אמון בכל שלב במסע ה- AI שלך.
צפייה בוובינר
סמל כחול-לבן המציג דף בתוך מעטפה עם הטקסט "חדש".

הורד את הסיכום למנהלי CISO

הישאר מעודכן עם תובנות של מומחים, מגמות בתעשייה ומחקר בנושא אבטחה עם סדרת העדכונים הדו-חודשית הזו בדוא"ל.
הירשם
  1. [1]
    מבוסס על מדידת שימוש של Microsoft לסוכנים שנבנו באמצעות Microsoft Copilot Studio או בונה הסוכנים של Microsoft, שהיו בשימוש במהלך 28 הימים האחרונים של נובמבר 2025.
  2. [2]
    מדדי סוכנים תעשייתיים ואזוריים נוצרו באמצעות מדידת שימוש צד ראשון של Microsoft שמודדת סוכנים שנבנו באמצעות Microsoft Copilot Studio או בונה הסוכנים של Microsoft, שהיו בשימוש במהלך 28 הימים האחרונים של נובמבר 2025.
  3. [3]
    סקר רב-לאומי מיולי 2025 שכלל מעל 1,700 מומחי אבטחת מידע, שהוזמן על ידי Microsoft מחברת Hypothesis Group
  4. [4]

    מדד אבטחת הנתונים של Microsoft לשנת 2026: איחוד ההגנה על נתונים וחדשנות ה- AI, האבטחה של Microsoft, ‏2026

     

    מתודולוגיה:

     

    מדדי סוכנים תעשייתיים ואזוריים נוצרו באמצעות מדידת שימוש צד ראשון של Microsoft שמודדת סוכנים שנבנו באמצעות Microsoft Copilot Studio או בונה הסוכנים של Microsoft, שהיו בשימוש במהלך 28 הימים האחרונים של נובמבר 2025.

     

    אינדקס אבטחת נתונים לשנת 2026:

     

    סקר מקוון רב-לאומי בן 25 דקות נערך בין 16 ביולי ל- 11 באוגוסט 2025 בקרב 1,725 מנהלי אבטחת נתונים.

     

    השאלות התמקדו בנוף אבטחת המידע, תקריות אבטחה, אבטחת השימוש של עובדים ב-GenAI, והשימוש ב- GenAI בתוכניות אבטחת נתונים, כדי להדגיש השוואות ל- 2024.

     

    נערכו ראיונות עומק במשך שעה עם 10 מנהלי אבטחת נתונים בארה"ב ובבריטניה, כדי לאסוף סיפורים על האופן שבו הם ניגשים שלהם לאבטחת נתונים בארגונים שלהם.

     

    הגדרות:

     

    סוכנים פעילים הם 1) פרוסים בייצור ו- 2) בעלי "פעילות אמיתית" ששויכה להם ב- 28 הימים האחרונים.

     

    "פעילות אמיתית" מוגדרת כהתקשרות אחת ומעלה עם משתמש (סוכנים מסייעים) או הפעלה אוטונומית אחת ומעלה (סוכנים אוטונומיים).

עקוב אחר 'האבטחה של Microsoft'