אבטחת מידע ארגונית
מחקר TrendAI™ חושף – 89% ממקבלי ההחלטות העסקיים בישראל מודים שחשו לחץ לאשר פרוייקטי AI למרות סיכוני האבטחה הכרוכים בהם
הסערה המושלמת: הלחץ התחרותי להטמעת AI יוצר חורי אבטחה חסרי תקדים בארגונים
ארגונים ברחבי העולם ובישראל מקדמים פריסת בינה מלאכותית תוך התעלמות מסיכוני אבטחה וציות ברורים. כך עולה ממחקר חדש שפרסמה מובילת אבטחת ה-AI העולמית TrendAI™, החטיבה העסקית של טרנד מיקרו. המחקר, שנערך בקרב 3,700 מקבלי החלטות בתחום העסקי וה-IT ב-22 מדינות, כולל ישראל, חושף לחץ כבד לפריסת AI לצד חוסר ודאות נרחב בנושאי אבטחה, ציות ואחריות.
המחקר של טרנד מציע הצצה מרתקת לעולם שבו הטכנולוגיה רצה קדימה, והארגונים מנסים, לעיתים ללא הצלחה, להדביק את הקצב. המחקר גם מדגים כיצד הלחץ לאישור הטמעת בינה מלאכותית ג'נרטיבית
(Gen AI) בישראל גבוה משמעותית מהממוצע העולמי בשל מספר גורמים מרכזיים המצביעים על פער בין הדחף לחדשנות לבין המוכנות הארגונית. פער זה גם מרמז על סתירה פנימית: מקבלי ההחלטות חוששים מהאיומים, אך חשים מחויבים לאשר את הטכנולוגיה כדי לא להישאר מאחור.
פער בראיית הסיכונים בין הדרג העסקי לדרג הטכנולוגי. בעוד שברמה הגלובלית 67% ממקבלי ההחלטות דיווחו על לחץ לאשר פרוייקטי AI למרות סיכוני אבטחה, בישראל הנתונים גבוהים בהרבה. 77% בקרב מקבלי החלטותIT , ושיא של 89% בקרב מקבלי החלטות עסקיים דיווחו שחשו לחץ לאשר הטמעות AI שהיו כרוכות בסיכוני אבטחת סייבר פוטנציאליים. הנשאלים מציינים כי הלחץ "לנוע מהר" והצורך להישאר תחרותיים גובר על שיקולי האבטחה. מקבלי ההחלטות העסקיים חשים את הלחץ בצורה החריפה ביותר והם גם אלו המביעים את החשש הגבוה ביותר מפני שימוש לרעה ב-AI, כמו זיוף קול (Voice cloning) של מנהלים בכירים. מהמחקר עולה כי השילוב בין תרבות של חדשנות מהירה, היעדר מדיניות פנים-ארגונית וחוסר ביטחון בידע הרגולטורי יוצר "סערה מושלמת" שבה הלחץ בישראל לאשר מערכות Gen AI מסוכנות, גבוה באופן חריג מהמקובל בעולם.
אי-ודאות משפטית ואכיפה רגולטורית. קיים פער עמוק בידע לגבי המסגרות המשפטיות המפקחות על הטכנולוגיה. רק 27% ממנהלי ה-IT בישראל ו-19% מהמנהלים העסקיים חשים ביטחון בהבנת החקיקה הרלוונטית ובהבנת המסגרות המשפטיות המסדירות AI, לעומת 53% מהנשאלים בתחום ה-IT בעולם, ו-32% בתחום העסקי. חוסר הבהירות לגבי הרגולציה המקומית והבינלאומית יוצר מצב שבו ארגונים מאשרים פריסה מבלי להבין את ההשלכות המשפטיות המלאות.
אימוץAI מהיר יותר מהיכולת לשלוט בו. ארגונים מטמיעים AI מהר יותר מכפי שהם יכולים לנהל את הסיכונים הנלווים אליו. 60% ממנהלי הIT בארגונים בעולם טוענים כי ה-AI מתקדם מהר יותר מיכולתם לאבטח אותו, ו-% 54 ממקבלי ההחלטות העסקיים בעולם מחזיקים בדיעה דומה. בישראל, 32% ממקבלי החלטות ה-IT ו-26% מהמנהלים העסקיים מסכימים כי ה-AI מתקדם מהר מדי ביחס לאבטחה. הנשאלים מציינים כי הלחץ נובע מהצורך "לעמוד בקצב של המתחרים" או לענות על דרישות פנימיות לחדשנות. באקו-סיסטם הטכנולוגי הישראלי, שבו המהירות היא ערך עליון, הלחץ להטמיע כלי AI נתפס לעיתים כקריטי להישרדות עסקית, גם אם הדבר כרוך בנטילת סיכוני אבטחה קיצוניים.
חוסר בשלות בממשל תאגידי (Governance). בישראל קיים מחסור חמור במדיניות רשמית המסדירה את השימוש ב-AI. רק כ-20% מהארגונים בישראל מחזיקים במדיניות AI מקיפה, לעומת כ-38% בממוצע הגלובלי. היעדר כללי משחק ברורים בתוך הארגונים מותיר את מקבלי ההחלטות חשופים ללחצים חיצוניים ופנימיים לאישור מערכות מבלי שיש להם מסגרת עבודה מסודרת להערכת סיכונים.
האמון ב-AI אוטונומי עדיין מוגבל. פחות ממחצית (48%) מהנשאלים בעולם מאמינים שסוכני AI Agentic) (AI ישפרו משמעותית את הגנת הסייבר בטווח הקצר. בישראל, הציפיות נמוכות אף יותר: רק כ- 25% ממקבלי ההחלטות בארגונים ישראליים סבורים שהיא תשנה את ההגנה לטובה, בעוד שיותר מ-50% בישראל מעריכים כי היא דווקא תעצים את המתקפות באמצעות אוטומיזציה והתאמה אישית.
גורמי חשש. כ-40% מהארגונים בעולם תומכים בהכנסת מנגנוני "Kill Switch" לעצירת המערכות במקרה של כשל או שימוש לרעה. בישראל, התמיכה בצעד כזה עומדת על 30% בקרב מנהלי IT, אם כי כ- 40% סבורים שייתכן ויהיה בכך צורך בהתאם לרמת הסיכון.
הסקר מצביע על כך שמרבית המשיבים, בעולם ובישראל, סבורים שרק בין 21% ל- 41% מהתנהגויות ה-AI הזדוניות מזוהות כיום, וחושף מציאות מדאיגה של "שטח מת" נרחב במערכי ההגנה הארגוניים. המשמעות היא שמרבית האיומים הפועלים במרחב ה-AI אינם מזוהים, מה שמותיר את הארגונים חשופים לפעילות זדונית המתרחשת מתחת לרדאר.
בישראל, הערכת מקבלי ההחלטות לגבי אחוזי הזיהוי של התנהגויות AI זדוניות, נעה בין 36% (בדרג הטכנולוגי) ל-41% (בדרג העסקי), נתון המדגיש את הפער העמוק בין הריצה המהירה לאימוץ טכנולוגיות חדשות לבין היכולת המוגבלת לנטר ולאבטח אותן בפועל. חוסר הנראות הזה מחמיר לנוכח העובדה שארגונים רבים חשים לחץ תחרותי לאשר הטמעות פרויקטי AI גם כשהן כרוכות בסיכוני אבטחה ידועים, ובכך הם למעשה מהמרים על בטחונם בעולם שבו רוב הפעילות הזדונית נותרת סמויה מהעין.