אבטחת מידע ארגונית
החור השחור באבטחת המידע: האם ה-AI שלכם מלמד את ההאקרים איך לפרוץ אליכם?
משטח התקיפה החדש: חוקרי TrendAI חושפים כיצד כישורי AI הופכים לנקודת התורפה הקריטית של הארגון
TrendAI™, החטיבה העיסקית של מובילת אבטחת הסייבר טרנד מיקרו, פרסמה מחקר AI Skills as an Emerging Attack Surface in Critical Sectors המתריע מפני איום סייבר מתהווה: כישורי בינה מלאכותית (AI Skills). בעוד שארגונים בכל המגזרים מאמצים את טכנולוגיית ה-AI כדי לייעל תהליכים, מזהירים החוקרים כי המיומנויות הללו, המכילות את ה-DNA הארגוני כמו גם סודות מסחריים ומנגנוני הגנה, הופכות למטרה אטרקטיבית לתוקפים, כאשר ארגונים רבים כלל אינם מודעים לסיכון הגלום בהן.
מהם AI Skills ולמה הם מסוכנים? לדברי החוקרים,קיריל גלפנד, אדריכל פתרונות אסטרטגיים ב- TrendAI ישראל ו-ולדימיר קרופוטוב ופיודור ירוצ’קין, חוקרים ראשיים בצוות מחקר האיומים שלTrendAI , כישורי בינה מלאכותית הם טקסט בפורמט היברידי, המשלבים הוראות הניתנות לקריאה על ידי אדם לצד לוגיקה שמודלי השפה הגדולים יכולים לפרש ולבצע. מיומנויות אלו מקפלות בתוכן מומחיות אנושית, תהליכי עבודה, אילוצים תפעוליים ולוגיקת קבלת החלטות, מה שמאפשר לארגונים להשיג אוטומציה ושימור ידע בקנה מידה חסר תקדים.
הסיכון המרכזי נובע מכך שכלי אבטחה מסורתיים אינם מסוגלים לנתח טקסט לא-מובנה, ולכן הם מתקשים להבין או להגן על התוכן המופיע בתוך המיומנויות הללו. התוצאה היא משטח תקיפה לא קונבנציונלי שבו התוקפים יכולים לנצל את הלוגיקה של ה"מיומנות" עצמה.
האיום כבר כאן – המחקר קובע כי האיום אינו תיאורטי בלבד. החוקרים מצאו כי מאגרי GitHub ציבוריים, כדוגמת "Awesome Claude Skills" כבר מכילים מאות מיומנויות החושפות פרמטרים תפעוליים רגישים. כתוצאה מכך, התוקפים יכולים לנתח מיומנויות פומביות, להבין את הלוגיקה הארגונית ולתכנן מתקפות שעוקפות את ההגנות. בין הממצאים:
- מסחר פיננסי: מיומנויות למסחר בקריפטו חשפו ספי סיכון ותצורות של מנתקי זרם(circuit breakers) , מה שמאפשר לתוקפים לתכנן עסקאות שיעקפו את בקרות הסיכון האוטומטיות.
- בריאות: מיומנויות סימולציה חשפו לוגיקה של החלטות קליניות ופרוטוקולים רפואיים.
- תעשייה: נחשפו פרמטרים קנייניים של סימולציות במדעי החומרים.
- שיווק: נחשפו אסטרטגיות קמפיינים וטירגוט.
- אבטחת מידע: נחשפו שיטות זיהוי ופלייבוקים של תגובה לאירועים.
לעוור את המגנים – אחד הממצאים המדאיגים ביותר במחקר נוגע לסיכון הייחודי עבור מרכזי אבטחה (SOC) המשלביםAI . תוקף המשיג גישה למיומנויות ה-SOC יכול ללמוד את לוגיקת סינון ההתראות, להבין את כללי הקורלציה, לתפעל את המערכות כך שיתעלמו מהתקפותיו או ינמיכו את חומרתן ולהשבית תגובות אוטומטיות.
המחקר משרטט מסלול הסלמה מסוכן: גישה ל-1-2 מיומנויות מעניקה לתוקף יתרון טקטי, אך השתלטות על סט מלא של מיומנויות מאפשרת יצירת תאום דיגיטלי (Digital Twin) של מערך ההגנה הארגוני וחיזוי מלא של התנהגות המגנים.
החוקרים מציעים מודל שרשרת הרג (Kill Chain) ייעודי בן 8 שלבים למתקפות על AI Skills החל מאיתור מיומנויות חשופות במאגרים ציבוריים, דרך ניצול שרשרת האספקה והזרקת קוד (Injection Attacks) ועד להוצאת מידע ושיבוש פעילות. בשל הערבוב בין הוראות לנתונים במיומנויות אלו, קיים סיכון גבוה במיוחד למתקפות הזרקה, הדומות ל-SQL injection מסורתי אך מורכבות הרבה יותר לזיהוי.
כדי להתמודד עם האיום, ממליצים חוקרי TrendAI לארגונים לאמץ חמישה עקרונות אבטחה:
- התייחסות למיומנויות כקניין רוחני רגיש: החלת בקרת גישה, ניהול גרסאות והערכת סיכונים לכל אורך מחזור החיים.
- הפרדה בין הוראות לנתונים: שמירה על הפרדה ברורה בין לוגיקת המיומנות לבין נתוני משתמש.
- הגבלת הרשאות (Least Privilege) : צמצום הרשאות הביצוע של המיומנות למינימום ההכרחי למניעת תנועה לרוחב ברשת.
- בדיקת תרחישי תקיפה: ביצוע "מבחני עמידות" במאמץ להבין כיצד משתמש זדוני יכול לנצל את הלוגיקה של המיומנות לפני פריסתה.
- ניטור רציף: הטמעת ארכיטקטורת זיהוי רב-שכבתית העוקבת אחר שינויים במאגרים, חריגות בביצוע ודפוסי הוצאת מידע.
הקשר ישראלי: למה עכשיו? המלחמה האחרונה האיצה את אימוץ ה-AI בארגונים ישראליים ומחסור בכוח אדם עקב גיוס מילואים ממושך דחף ארגונים לאוטומציה מואצת. התוצאה: יותר מערכות AI נפרסות מהר יותר, עם פחות זמן לבדיקות אבטחה. AI Skills שמכילים לוגיקה עסקית רגישה הפכו ליעד אטרקטיבי במיוחד. עבור ארגוני ביטחון, אנרגיה ובריאות בישראל, זה לא תרחיש תיאורטי, זו המציאות של היום.
סיכום והמלצות מיידיות – "ככל שארגונים מקודדים יותר ידע תפעולי לתוך מיומנויותAI , כך הערך שלהן לתוקפים עולה. מיומנויות AI מייצגות משטח תקיפה מתהווה הדורש תשומת לב אבטחתית ייעודית. הגיע הזמן להתייחס אליהן ברצינות," מסכמים החוקרים. הארגונים נקראים לבצע פעולות מיידיות: למפות את כל המיומנויות הקיימות, לסווגן לפי רגישות, לקבוע קווי בסיס (baselines) לדפוסי התנהגות נורמליים, לבודד מיומנויות בעלות הרשאות גבוהות ולנטר חריגות באופן רציף.