מתקפות סייבר
טרנד מיקרו – תשתיות בינה מלאכותית נמצאות תחת מתקפה, והגיע הזמן לחשוב מחדש על אבטחתן
במחצית הראשונה של 2025 זוהו עשרות פרצות Zero-Day במערכות AI לרבות בסיסי נתונים, קונטיינרים, סוכני LLM ומנועי הסקה. טרנד מיקרו קוראת לתעשייה לחשב מסלול מחדש
ענקית הסייבר הבינלאומית טרנד מיקרו (Trend Micro) פרסמה את דוח מצב אבטחת ה-AI למחצית הראשונה של 2025, ובו היא מציבה תמרור אזהרה חד וברור: האצת השימוש בטכנולוגיות בינה מלאכותית בארגונים ברחבי העולם מתרחשת לעיתים תוך כדי הזנחת מערכות ליבה ושכבות קריטיות של אבטחה, מה שמוביל לעלייה חדה במספר החולשות והמתקפות על מערכות מבוססות AI. הדוח מראה כיצד רכיבי ליבה לא מעודכנים, גם כאלו שנחשבים יציבים, עלולים לאפשר השתלטות מרחוק, הדלפת נתונים, והשפעה על התנהגות המודלים.
לדברי רייצ'ל ג'ין, סמנכ"לית פלטפורמת ארגוניות בטרנד מיקרו, "בינה מלאכותית עשויה לייצג את ההזדמנות של המאה עבור ארגונים גלובליים, אך מי שממהר מדי להיכנס לתחום, מבלי לנקוט באמצעי אבטחה מספקים, עלול בסופו של דבר לגרום ליותר נזק מתועלת. כפי שהמחקר שלנו חושף, תשתיות רבות מדי בתחום נבנות כיום מרכיבים שאינם מאובטחים או שאינם מוטלאים, מה שפותח דלת בפני תוקפים."
הסקר מצטט נתונים על פיהם 93% ממנהלי האבטחה הבכירים בארגונים מעריכים כי יידרשו להתמודד עם התקפות מבוססות AI על בסיס יומי כבר במהלך 2025, נתון שממחיש את עומק האיום הנשקף לארגונים כיום. בנוסף, מדוח הסייבר העולמי של פורום הכלכלה העולמי עולה כי 66% מהארגונים צופים כי ל-AI תהיה ההשפעה המשמעותית ביותר על תחום הסייבר השנה.
דוח המחצית הראשונה של טרנד מיקרו מבוסס על ניתוחי חולשות מהשטח, פרויקטי מחקר מתקדמים ותובנות שהופקו בין היתר מתחרות ההאקינגPwn2Own Berlin 2025 מבית ZDI של טרנד מיקרו שבה שולבה לראשונה קטגוריה ייעודית למתקפות על תשתיותAI . במסגרת הקטגוריה, נחשפו 28 חולשות Zero-Day חדשות, מהן שבע חולשות שנגעו ישירות למרכיבי ליבה של תשתיות AI , כולל חולשות קריטיות ב־ChromaDB Redis, NVIDIA Triton ו־NVIDIA Container Toolkit.
טרנד מיקרו מציינת בדוח כי כבר בחודש מאי 2025 נמצאו מעל 200 שרתי ChromaDB פתוחים לחלוטין לאינטרנט, ללא כל אימות או הגנה בסיסית, מה שאיפשר קריאה, כתיבה ומחיקה של נתונים מצד כל גורם זדוני. ממצאים דומים נצפו גם ב-Redis v8, שם נוצלה חולשה מסוג Use-After-Free ברכיב Lua וב־NVIDIA Triton שבה שרשרת של ארבע חולשות איפשרה הטענת נתונים מסוכנים לשרת inference תפעולי.
אחת מהמגמות המטרידות ביותר שעליהן מצביע הדוח היא העלייה במתקפות על מערכות מבוססות סוכני בינה מלאכותית (Agentic AI), סוכנים מתקדמים שמסוגלים לבצע reasoning עצמאי, לגשת למקורות מידע ולבצע פעולות בשטח. צוות מחקר האיומים של טרנד מיקרו פיתח במיוחד את Pandora – סוכן AI ניסיוני – המיועד לחקור דרכים חדשות שבהן תוקפים יכולים לנצל סוכני בינה מלאכותית. באמצעות פנדורה חשפו החוקרים תרחישי תקיפה מרובים , לרבות הזרקות הנחיה עקיפות. התוקף יכול להטמיע את ההוראות שלו בתוכן שהסוכן מעודד לטעון, מה שעלול להוביל לדליפות של צ'אטים מאוחסנים או קבצים שמשתמשים אחרים עשויים להעלות.
הדוח מציין עוד כיAI הפך גם לכלי בסיסי בידי תוקפים המאפשר להם להעצים את הפעילויות הנוכחיות שלהם ולחקור עולמות חדשים, תרתי משמע. הדוח מציין כי פושעי סייבר מסוגלים היום בעזרת AI ליצור פיתיונות אמינים יותר ולהרחיב את פעילותם לקורבנות באזורים שלא היו נגישים בעבר. על ידי שילוב השימוש ב-GenAI עם נתונים ביומטריים חשופים ומידע שדלף מטקטיקות כופר, הם יכולים גם ליצור זהויות דיגיטליות לצרכי הונאות מטבעות קריפטוגרפיים או פעילויות כופר וסחיטה.
המחקר מדגיש כי לאף טכנולוגיית בינה מלאכותית אחרת לא היה רדיוס פיצוץ גדול יותר מאשר דיפ פייק, כאשר 36% ממשתמשי טרנד מיקרו דיווחו כי נחשפו לתוכן דיפ פייק במסגרת ניסיונות הונאה מקוונת. פלטפורמות אלו זמינות בחלקן בחינם, ומספקות לתוקפים יכולות שעד לאחרונה נחשבו לאמצעים של מדינות בלבד. בידיים הלא נכונות, הם יכולים לשמש כנשק בהונאות צרכניות רחבות כמו גם בהתקפות ארגוניות ממוקדות מאוד.
הדוח מציין כי גורמי איום נוטים היום יותר ויותר לנטוש שירותי darknet מותאמים אישית לטובת פלטפורמות דיפ פייק מסחריות פופולריות, ובצדק. פלטפורמות אלו מציעות לפושעי סייבר חסרי רקע טכני מתקדם שורה של כלים נגישים, מדריכים מפורטים ויכולות מתקדמות כמו שיבוש סטרימינג בזמן אמת, שכפול קולות במספר שפות, והפשטת תמונות, לעיתים בעלות נמוכה, ואף ללא תשלום כלל.
המלצות מרכזיות לאבטחת מערכות AI בארגונים:
- שלבו אבטחה בכל שלב ממחזור החיים של ה-AI – הטמיעו בקרות אבטחה "by design" החל משלב פיתוח המודל, ההדרכה ועד הפריסה, כדי להקדים איומים עתידיים.
- היערכו לסוכני AI (Agentic AI) – מערכות חכמות בעלות reasoning עצמאי דורשות בקרות עמוקות, בשל יכולתן לפעול ולהשתכפל עצמאית.
- היערכו לעידן הקוונטי – קדמו כלים לאבטחת הצפנה היברידית-קוונטית, כולל מודלים חסיני קוונטום, על בסיס יוזמות כמו CUDA-Q ומרכז המחקר של NVIDIA.
- אמצו כלים ומודלים ייעודיים לאבטחת AI – השתמשו בפלטפורמות כדוגמת Cybertron , סוכן AI עצמאי לזיהוי ותגובה לאיומים וקבלת החלטות עצמאית בזמן אמת. הוא משתלב בפלטפורמתTrend Vision One ומספק אנליטיקה חכמה וניטור התנהגותי של תשתיות AI מורכבות. חלקים מהמערכת זמינים בקוד פתוח לטובת הקהילה.
- השתמשו ב-AI Security Blueprint – מסמך ההנחיות לאבטחת מערכות AI , שפרסמה טרנד מיקרו כולל מנגנוני הגנה רב-שכבתיים לשמירה על שלמות הנתונים והתפעול, הוא מסמך מסגרת מקיף שמספק הנחיות מעשיות למיגון מערכות AI בענן, קצה ומרכזי נתונים – כולל עבור תשתיות Kubernetes, מערכות סוכנים וכלי inference.
- בצעו תכנון מוקדם לאיומים במערכות DA (עוזרים דיגיטליים) – ככל שהעוזרים הדיגיטליים הופכים למרובי פונקציות ומכשירים, נדרש ניטור קבוע ותחזית סיכונים עתידיים.
- חזקו שיתופי פעולה בתעשיה – טרנד מיקרו פועלת במסגרת Coalition for Secure AI (CoSAI) ובשיתוף עם MITRE ATLAS לביסוס סטנדרטים, נהלים וכלי תגובה מותאמים ל-AI.
- הטמיעו פרקטיקות כגון, חתימה דיגיטלית למודלים, כרטיסי מודל קריאים למכונה (machine-readable model cards), תגובה לאירועים במערכות AI, אבטחת שרשראות אספקה וגישת Zero Trust ל-AI.
טרנד מיקרו קוראת לתעשייה לחשב מסלול מחדש. העידן שבו AI נחשב לכלי בטוח כבר חלף. הבינה המלאכותית הפכה לכלי עוצמתי שמשמש מנוע צמיחה לארגונים ומאפשר חדשנות יוצאת דופן, אך באותה מידה, גם מאיץ את יכולות ההתקפה של גורמים זדוניים. כדי להבטיח עתיד בטוח בעידן זה, נדרש מעבר מגישת אבטחה תגובתית לגישה הוליסטית, הכוללת הטמעה רב-שכבתית, תהליכי למידה מתמשכים ושיתופי פעולה חוצי מגזרים. רק כך ניתן לבנות מערכות AI עמידות, גמישות ובטוחות באמת.