עולם ה-AI הופך למסוכן – ESET חושפת לראשונה תוכנת כופר על בסיס AI

אם מישהו חושב שתחום ה-AI הוא נחמד ותמים, עם צ'אטבוטים אדיבים שרק רוצים לעזור, והשימושים בו הם בעיקר לצרכי מחקר, פיתוח, עזרה וקיצור תהליכים, הוא טועה. חוקרי חברת אבטחת המידע ESET חשפו לאחרונה סוג חדש של תוכנת כופר אשר עלול לשנות את כללי המשחק בתחום הונאות הסייבר, שרק הולכות ומתרבות. התוכנה, שקיבלה את השם PromptLock, משתמשת בבינה מלאכותית ג'נרטיבית (GenAI) כדי לייצר סקריפטים זדוניים בזמן אמת. זוהי הפעם הראשונה בה נצפתה נוזקה הפועלת באופן כזה, מה שהופך את הממצא לייחודי ומדאיג במיוחד.

PromptLock פועלת באמצעות מודל שפה מקומי היוצר קוד זדוני בשפת Lua. הייחודיות שלה טמונה בכך שהמודל מחליט בעצמו, תוך כדי תהליך ההדבקה, האם לחפש קבצים רגישים או מסוימים, להעתיק או להצפין אותם. המשמעות היא שהנוזקה הזו אינה מתבססת על תבניות קבועות, אלא פועלת בצורה אדפטיבית ודינמית, ובכך מקשה על אמצעי ההגנה לזהות אותה. החוקרים ב-ESET מציינים כי מדובר ביכולת שמסמנת נקודת מפנה משמעותית, שכן האקרים יכולים לנצל את ה-AI כדי לייעל ולשדרג את שיטות התקיפה שלהם.

הנוזקה כתובה בשפת Go ועושה שימוש באלגוריתם ההצפנה SPECK 128-bit. עד כה אותרו גרסאות מוקדמות שלה בפלטפורמת VirusTotal, וחוקרי ESET סיווגו אותה תחת השם Filecoder.PromptLock.A. גם ללא רקע טכני בשפות קוד, ניתן להסיק שמדובר בסכנה חדשה למחשבים, למכשירים האישיים ולתחנות קצה בארגונים ובבתים, החשופים לנוזקות והונאות מסוג חדש שטרם נראה בנוף, שכן הפוטנציאל ההרסני לא ידוע במלואו.

לדברי אנטון צ'רפאנוב, חוקר בכיר בחברה ומי שהוביל את המחקר יחד עם פטר סטריצ'ק, מציין כי "הופעת כלים כמו PromptLock מסמנת שינוי דרמטי במפת איומי הסייבר לשנים הקרובות. בעזרת בינה מלאכותית, ניתן לפתח כיום מתקפות מורכבות ללא צורך בצוותים גדולים של מפתחים. מודל מאומן היטב יכול לייצר קוד זדוני מתוחכם ובעל יכולת הסתגלות עצמית, ואם הוא ייושם במלואו, האיומים האלו יקשו מאוד על מערכות ההגנה ויהפכו את עבודתם של מגיני הסייבר למורכבת יותר".

אלכס שטיינברג, מנהל מוצר ESET בחברת קומסקיור הישראלית, טוען ש"אף שהנוזקה מוגדרת כ"ראשונית" ומציגה בעיקר יכולות מדאיגות מאשר פעילות עוינת בפועל – האיום שהיא מציבה הוא מוחשי מאוד, מה שכבר כיום משנה את מפת האיומים בסייבר. ESET פרסמה פרטים טכניים מלאים על מנת להעלות את המודעות בקהילות אבטחת הסייבר ברחבי העולם כדי שגופי אבטחה וארגונים יוכלו להתכונן מבעוד מועד".