כיצד תפתחו מודעות סייברסקיוריטי בארגון שלכם | נאוטק

שנת 2024 היא בהחלט נקודת מפנה באבולוציה של אינטליגנציה מלאכותית, במיוחד בכל הקשור להנדסה חברתית. עכשיו כשיכולות ה-AI מתרחבות באופן אקספוננציאלי, גם היכולות של גורמים עוינים לרתום אותן לטובת מתקפות הרסניות של הנדסה חברתית. להלן עשר ההתפתחויות שצפויות לבלוט ב-2024 בתחום הסייברסקיוריטי:

1. עלייה אקספוננציאלית בשיקול הדעת והיכולות של AI

רמת החדשנות של AI היא מעבר לכל דמיון. יכולות שיקול הדעת של AI צפויות לנסוק ואפילו להתעלות על האינטליגנציה האנושית בתחומים מסוימים. פירוש הדבר שאנחנו רואים טקטיקות הנדסה חברתית משכנעות יותר ומותאמות אישית בשימוש גורמים עוינים.

2. מודלים בתחום השפה Multimodal Large Language Models (MLLMs)

MLLMs המסוגלים לעבד ולפענח מגוון דאטות ייקחו את מרכז הבמה ב-2024. המודלים הללו מאפשרים שימוש בהודעות פישינג והנדסה חברתית משכנעות ורלוונטיות מבחינה קונטקסטואלית, מה שכמובן מגביר את יעילותן.

3. טכנולוגיות Text to Video

ההתקדמות בטכנולוגיות T2V פירושה סרטוני AI שעומדים בחזית של דיסאינפורנציה ודיפ-פייק. יכולות להיות לכך השלכות על הפצת תעמולה ופייק ניוז בהקשר לאירועים שבכותרות – וגם ברמת המיקרו.

4. מהפכה בלמידת AI

היכולת של AI לזהות פערי מידע לטובת שיפור תהליך הלמידה עשויה ליפול לידיהם של גורמים שיבצעו מניפולציות והטעיה ויפיצו קמפיינים מטעים המטרגטים אינדיבידואלים על סמך דפוסי הלמידה שלהם ונקודות התורפה שלהם.

5. היעדר רגולציה (בינתיים)

הניסיונות של ממשלות לבצע רגולציה ב-AI על מנת למנוע סיכונים קטסטרופליים יהפכו לעניין חשוב על סדר היום. עם זאת, המהירות שבה מתקדמים החידושים בתחום ה-AI גבוהה בהרבה מזו של המחוקק, מה שיוביל לתקופה ממושכת ובלתי נמנעת שבה טכנולוגיות AI ישמשו גורמים עוינים.

6. בועת ההשקעה ב-AI

ההשקעה בסטארט אפים מתחום ה-AI מרמזת התפוצצות בשוק אך הבעיות הפוטנציאליות במודלים העסקיים שלהם עלולות להוביל לשורה של כלים מיותמים שזמינים לכל דורש, לרבות גורמים מזיקים.

7. אירועים חדשותיים על הכוונת

כאמור, אירועים כמו המלחמה במזרח התיכון והבחירות בארה"ב בנובמבר הקרוב מושפעים רבות מקמפיינים מבוססי AI שרק הולכים ומשתכללים על מנת לצבור דעת קהל אוהדת בכל צד של המתרס.

8. טכנולוגיית AI בשירות קהל יעד חדש

עכשיו כש-AI הופך לנגיש ומשתלם מבעבר, גם גורמים בעלי הבנה בסיסית יותר בסייבר עשויים לעשות בו שימוש.

9. יכולות גם בעולם החומרה

כאמור צפוי לנו פיתוח מהיר של מודלים מורכבים מתחום ה-AI, מה שיאפשר טקטיקות שמתאימות את עצמן במהירות רבה יותר וצורות משכנעות יותר של הונאות שקשה יותר לעלות עליהן.

10. מירוץ החימוש של AI בסייברסקיוריטי

במקביל לכלים שמוצעים לפושעי סייבר, ניתן גם לרתום את ה-AI למערכות אבטחה אפקטיביות. למעשה מתקיים מעין מירוץ בין השניים, מי ישיג יותר עם התקדמות הטכנולוגיה.