פעם שטח התקיפה היה קוד. היום חלק ממנו הוא שיחה.

Read this article in English

נתקלתי היום בכלי בשם Proximity. בהתחלה זה היה עוד לינק שזורק אותך לגיטהאב, אבל אחרי כמה דקות קריאה הרגשתי שזה פותח חלון קטן למשהו הרבה יותר גדול ממה שרואים במבט ראשון.

Proximity הוא סורק לשרתי MCP. הוא אוסף כלים, פרומפטים ומשאבים, ואז מנתח אותם עם מערכת בשם NOVA – מערכת שמנסה להבין כוונה ולא רק מילים. היא משלבת זיהוי לפי מילות מפתח, דמיון סמנטי, וגם הערכה מבוססת מודלי LLM. המטרה היא לזהות ניסיונות לעקוף מגבלות, לבצע jailbreak או prompt injection.

מה שתפס אותי לא היה הצד הטכני

זה היה הרגע שבו הבנתי שמערכות שאנחנו רגילים לראות כשרתים קלאסיים של אפליקציות הפכו בחודשים האחרונים למשהו אחר לגמרי. לא רק קוד שרץ, אלא מערכת שנמצאת בשיחה מתמדת עם כלים, מודלים, משאבים והקשרים.

ופה נכנס הסיפור האמיתי. בעולמות שאני מגיע מהם, אבטחת מידע ואבטחת יישומים, היינו רגילים שמשטח התקיפה הוא של קוד, קונפיגורציה, מערכות הפעלה, הרשאות וכו'. היום, חלק מהתקיפה הוא בכלל טקסט. הקשר. שיחה. כוונה.

וזה מרגיש מוזר בהתחלה, כמעט לא טבעי. אבל כשחושבים על זה רגע, מפתח שלא מכיר AppSec ולא מודע בכלל לזה שפרומפט יכול להיות וקטור תקיפה, יכתוב קוד שעובד מצוין מבחינה לוגית, אבל כל מה שסביבו יהיה פרוץ לגמרי.

זה לא עניין של טעות אנוש. יש פה התמודדות עם חוסר מודעות למשהו חדש שנכנס לנו למערכות בלי שהיינו מוכנים אליו.

ופה המקום לסייג לגבי בינה מלאכותית

היא לא קסם. היא לא מחליפה חשיבה אבטחתית. היא לא מבינה הקשרים עמוקים כמו שהיינו רוצים להאמין. והיא בטח לא מיועדת להפעיל קוד בצורה עיוורת בלי מסגרת ושליטה.

וככל שאני חושב על זה, אני מבין עד כמה זה רלוונטי גם ל-CISO שנכנס לעולמות של AI, ל-CTO שמוביל מוצר חדש, או ל-VP R&D שמכניס מודלים לתוך הסטאק הקיים. לא בקטע של להיבהל, אלא בקטע של לעצור רגע ולשאול מה המערכת באמת עושה, ולא רק מה אנחנו חושבים שהיא עושה.

Proximity פשוט הזכיר לי שמערכות עם מודלים הופכות להיות יותר אורגניות. פחות צפויות. פחות ליניאריות. יותר תלויות בהקשר. וכשזה המצב, גם ההגנה צריכה להשתנות בהתאם.

פוסט זה פורסם לראשונה בלינקדאין בתאריך 2025-12-07. — ארז מטולה