ממצאים ראשוניים לאורך שרשרת הפיתוח

חברת אבטחת הסייבר VicOne מדווחת כי איתרה בסיוע בינה מלאכותית 28 ממצאי חולשות בכלים המשמשים לפיתוח, לאימון, לסימולציה ולהפעלת רובוטים, בתוך פחות מיומיים. לפי החברה, המחקר כלל פרויקטים שפותחו או מתוחזקים בידי Google, NVIDIA ו־Meta, לצד גורמים נוספים. עצם אזכור החברות אינו מעיד שכל מוצריהן מושפעים.

הדיווח פורסם כתוכן ממומן מטעם VicOne ב־IEEE Spectrum. החברה מסווגת את כל הממצאים כחולשות יום אפס על בסיס אימות ראשוני, אך מציינת שהמספר עשוי להשתנות בעקבות בדיקת הספקים וגופי הסיווג. לחלק מהממצאים עדיין אין מזהי CVE.

הסיכון מתחיל לפני שהרובוט יוצא לשטח

לפי VicOne, כ־75% מהממצאים נוגעים לכלי פיתוח, אימון, סימולציה או אימות. המשמעות האפשרית היא פגיעה בתשתית שעליה נשענות החלטות הפיתוח: נתוני האימון, המודל הנלמד או תוצאות הבדיקות.

החברה מתארת תרחישים אפשריים שבהם קובץ מודל זדוני מאפשר שינוי בסביבת האימון, או שסצנה נגועה פוגעת בסימולציה ומובילה לתוצאות מטעות. אלו תרחישי סיכון שהחברה מציגה, ולא תוצאות שהודגמו לכל אחת מהחולשות. השפעה על התנהגות פיזית תלויה בגישת התוקף, בתכנון המערכת ובמנגנוני ההגנה שלה.

הדגמה נפרדת ומגבלות הראיות

VicOne מציגה גם הדגמה נפרדת שבה, לדבריה, ניצול חולשה מנע מפקודת עצירה מרחוק של רובוט לפעול. אין בכך הוכחה לתקיפה בפריסה מסחרית או לכך שכל 28 הממצאים מאפשרים תוצאה דומה.

החומר שסופק אינו כולל אימות עצמאי לכל הממצאים, פירוט מלא של המוצרים והגרסאות המושפעים או מצב התיקון של כל חולשה. לכן, בשלב זה מדובר בדיווח ראשוני של ספקית אבטחה בעלת עניין מסחרי בנושא. הזווית המעשית היא אמינות הראיות: פגיעה בכלי האימון והבדיקה עלולה לערער את הביטחון בתוצאותיהם, עוד לפני הפעלת הרובוט בעולם האמיתי.

המקורות שלנו

המקור, סוג העדות ותאריך הבדיקה זמינים כדי שתוכלו לבדוק בעצמכם.

מצאתם טעות או מידע שהתעדכן? שלחו תיקון. תיקונים מהותיים יתועדו כאן.