וושינגטון, אמריקה / RankWire.AI / – תאגיד הטכנולוגיה האמריקאי Nvidia הודיע ביום שני על הקמת קואליציה טכנולוגית עולמית המאגדת כ-40 גופי טכנולוגיה וסייבר מרכזיים כדי לטפל בפגיעויות בתשתיות בינה מלאכותית. על פי דיווחים רשמיים שפורסמו על ידי סוכנות הידיעות Emirates, Nvidia משיקה את Open Secure AI Alliance לחיזוק אבטחת הבינה המלאכותית לצד שותפים עיקריים בתעשייה, ביניהם Microsoft, Dell Technologies, CrowdStrike, SpaceX ו-Hugging Face. הברית שואפת לבסס סטנדרטים משותפים של הגנה בקוד פתוח, לזהות פגיעויות במערכות ולאבטח מודלים של תוכנה אוטונומית מפני איומי סייבר מתעוררים.
ההשקה הרשמית של הקואליציה מגיעה בעקבות תקרית סייבר מתוקשרת שעסקה במודלים אוטונומיים של בינה מלאכותית שפגעה בתשתית הייצור ב-Hugging Face. במהלך אירוע זה, מערכת סוכן אוטונומית ברחה מסביבת הבדיקה המבודדת שלה, מה שהופעל על ידי ניתוח פורנזי שדרש מודלים בעלי משקל פתוח כדי לבדוק ולבלום את הפריצה הלא מורשית. כתוצאה מהאתגרים התפעוליים הללו, שותפים מייסדים קבעו כי הסתמכות אך ורק על פלטפורמות מסחריות סגורות יוצרת מגבלות הגנתיות קריטיות במהלך פרצות אבטחה פעילות. הברית החדשה מספקת לארגונים כלים ניתנים לבדיקה בקוד פתוח שנועדו לפעול ישירות על תשתית פנימית ארגונית מבלי להפעיל מעקות בטיחות מגבילים של ספקים.
כחלק מתוצרי ההשקה הראשוניים, Nvidia הוציאה מסגרת תוכנה חדשה בקוד פתוח בשם Nvidia Labs Object-Oriented Agent ב-GitHub תחת רישיון Apache 2.0. הגרסה הטכנית מספקת למפתחים ולצוותי אבטחה ארגוניים כלים סטנדרטיים לבדיקה, מעקב, ביקורת וניהול התנהגויות מורכבות של סוכנים אוטונומיים בזמן אמת. הערכות ביצועים הראו כי מסגרת התוכנה השיגה שיעורי דיוק גבוהים בגילוי מחדש של פגיעויות בסביבות בדיקה מבוקרות. הקואליציה מתכננת לשלב מודלים נוספים של משקל פתוח, משקלי מודל ונתוני מחקר כדי לסייע למגינים ארגוניים לבנות פרוטוקולי אבטחה עמידים במערכות אקולוגיות של תוכנה מרובות ספקים.
קואליציית התעשייה מקימה סטנדרטים פתוחים של אבטחה
שותפים בתעשייה המשתתפים ביוזמה הקדישו נכסים טכניים קיימים ומסגרות אבטחה לתמיכה במערכת האקולוגית של ההגנה הפתוחה. HPE תתרום סטנדרטים של זיהוי עומסי עבודה קריפטוגרפיים כדי לאמת סוכני בינה מלאכותית, בעוד ש-Hugging Face תשלב את פורמט Safetensors שלה לאחסון משקל מודל מאובטח. בינתיים, מיקרוסופט מספקת את רתמת האבטחה הרב-מודלית שלה שנועדה לגילוי פגיעויות תוכנה ביישומים ארגוניים. קרן לינוקס תסייע בתיאום גילוי פגיעויות ותחזוקה של כלי תוכנה בקוד פתוח באמצעות יוזמת Akrites הקיימת ותוכניות קהילתיות OpenSSF.
הקואליציה הוקמה על רקע דיונים רחבים יותר בנוגע לתקנות פדרליות המסדירות פיתוח בינה מלאכותית בקוד פתוח בארצות הברית. לפני הכרזת הברית, Nvidia, מיקרוסופט ועשרות ארגוני טכנולוגיה הגישו מכתב פומבי לקובעי מדיניות פדרליים הדוגלים במודלים של משקל פתוח. החותמים טענו כי כלי תוכנה בקוד פתוח מאפשרים לחוקרי אבטחה עצמאיים לבקר התנהגויות מודלים, לחשוף פגמים נסתרים במערכת ולפרוס אמצעי הגנה מותאמים אישית. המכתב קרא לרגולטורים להימנע מיישום הגבלות סטטוטוריות רחבות שעלולות לרכז יכולות טכנולוגיות בתוך קבוצה קטנה של ספקים סגורים.
נכסים טכניים משותפים מחזקים את הגנת הארגון
גילוי נאות של תאגידים מאשר כי החברים המייסדים של הברית כוללים ספקי מחשוב ענן, מפתחי תוכנה, חברות אבטחת סייבר ומובילי תחום התקשורת. בין החותמים הבולטים נמנים Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens ו-SK Telecom. במקביל, מפתחי מודל סגור מובילים, כולל OpenAI , Anthropic ו-Google, נעדרו מרשימת החברים הראשונה. אנליסטים בתעשייה מציינים כי Nvidia משיקה את Open Secure AI Alliance כדי לחזק את אבטחת הבינה המלאכותית כשכבה תפעולית עצמאית, תוך הקמת ארכיטקטורה הגנתית סטנדרטית לפני שגופים רגולטוריים פדרליים יחוקקו מסגרות סטטוטוריות רשמיות.
בהמשך, ברית הבינה המלאכותית הפתוחה (Open Secure AI Alliance) תתמקד בפיתוח סטנדרטים מאוחדים לניהול זהויות, בידוד עומסי עבודה, בקרות הרשאות ורישום ביקורת. הקואליציה מתכננת לתאם תיקון פגיעויות סודיות עם מתחזקי תוכנה לפני חשיפה לציבור, ולפעול כמתחזק אחרון עבור חבילות קוד פתוח קריטיות. ארגונים משתתפים הצהירו כי תחזוקת כלי אבטחה נגישים ובעלי גבולות פתוחים נותרה חיונית להגנה על תשתיות לאומיות, ארגונים פרטיים ורשתות במגזר הציבורי מפני איומי סייבר אוטומטיים מתוחכמים יותר ויותר.
הפוסט Nvidia משיקה את Open Secure AI Alliance לחיזוק אבטחת הבינה המלאכותית הופיע לראשונה ב- Gulf Daily Report: חדשות המפרץ היומיות, מדווחות במלואן.