מאת: אבי שוורץ, Account Executive ב-Dell Technologies ישראל
תקנות ה-AI Act: איך כללי האיחוד האירופאי משפיעים על ניהול הסייבר בארגון שלך?
בעידן הדיגיטלי המתקדם, הבינה המלאכותית (AI) הפכה לחלק בלתי נפרד מחיינו, עם השפעה רחבה על תחומים רבים כמו בריאות, תחבורה, חינוך ועוד.
כולנו 'מאומנים' מגיל צעיר לחשוש ממנה: עוד לפני המצאת המחשב, בשנת 1826 נכתב הספר 'האדם האחרון' שעסק בקשר בין טכנולוגיה ואתיקה. כך גם הסרט 'מטרופוליס' משנת 1927, מדבר על רובוט שמובילה מרד, וכמובן, עוד לפני שהיה מחשב בכל בית, צפה אסימוב את המורכבות האתית בשימוש במחשוב ורובוטיקה.
וכולנו גדלנו על משחקי מלחמה, שליחות קטלנית, רובוקפ וכמובן אינטיליגנציה מלאכותית, המטריקס, דו"ח מיוחד, אווטאר ועוד.
השימוש הגובר בטכנולוגיות AI הוא מופלא וצופן בתוכו אפשרויות מרגשות - אך הוא מעלה גם חששות בנוגע לאתיקה, פרטיות וביטחון. הצורך ברגולציה אחראית וברורה הפך לקריטי, כדי להבטיח שהטכנולוגיות הללו ישמשו לטובת החברה ולא יגרמו לנזק.
כאן נכנס לתמונה ה-AI ACT, שמטרתו ליצור מסגרת רגולטורית אחידה לשימוש בטכנולוגיות AI באיחוד האירופי.
אז מהו ה-AI ACT?
ה-AI ACT הוא רגולציה של האיחוד האירופי שנכנסה לתוקף ב-1 באוגוסט 2024. הרגולציה מסווגת את טכנולוגיות ה-AI לפי רמת הסיכון שלהן ומחייבת עמידה בדרישות מחמירות בהתאם לרמת הסיכון:
סיכון בלתי קביל: טכנולוגיות AI המסווגות בסיכון זה נאסרות לשימוש. דוגמאות כוללות מערכות דירוג חברתי וטכנולוגיות מניפולטיביות.
סיכון גבוה: טכנולוגיות AI המסווגות בסיכון גבוה חייבות לעמוד בדרישות מחמירות של בטיחות, שקיפות ואיכות. דרישות אלו כוללות:
- הערכת תאימות: על המפתחים לבצע הערכות תאימות כדי לוודא שהמערכות עומדות בדרישות הרגולציה.
- שקיפות: על המפתחים לספק מידע ברור על אופן הפעולה של המערכת, כולל הסברים על ההחלטות שהמערכת מקבלת.
- בטיחות: על המפתחים להבטיח שהמערכת בטוחה לשימוש ואינה גורמת לנזק.
- מעקב ודיווח: על המפתחים לעקוב אחרי ביצועי המערכת ולדווח על תקלות או בעיות בטיחות.
סיכון מוגבל: טכנולוגיות AI המסווגות בסיכון מוגבל כפופות לדרישות שקיפות קלות יותר, כמו חובת יידוע המשתמשים שהם מתקשרים עם מערכת AI (לדוגמה, צ'אטבוטים ודיפ-פייק)
סיכון מינימלי: טכנולוגיות AI המסווגות בסיכון מינימלי אינן כפופות לרגולציה מיוחדת. דוגמאות כוללות משחקי וידאו מבוססי AI ומסנני דואר זבל.
בנוסף, ה-AI ACT מחייב את כל ספקי המודלים של AI כללי (GPAI) לספק תיעוד טכני, הוראות שימוש, ולעמוד בדרישות זכויות יוצרים. ספקי מודלים של GPAI המהווים סיכון מערכתי חייבים גם לבצע הערכות מודל, בדיקות אדוורסריות (Adversarial Testing) שמטרתן לבדוק את גבולות המערכת., מעקב ודיווח על תקריות חמורות והגנות סייבר.
מתקנות לפעולה: איך תיישמו את רגולציית AI ACT בארגון שלכם?
ה-CISO ממלא תפקיד קריטי ביישום ה-AI ACT בארגונים. תפקידו כולל ניהול סיכונים, הבטחת פרטיות ואבטחת מידע, ושיתוף פעולה עם צוותי סיכון, תאימות ומשפט כדי להבטיח שהטמעת טכנולוגיות AI נעשית בצורה בטוחה ואחראית. ה-CISO אחראי על פיקוח על כל שלבי מחזור החיים של ה-AI, מהאסטרטגיה והעיצוב, דרך איסוף הנתונים והכשרת המודלים, ועד לפריסה ואופטימיזציה.
פתרונות הסייבר של Dell Technologies
Dell Technologies מציעה פורטפוליו פתרונות שיסייעו ביישום ה-AI Act מכל מיני אספקטים.
הפתרונות של Dell כוללים תשתיות AI מתקדמות, כמו שרתי PowerEdge XE ופתרונות אחסון PowerScale, המיועדים להתמודד עם עומסי עבודה תובעניים של AI ולספק ביצועים גבוהים ויעילות אנרגטית. בנוסף אנו מציעים כלים ומסגרות לניהול אחראי של מערכות AI, כולל הערכות תאימות, שקיפות, בטיחות ומעקב ודיווח על תקלות או בעיות בטיחות. הנה דוגמאות לכך:
Dell Technologies מציעה מגוון פתרונות להגנת נתונים (DPS) המיועדים להבטיח את בטיחות המידע והמערכות בארגונים. פתרונות אלו כוללים את PowerProtect Data Manager ו-PowerProtect Cyber Recovery, המספקים הגנה מתקדמת מפני איומי סייבר ושחזור נתונים מהיר ויעיל
PowerProtect Data Manager הוא פלטפורמת תוכנה להגנת נתונים המיועדת לעומסי עבודה מודרניים בסביבות מרובות עננים. הפתרון מאפשר לארגונים להגן על נתונים ולספק ממשל על פני סביבות פיזיות, וירטואליות ומרובות עננים. PowerProtect Data Manager מאיץ את הטרנספורמציה הדיגיטלית עם הגנה פשוטה, גמישה וחזקה לעומסי עבודה מגוונים, תוך שמירה על חוויית משתמש גמישה. הפתרון תומך בדרישות ה-AI ACT על ידי הבטחת בטיחות הנתונים ושקיפות בתהליכי הגיבוי והשחזור.
PowerProtect Cyber Recovery מאפשר לארגונים לשחזר נתונים במהירות לאחר מתקפות סייבר, תוך שמירה על עמידה בדרישות הרגולציה של ה-AI ACT.
הפתרון מספק הגנה מתקדמת מפני איומי סייבר ושחזור נתונים מהיר ויעיל. הפתרון כולל תכנון ועיצוב מותאמים אישית, בידוד ושכפול נתונים באמצעות טכנולוגיית MTree של Dell PowerProtect. וכמובן, פתרון ה-AirGap שלנו מספק הגנה מתקדמת על נתונים באמצעות בידוד פיזי של מערכות קריטיות מהרשת הראשית. הפתרון מיועד לארגונים בעלי דרישות אבטחה גבוהות, כמו תשתיות קריטיות, בנקים וסוכנויות ממשלתיות. ה- AirGap מבטיח שהנתונים יהיו מוגנים מפני איומים חיצוניים ופנימיים, ומסייע לארגונים לעמוד בדרישות הרגולציה של ה-AI ACT על ידי הבטחת בטיחות הנתונים ושקיפות בתהליכי הגיבוי והשחזור.
סיכום
התקופה הנוכחית מציבה אתגרים רבים בתחום הרגולציה של טכנולוגיות AI, אך גם הזדמנויות רבות לשיפור ולחדשנות. ה-AI ACT מהווה צעד חשוב בכיוון של רגולציה אחראית ומושכלת, שמכוונת ארגונים להשתמש בטכנולוגיות AI בצורה בטוחה ואחראית.
בחירה בפתרונות מאפשרים ומותאמים לדרישות הרגולציה המתפתחת היא בסיס קריטי בבחירה של כל ארגון - כך שיבטיח שהוא עומד בסטנדרטים הנדרשים ממנו בהיבטי אבטחת מידע וחווית שימוש, וינהיג שימוש אחראי של טכנולוגיה, לאפיקים מרגשים, חדשניים וחדשים - בלי תופעות הלוואי שנכתבו עליהן תסריטים וספרים.
נספחים מומלצים לקריאה
[1] Dell Technologies Fast-Tracks AI-Driven Innovation with the Dell AI ...
[2] The CISO’s critical role in AI security - KPMG
[3] Dell Technologies Leads AI PC Movement with New, Redesigned PC ...
