שרתים חדשים מספקים קפיצת מדרגה משמעותית בביצועי AI

שרתי PowerEdge מבית Dell עם מעבדי CPU ו-GPU (מעבדים גרפיים) חדשים מספקים קפיצת מדרגה מדהימה בביצועים לאימון והסקת מסקנות (inferencing) בתחום הבינה המלאכותית.

Intel® Xeon® Scalable Processors 

דגמי PowerEdge מונעים באמצעות מעבדי Intel Xeon ונועדו לספק מענה לעומסי עבודה AI כולל Interfacing ו-Fine Tuning למודלים

הבינה המלאכותית משנה במהירות מגוון רחב של תעשיות, כאשר יישומים חדשים מופיעים מדי יום. ככל שהטכנולוגיה הזו הופכת לנפוצה יותר, יש צורך בתשתית הנכונה לתמיכה. Dell Technologies הגיבה לצורך הגובר הזה באמצעות דור חדש של שרתי PowerEdge בתצורת rack, המספקים שיפור משמעותי בקיבולת ובביצועים בהשוואה לדור הקודם.

היצע רחב של אפשרויות ותמיכה ביישומי AI

PowerEdge מציעה כעת שרתים הניתנים להתקנה בקלות בתוך או מחוץ למרכז הנתונים. הם גם כוללים מגוון דגמים מותאמים למעבדים גרפיים ויכולים לתמוך במגוון מקרי שימוש מבינה מלאכותית ועד ליישומי קצה (edge) וטלקום. דגמים נבחרים מציעים גם אפשרויות קירור נוספות שתוכננו במיוחד ליעילות תפעולית וביצועים. האפשרויות כוללות:

• קירור אוויר peer to peer עם שמונה כיווני NVLink
• קירור אוויר בסיוע נוזל peer to peer בארבעה כיווני NVLink
• קירור נוזלי ישיר

אפשרויות אלו מספקות ללקוחות מגוון אפשרויות בחירה כולל הערכת צרכי הקירור שלהם כאשר הם מתכננים את צמיחת התשתית לתמיכה ביישומי בינה מלאכותית.

ביצועים מסונכרנים

ביצועי הפלטפורמות החדשות מרשימים. דוגמה אחת היא ה-XE9680 עם 8 מעבדים גרפיים H100 של Nvidia ו-NVLink. המדגים שיפור של פי שמונה לעומת הדור הקודם בבדיקות ביצועי למידת מכונה ML Inference 3.0 לדרישות גבוהות באימון מודלים גנרטיביים של בינה מלאכותית, וכוונון מודלים (fine-tuning), וכן במדדי הסקת מסקנות בינה מלאכותית. מאפייני המפתח של ה-XE9680 התומכים בביצועים כוללים:

• מעבדי Intel 4th Gen Xeon עם מספר ליבות מעבד גבוה לשקע socket
• שמונה מעבדים גרפיים H100 של Nvidia המחוברים עם NVLink
• שני כונני NVMe לכל מעבד גרפי לתמיכה בכמות גדולה של שטח זמני (scratch space)
• אחסון ישיר במעבד הגרפי להעברת נתוני אחסון חיצוני המחובר לרשת למעבד הגרפי באמצעות RDMA
• 10 חריצי PCIe לתמיכה בתצורת אשכול AI.

ה-R760xa עם מעבד גרפי H100 של Nvidia וה-XR5610 עם L4 של Nvidia הראו גם תוצאות יוצאות דופן להסקת מסקנות במרכזי נתונים וביישומי edge  עם ביצועים גבוהים לוואט.

הסקת מסקנות בכל מקום

מעבדי ה-Xeon דור 4 הניתנים להרחבה מציעים גם הם שיפורים משמעותיים לעומסי עבודה בבינה מלאכותית. ה-R760 עם מעבדי Intel Xeon Scalable מהדור הרביעי משתמש בטכנולוגיית AMX על מנת לספק שיפור של עד פי 8 בתפוקת הסקת המסקנות. עם טכנולוגיית Intel AMX, מפתחים יכולים למנף את AMX להגברת ביצועי עומסי העבודה בתחום הבינה המלאכותית תוך המשך שימוש בערכת הוראות ISA לעומסי עבודה שאינם בינה מלאכותית. יתרון זה הורחב לכל פורטפוליו ה-PowerEdge, ויוצר שיפור משמעותי בביצועים עבור עומסי עבודה AI, מהקצה ועד הליבה.

בונים עתיד AI-powered

Dell Technologies שמה דגש משמעותי על הארכיטקטורה ותכנון הפלטפורמות על מנת לתמוך ביישומי בינה מלאכותית עכשוויים ועתידיים כאחד. ההתקדמות בתשתית הכרחית בכדי לעמוד בקצב הביקוש הגדל לבינה מלאכותית ובמורכבות המודלים הגוברת ועומסי העבודה. עם שרתי PowerEdge העדכניים ביותר, Dell Technologies סוללת את הדרך לעתיד יעיל ועצמתי יותר של בינה מלאכותית בתוך ומחוץ למרכז הנתונים.