Amazon SageMaker מוסיפה תמיכה בחלוקת מעבדים גרפיים באמצעות טכנולוגיית NVIDIA Multi-Instance GPU
אמזון ווებ סרוויסז (Amazon Web Services) הציגה חלוקת מעבדים גרפיים ב-SageMaker Inference באמצעות טכנולוגיית NVIDIA Multi-Instance GPU, המאפשרת למספר מודלים לחלוק מאיץ יחיד המבודד ברמת החומרה.
זהו תרגום אוטומטי של המקור באנגלית שבוצע על ידי מודל שפה, ונבדק להתאמת המבנה, המקורות והמספרים. הגרסה האנגלית היא המחייבת. למקור באנגלית
ב־30 שניות
Amazon SageMaker Inference תומכת כעת בחלוקת מעבדים גרפיים באמצעות טכנולוגיית NVIDIA Multi-Instance GPU (MIG), המאפשרת למשתמשים לחלק מעبֿד גרפי פיזי יחיד למחיצות עצמאיות. תכונה זו מאפשרת לארגונים לארח מספר מודלים על מאיץ אחד עם בידוד האוכף ברמת החומרה, ובכך לשפר את הניצול ולהפחית את עלויות ההסקה.
אפשרות שיתוף מעבדים גרפיים המבודדים ברמת החומרה ב-SageMaker
אמזון ווებ סרוויסז (Amazon Web Services) הודיעה כי Amazon SageMaker Inference תומכת כעת בחלוקת מעבדים גרפיים באמצעות טכנולוגיית NVIDIA Multi-Instance GPU (MIG).[1] היכולת מחלקת יחידת עיבוד גרפי פיזית למחיצות עצמאיות, כאשר כל אחת מהן מקבלת נתח קבוע של יחידות חישוב ובלוק זיכרון ייעודי עם בידוד האוכף ברמת החומרה.[1][2]
בעבר, פריסת מודל לנקודת קצה של מעבד גרפי דרשה בקשה של לפחות מאיץ שלם אחד.[1] מגבלה זו הותירה לעיתים קרובות את החומרה בלתי מנוצלת כאשר מודלים קטנים יותר לא יכלו לצרוך התקן שלם, או שחיבה צוותים לנהל מחסניות Kubernetes מורכבות ומנוהלות עצמית כדי לנצל את MIG.[1]
כיצד פועלת חלוקת המעבדים הגרפיים
חלוקת מעבדים גרפיים מתבססת באופן ישיר על רכיבי ההסקה של SageMaker, המשמשים לפריסת מספר מודלים לנקודת קצה יחידה.[1] הפעלת התכונה דורש הוספת שדות API אופציונליים כדי להצהיר כיצד המאיצים מחולקים על גבי גרסת ייצור וכדי להקצות רכיבי הסקה בודדים לסוגי מחיצות ספציפיים.[1][2]
התכונה אינה מציגה פעולות API חדשות, סוגי משאבים או פעולות IAM.[2] נקודות קצה המדלגות על שדות החלוקה ממשיכות לפעול כפי שפעלו בעבר.[1][2]
חומרה נתמכת ופרופילי מחיצות
חלוקת מעבדים גרפיים נתמכת במשפחות מופעים ספציפיות המצוידות במאיצי NVIDIA, כולל P4d עם מעבדים גרפיים מסוג A100, P5 עם מעבדים גרפיים מסוג H100, G7 עם מעבדים גרפיים מסוג RTX PRO 4500 Blackwell, ו-G7e עם מעבדים גרפיים מסוג RTX PRO 6000 Blackwell Server Edition.[1][2] המספר המרבי של מחיצות תלוי במאיץ הספציפי ואינו עולה על שבע.[1]
על פי תיעוד AWS, חיתוך מאיצים במהלך הקמת נקודת הקצה מוסיף כ-17 שניות לתהליך ההגדרה.[1] לא ניתן לשנות פריסות מחיצות בנקודת קצה פועלת; שינוי הפריסה דורש יצירת תצורת נקודת קצה חדשה.[2]
השפעה על איחוד עומסי עבודה ועלויות
Salesforce, אשר השתתפה בהגדרת הדרישות ואימות היישום הראשוני, ציינה כי היכולת תאפשר לארגונים לאחד עומסי עבודה בבטחה, לשפר את ניצול המעבדים הגרפיים, להפחית את עלויות ההסקה ולשמור על ביצועים צפויים.[1] על ידי אספקת מקטעים המבודדים ברמת החומרה, צוותים יכולים לארח תיקי עבודות של גרסאות שעברו התאמה מדויקת (fine-tuned), מודלי הטמעה ומסווגי בטיחות על מאיצים משותפים ללא ניהול תשתית מותאמת אישית.[1]
שאלות פתוחות וגבולות
חלק מההצהרות הנוגעות ליתרונות של MIG הן אפיון עצמי של הארגון ולא נבדקו באופן עצמאי. תנאים פיננסיים לא נחשפו במקורות שנבדקו, וטרם נמצא דיווח עצמאי על התפתחות זו.
ציר זמן
- פרסום על ידי Amazon Web Services[1]
- זוהה לראשונה על ידי AI Newsroom
- האימות הושלם
מקורות
- [1]Amazon Web Servicesמקור ראשוני6 בנוב׳ 2026SageMaker Inference now supports Multi-Instance GPU to maximize GPU utilization for model endpoints
- [2]
כיצד הופקה הכתבה
כתבה זו נחקרה ונכתבה על ידי מערכת העריכה האוטומטית של AI Newsroom באמצעות מודל שפה, מוגבלת לראיות מצוטטות ונבדקה בשער איכות אוטומטי. היא לא נכתבה בידי עיתונאי אנושי.
גרסה זו פורסמה אוטומטית לאחר שעברה את בדיקות האיכות, ללא בדיקה אנושית.
- הדסק האוטומטי של AI Newsroom
- מודל שפה: gemini / gemini-3.5-flash-lite
- גרסת הנחיות
- article-draft-2026-11-07.2
סיקור קשור
אמזון מודיעה על זמינות כללית של Web Answer ב-Amazon Bedrock AgentCore
שירותי הרשת של אמזון (AWS) הודיעו על זמינות כללית של Web Answer ב-Amazon Bedrock AgentCore, ומציעים למפתחים מחבר מנוהל לחיפוש רשת סוכן וסינתזה של ציטוטים. לצד ההשקה, AWS הציגה ארכיטקטורות ממשל ארגוני מתקדמות המשלבות את Okta Cross App Access, AgentCore Gateway ומדיניות Cedar.
אמזון מפרטת את מאפייני האבטחה של Amazon Quick
שירותי הרשת של אמזון (Amazon Web Services) פרסמו תיעוד המפרט שתי תכונות ממשל ואבטחה עבור Amazon Quick: אישור חכם, המשתמש בבדיקה אוטומטית כדי להפחית הנחיות שגרתיות תוך שמירה על פיקוח אנושי, ודחייה כברירת מחדל, המגבילה את יכולות הבינה המלאכותית עם הפצתן אלא אם כן הותרו במפורש.
AWS מפרטת ארכיטקטורת שרת MCP ללא שרתים עבור גישה לאגני נתונים
חברת Amazon Web Services פרסמה מדריך ארכיטקטוני לבניית שרת Model Context Protocol ללא שרתים על גבי Amazon ECS Fargate. העיצוב נועד לספק לסוכני בינה מלאכותית גישה מבוססת מטא-נתונים לאגני נתונים ארגוניים, מבלי לדרוש קוד אינטגרציה מותאם אישית לכל מערך נתונים.
מודלים והשקות