מה חדש ב-AI: מודלים, כלים וטכניקות — מאומת
הכתבה המרכזית
אמזון ווებ סרוויסז (Amazon Web Services) הציגה חלוקת מעבדים גרפיים ב-SageMaker Inference באמצעות טכנולוגיית NVIDIA Multi-Instance GPU, המאפשרת למספר מודלים לחלוק מאיץ יחיד המבודד ברמת החומרה.
Amazon SageMaker Inference תומכת כעת בחלוקת מעבדים גרפיים באמצעות טכנולוגיית NVIDIA Multi-Instance GPU (MIG), המאפשרת למשתמשים לחלק מעبֿד גרפי פיזי יחיד למחיצות עצמאיות. תכונה זו מאפשרת לארגונים לארח מספר מודלים על מאיץ אחד עם בידוד האוכף ברמת החומרה, ובכך לשפר את הניצול ולהפחית את עלויות ההסקה.
פרסום במקור
6 בנוב׳, 18:01
→זוהה על ידי AI Newsroom
7 בנוב׳, 09:59
→האימות הושלם
7 בנוב׳, 10:00
→פורסם
7 בנוב׳, 10:02
שירותי הרשת של אמזון (AWS) הודיעו על זמינות כללית של Web Answer ב-Amazon Bedrock AgentCore, ומציעים למפתחים מחבר מנוהל לחיפוש רשת סוכן וסינתזה של ציטוטים. לצד ההשקה, AWS הציגה ארכיטקטורות ממשל ארגוני מתקדמות המשלבות את Okta Cross App Access, AgentCore Gateway ומדיניות Cedar.
שירותי הרשת של אמזון (Amazon Web Services) פרסמו תיעוד המפרט שתי תכונות ממשל ואבטחה עבור Amazon Quick: אישור חכם, המשתמש בבדיקה אוטומטית כדי להפחית הנחיות שגרתיות תוך שמירה על פיקוח אנושי, ודחייה כברירת מחדל, המגבילה את יכולות הבינה המלאכותית עם הפצתן אלא אם כן הותרו במפורש.
חברת Amazon Web Services פרסמה מדריך ארכיטקטוני לבניית שרת Model Context Protocol ללא שרתים על גבי Amazon ECS Fargate. העיצוב נועד לספק לסוכני בינה מלאכותית גישה מבוססת מטא-נתונים לאגני נתונים ארגוניים, מבלי לדרוש קוד אינטגרציה מותאם אישית לכל מערך נתונים.
חברת Hugging Face פרסמה פרטים על Phonon TTS, שושלת מודולי המרת טקסט-לדיבור המיועדים לפעולה על גבי המכשיר (on-device) עם השהייה נמוכה ומספר פרמטרים קטן. הארגון הציג גם גישת Transformers מודולרית שנועדה לצמצם את כפילות הקוד בעת שילוב מודלים חדשים.
חברת Hugging Face פרסמה פרטים על Phonon TTS, שושלת מודולי המרת טקסט-לדיבור המיועדים לפעולה על גבי המכשיר (on-device) עם השהייה נמוכה ומספר פרמטרים קטן. הארגון הציג גם גישת Transformers מודולרית שנועדה לצמצם את כפילות הקוד בעת שילוב מודלים חדשים.
שירותי הרשת של אמזון (AWS) הודיעו על זמינות כללית של Web Answer ב-Amazon Bedrock AgentCore, ומציעים למפתחים מחבר מנוהל לחיפוש רשת סוכן וסינתזה של ציטוטים. לצד ההשקה, AWS הציגה ארכיטקטורות ממשל ארגוני מתקדמות המשלבות את Okta Cross App Access, AgentCore Gateway ומדיניות Cedar.