NVIDIA Virtual Compute Server

The “operating system” for enterprise AI

“پلتفرم نرم‌افزاری برای هوش مصنوعی مولد سازمانی”

NVIDIA AI Enterprise یک پلتفرم نرم‌افزاری جامع مبتنی بر کلود است که خط تولید علم داده (فرآیندهای متوالی در پروژه‌های علم داده، از جمع‌آوری داده تا تحلیل و ارائه نتایج) را تسریع می‌کند و توسعه و استقرار همکاران تولید و سایر برنامه‌های هوش مصنوعی مولد (شاخه‌ای از هوش مصنوعی است که به سیستم‌ها امکان می‌دهد محتوای جدید و اصیل مانند متن، کد، تصاویر، موسیقی و حتی ویدیو تولید کنند.) را ساده می‌کند. میکروسرویس‌های آسان برای استفاده، عملکرد مدل بهینه شده را با امنیت، پشتیبانی و ثبات در سطح سازمانی ارائه می‌دهند تا انتقال روان از نمونه اولیه به تولید را برای شرکت‌هایی که کسب‌وکار خود را بر اساس هوش مصنوعی اجرا می‌کنند، تضمین کنند.

ویژگی‌ها و مزایا ( Features and Benefits)

سطح سازمانی

شاخه‌های تولید قابل پیش‌بینی برای پایداری API، نرم‌افزار مدیریت و پشتیبانی سازمانی NVIDIA به حفظ روند پروژه‌ها کمک می‌کند.

 

اجرا در همۀ جاها

میکروسرویس‌های مبتنی بر استانداردها و کانتینری شده، گواهی شده‌اند تا در ابر، در مرکز داده و روی ایستگاه‌های کاری اجرا شوند.

استقرار با اطمینان

از داده‌های شرکت و مالکیت معنوی با نظارت مداوم بر آسیب‌پذیری‌های امنیتی و مالکیت سفارشی‌سازی مدل محافظت کنید.

بهینه سازی عملکرد

میکروسرویس‌های NVIDIA NIM و CUDA-X یک محیط اجرایی بهینه و بلوک‌های ساختمانی ساده‌ای را برای ساده‌سازی توسعه هوش مصنوعی مولد فراهم می‌کنند.

تحول محاسبات مجازی

با افزایش تعداد سرورها در سراسر مرکز داده، مدیران IT انتظار دارند آن‌ها را با استفاده از پلتفرم‌های مجازی‌سازی سرور استاندارد از شرکت‌های VMware، Red Hat، Nutanix و Citrix مدیریت کنند. طبق گزارش گارتنر، “مجازی‌سازی سرور مبتنی بر هایپروایزر اکنون به بلوغ رسیده است بطوری که 80 تا 90 درصد از بارهای کاری سرور در یک ماشین مجازی (VM) برای اکثر شرکت‌های متوسط تا بزرگ اجرا می‌شود”.¹ با این حال، این زیرساخت سنتی مرکز داده با استفاده از مجازی‌سازی مبتنی بر هایپروایزر محدود به سرورهای مبتنی بر CPU بوده است، با استثنائات VDI. در نتیجه، سرورهای شتاب‌داده شده با GPU که بارهای کاری هوش مصنوعی، یادگیری عمیق، علوم داده و محاسبات با کارایی بالا (HPC) را اجرا می‌کنند، اغلب در سرورهای دیگر در مرکز داده جدا شده‌اند که منجر به محدودیت در استفاده، انعطاف‌پذیری و قابلیت مدیریت می‌شود.

NVIDIA Virtual Compute Server (vCS) مزایای مجازی‌سازی سرور مبتنی بر هایپروایزر را برای سرورهای شتاب‌داده شده با GPU فعال می‌کند. مدیران مرکز داده اکنون می‌توانند هر بار کاری محاسباتی سنگین را با استفاده از GPU در یک ماشین مجازی (VM) اجرا کنند. نرم‌افزار vCS GPUهای انویدیا را برای تسریع بارهای کاری سنگین، از جمله بیش از 600 برنامه شتاب‌داده شده با GPU برای هوش مصنوعی، یادگیری عمیق و محاسبات با کارایی بالا مجازی می‌کند. با اشتراک‌گذاری GPU، چندین VM می‌توانند از یک GPU واحد تغذیه شوند تا استفاده بهینه و مقرون به صرفه حاصل شود، یا یک VM واحد می‌تواند توسط چندین GPU مجازی تغذیه شود و اجرای سنگین‌ترین بارهای کاری را نیز ممکن می‌سازد. و با پشتیبانی از تقریباً تمام پلتفرم‌های مجازی‌سازی هایپروایزر اصلی، مدیران مرکز داده می‌توانند از همان ابزارهای مدیریت برای سرورهای شتاب‌داده شده با GPU خود مانند سایر بخش‌های مرکز داده استفاده کنند.

مجوز برای محاسبات

بر خلاف NVIDIA virtual PC/virtual Applications (vPC/vApps) و rtX virtual workstation (vWS)،  لایسنس vCS به کاربری با نمایشگر متصل نیست. این نرم‌افزار به صورت اشتراک یک ساله با پشتیبانی سازمانی NVIDIA برای هر GPU مجوزدهی می‌شود. این امکان را فراهم می‌کند که چندین بار کاری محاسباتی در چندین VM روی یک GPU واحد اجرا شوند و حداکثر استفاده از منابع و بازگشت سرمایه را به همراه داشته باشند.

کارت گرافیک‌های پیشنهادی برای vCS

nviDiA t4nviDiA rtXtM 8000/6000nviDiA A10nviDiA A40nviDiA v100nviDiA A30nviDiA A100
(Turing)1(Turing)1(Ampere)1(Ampere)1(Volta)1(Ampere)1(Ampere)1GPU/Boards Architecture
YesYesYesYes---RT Cores
16GB GDDR648GB/24GB GDDR624GB GDDR648GB GDDR632GB/16GB HBM224GB HBM240GB/80GB HBM2Memory Size
-Yes--Yes-YesNVLink
PCIe 3.0 Single SlotPCIe Gen4 Dual SlotPCIe Gen4 Single SlotPCIe 4.0 Dual SlotPCIe 3.0 Dual Slot/SXM2PCIe Gen4 Dual SlotPCIe 4.0 Dual Slot/SXM4Form Factor
Power