PCIe Gen5 NVMe dla AI – podsumowanie wyników testów MLPerf Storage v2 dla dysku Kingston DC3000ME

Trenowanie modelu uczenia maszynowego (ML) może wymagać większej mocy obliczeniowej, pamięci i wydajności operacji I/O niż jakiekolwiek inne zadanie programowe. Pojedynczy, zaawansowany model może odczytywać i zapisywać w trakcie kolejnych cykli treningowych setki terabajtów danych, wykorzystując do granic możliwości nawet najszybsze macierze pamięci masowej. Wraz z rozpoczęciem wyścigu w dziedzinie AI, w którym branże i instytucje rządowe starają się przesuwać granice możliwości tej technologii, pojawiła się potrzeba opracowania wiarygodnej i powtarzalnej metody oceny wydajności zasobów sprzętowych w zadaniach ML. Działania te zapoczątkowała organizacja MLCommons, wprowadzając w ramach testu MLPerf Storage v2.0 innowacyjne metody oceny wydajności pamięci masowej zarówno w procesie trenowania modeli, jak i podczas ich późniejszego wnioskowania. W tym opracowaniu oceniamy, jak dyski SSD Kingston DC3000ME PCIe Gen5 NVMe U.2 sprawdzają się w testach wydajności MLPerf bez konieczności stosowania kosztownych procesorów graficznych. Dzięki zastosowaniu emulacji stanu bezczynności MLPerf symuluje rzeczywiste obciążenia generowane przez aplikacje AI, umożliwiając organizacjom ekonomiczne i skalowalne testowanie wydajności pamięci masowej.

Dlaczego ma to znaczenie? Szybka pamięć masowa pozwala zachować wysoką wydajność procesorów graficznych, dostarczając szybko dane, minimalizując czas bezczynności i maksymalizując efektywność obliczeniową. Dyski Kingston DC3000ME pomagają organizacjom przyspieszyć cykle trenowania modeli, obniżyć koszty infrastruktury i uzyskać skalowalną wydajność przy mniejszej liczbie nośników, dzięki czemu są wartościowym rozwiązaniem w nowoczesnych środowiskach AI.

W tym opracowaniu:

• Sprawdzamy nowatorską metodę testową MLPerf v2 Storage opartą na emulacji stanu bezczynności.
• Przedstawiamy różne typy obciążeń związanych z trenowaniem modeli i zapisywaniem punktów kontrolnych, uwzględnione w procedurze testowej MLPerf v2 Storage.
• Omawiamy wyniki uzyskane przez dysk Kingston DC3000ME w testach trenowania i zapisywania punktów kontrolnych, przeprowadzonych na platformach PCIe Gen5 i Gen4.

Wyniki pokazują, że rozwiązania PCIe Gen5 NVMe, takie jak dysk Kingston DC3000ME, stanowią atrakcyjną propozycję dla organizacji, które dążą do maksymalnego wykorzystania akceleratorów i wydłużenia efektywnego czasu pracy procesorów graficznych w swoich procesach uczenia maszynowego. Szczegółowo analizujemy parametry konfiguracyjne, metodykę testów i dostrajanie po ich zakończeniu oraz wpływ tych czynników na różne rodzaje obciążeń.

Dyski SSD Kingston DC3000ME PCIe Gen5 NVMe U.2 to wysokowydajne rozwiązanie do obsługi obciążeń w środowiskach AI. Niezależnie od tego, czy trenujesz modele głębokiego uczenia, czy dopracowujesz duże modele językowe, nośniki te zapewniają szybkość, niezawodność i efektywność, które są niezbędne, by utrzymać przewagę w wyścigu AI.

Pobierz opracowanie