Négy Tesla V100 GPU-ból épült AI-erőmű

Jun Yamog YouTuber egyedi NVLink-konfigurációval és Tesla V100 kártyákkal körözte le a modernebb rendszereket az AI-modellek futtatásakor.

Jun Yamog YouTuber egy különleges konfigurációt épített négy darab, 2017-es NVIDIA Volta architektúrájú Tesla V100 GPU-ból. A 32 GB HBM2 memóriával és 900 GB/s sávszélességgel rendelkező kártyákat egy NVLink hordozóegységbe szerelte, amely 300 GB/s sebességet biztosít.

A rendszer hűtéséhez módosított NVIDIA A100 hűtőbordákat használt, amelyek chipenként 300 W teljesítményt vezetnek el. A tesztek során a Qwen3.8-Flash-Next modellt futtatták, ahol a négy V100-as egység 100,6 tok/s sebességet ért el a rövid promptok feldolgozásakor.

Hosszabb promptoknál a V100 klaszter 40%-kal verte a DGX Sparkot, és 230%-kal gyorsabb volt az M5 Ultránál. Ez a megoldás költséghatékony alternatíva lehet a mesterséges intelligencia futtatására, mivel egy 32 GB-os Tesla V100 már 744 dollárért elérhető az eBay-en.


Kapcsolódó hírek

Drágulnak a videókártyák az AMD és az Nvidia miatt

Érkezik az NVIDIA DLSS 5: Gyorsabb és hatékonyabb

Bemutatták az Intel Crescent Island D GPU-t

Az NVIDIA az Intel Foveros technológiáját használhatja

AI-asszisztenst fejleszt az NVIDIA GPU-elemzéshez