GPU icarası: Bulud xidmətlərində performans lotereyası necə sizi çaşdırır?

GPU icarəsi: Performans lotereyası ilə qarşılaşmaq

Bulud xidmətlərindən istifadə edənlər üçün GPU icarəsi adi bir əməliyyat kimi görünə bilər. Lakin araşdırmalar göstərir ki, eyni modeldə olan GPU-lar arasında belə performans fərqi ola bilir. Bu isə istifadəçilərin xərclərini artıra bilir.

Silicon Lottery: Performans fərqi necə yaranır?

Silicon Lottery termini, eyni modeldə olan GPU-ların performans fərqini təsvir edir. Bu fərq, GPU-ların istehsal prosesində yaranan problemlərdən qaynaqlanır. Araşdırmalar göstərir ki, bu fərq 2022-ci ildən məlumdur və superkompüterlərin performansına təsir göstərmişdir.

Araşdırmanın nəticələri

Silicon Data, William & Mary Kolleci və Jefferson Lab ilə birlikdə 11 bulud xidmət təminatçısından 3,500 fərqli GPU üzərində 6,800 test həyata keçirmişdir. Testlərdə Nvidia-nın 11 fərqli modeli, o cümlədən ən müasiri H200 SXM istifadə edilmişdir.

Testlərdə SiliconMark adlı benchmark istifadə edilmişdir. Bu benchmark, böyük dil modellərinin (LLM) işləmə qabiliyyətini ölçür. Testlərdə 16-bitlik floating-point hesablamaların performansı və GPU-nun daxili yaddaş zolağı ölçülmüşdür.

Performans fərqi nə qədər böyük ola bilir?

Araşdırmanın nəticələrinə görə, performans fərqi bütün modellərdə mövcuddur. Məsələn, H100 PCIe modelində performans fərqi 34.5%, H200 SXM modelində isə yaddaş zolağında fərq 38% təşkil etmişdir.

Performans fərqinin səbəbləri

Performans fərqinin səbəbləri arasında aşağıdakılar göstərilir:

• GPU-ların soyutma sistemi;
• Bulud xidmət təminatçılarının konfiqurasiyası;
• GPU-ların istifadə müddəti;
• İstehsal prosesində yaranan problemlər.

Nəticələrin təsiri

Araşdırma göstərir ki, performans fərqi istifadəçilərin xərclərini artıra bilir. Məsələn, daha bahalı və müasir GPU, köhnə modeldən daha pis performans göstərə bilər.

Nə etməli?

"GPU icarə edənlərin ən praktik yolu, aldıqları icarəni benchmarklamaqdır. Bu, istifadəçilərə onların xüsusi GPU-larının performansını digərləri ilə müqayisə etməyə imkan verir." — Jason Cornick, Silicon Data infrastruktur şöbəsinin rəhbəri

Silicon Data, istifadəçilərə SiliconMark kimi benchmark alətlərindən istifadə etməyi məsləhət görür. Bu alətlər, istifadəçilərə onların icarə etdikləri GPU-ların performansını digərləri ilə müqayisə etməyə imkan verir.