Tehnologiýa kompaniýalarynyň ýa-da GPU-lar üçin dyrjaşýandyklary ýa-da olary satyn almak ýolunda durýandyklary aýdylýar. Aprel aýynda Teslanyň baş direktory Elon Musk 10,000 GPU satyn aldy we kompaniýanyň NVIDIA-dan köp mukdarda GPU satyn almagyny dowam etdirjekdigini aýtdy. Kärhana tarapynda, IT işgärleri hem GPU-laryň maýa goýumlaryndan has köp girdeji gazanmak üçin yzygiderli ulanylmagyny üpjün etmek üçin köp tagalla edýärler. Şeýle-de bolsa, käbir kompaniýalar GPU-laryň sany köpelse-de, GPU-nyň işsizliginiň has agyrlaşýandygyny görüp bilerler.
Taryh bize ýokary öndürijilikli hasaplama (HPC) hakda bir zat öwreden bolsa, hasaplamaga aşa köp üns bermegiň hasabyna saklanyş we tor gurban edilmeli däldir. Saklamak, hasaplaýyş bölümlerine maglumatlary netijeli geçirip bilmeýän bolsa, dünýäde iň köp GPU bar bolsa-da, iň amatly netijelilige ýetip bilmersiňiz.
Kiçi Dünýä Uly Maglumatlaryň analitigi Maýk Matşetiň pikiriçe, has kiçi modeller ýatda (RAM) ýerine ýetirilip bilner, bu bolsa hasaplamaga has köp üns berer. Şeýle-de bolsa, milliardlarça düwünli ChatGPT ýaly has uly modeller, gymmat bahasy sebäpli ýatda saklanyp bilinmez.
Matçet: "milliardlarça düwünleri ýatda saklap bilmersiňiz, şonuň üçin saklamak has möhüm bolýar" -diýdi. Gynansagam, meýilleşdiriş döwründe maglumatlary saklamak köplenç äsgerilmeýär.
Umuman, ulanylyş ýagdaýyna garamazdan, model okuwynda dört umumy nokat bar:
1. Model okuw
2. Salgylanma programmasy
3. Maglumatlary saklamak
4. Tizleşdirilen hasaplama
Modeller döredilende we ýerleşdirilende, talaplaryň köpüsi, çalt saklanylýan konsepsiýany (POC) ýa-da model okuwyny başlamak üçin synag gurşawyny ileri tutýarlar, maglumatlary saklamaga zerurlyk ýok.
Şeýle-de bolsa, kynçylyk okuwyň ýa-da maslahatyň ýerleşdirilmeginiň birnäçe aýlap, hatda birnäçe ýyllap dowam edip biljekdigi bilen baglanyşyklydyr. Köp kompaniýalar bu döwürde model ululyklaryny çalt ulaldýarlar we ösýän modelleri we maglumat bazalaryny ýerleşdirmek üçin infrastruktura giňelmeli.
Google-dan millionlarça ML okuw iş ýükleri boýunça geçirilen gözlegler, okuw wagtynyň ortaça 30% -iniň giriş maglumat turbageçirijisine sarp edilendigini görkezýär. Geçmişde geçirilen gözlegler okuwy çaltlaşdyrmak üçin GPU-lary optimizirlemäge gönükdirilen bolsa-da, maglumatlar turbasynyň dürli böleklerini optimizirlemekde köp kynçylyklar henizem dowam edýär. Möhüm hasaplaýyş güýjüňize eýe bolanyňyzda, hakyky päsgelçilik netijäni almak üçin maglumatlary hasaplamalara nädip çalt berip biljekdigiňize öwrülýär.
Hususan-da, maglumatlary saklamakda we dolandyrmakda ýüze çykýan kynçylyklar, maglumatyň ösüşini meýilleşdirmegi talap edýär, bu bolsa ösüşiň dowamynda maglumatlaryň bahasyny yzygiderli çykarmaga mümkinçilik berýär, esasanam çuňňur talaplar we nerw ulgamlary ýaly has ösen ulanyş ýagdaýlaryna gireniňizde. kuwwaty, öndürijiligi we göwrümliligi taýdan saklamak.
Hususan-da:
Giňeldiş
Maşyn öwrenmek köp mukdarda maglumatlary işlemegi talap edýär we maglumatlaryň göwrümi artdygyça modelleriň takyklygy hem ýokarlanýar. Bu, kärhanalaryň her gün has köp maglumat ýygnamalydygyny we saklamalydygyny aňladýar. Saklamak göwrümi ulalmasa, maglumatlary köp talap edýän iş ýükleri päsgelçilikleri döredýär, öndürijiligi çäklendirýär we netijede GPU-nyň boş wagtyna sebäp bolýar.
Çeýeligi
Birnäçe protokol üçin çeýe goldaw (NFS, SMB, HTTP, FTP, HDFS we S3) daşky gurşawyň bir görnüşi bilen çäklenmän, dürli ulgamlaryň zerurlyklaryny kanagatlandyrmak üçin zerurdyr.
Gijä galmak
Maglumatlaryň birnäçe gezek okalmagy we täzeden okalmagy sebäpli modelleri gurmak we ulanmak üçin I / O gijä galmak möhümdir. I / O gijä galmagy modelleriň okuw wagtyny günler ýa-da aýlar gysgaldyp biler. Has çalt modeliň ösüşi has uly iş artykmaçlyklaryna gönüden-göni terjime edilýär.
Geçiriş
Saklaýyş ulgamlarynyň geçirijiligi, netijeli model okuwy üçin möhümdir. Okuw prosesleri köp mukdarda maglumatlary öz içine alýar, adatça sagatda terabaýtda.
Parallel giriş
Throughokary netijäni gazanmak üçin okuw modelleri çäreleri birnäçe paralel meselelere bölýärler. Bu köplenç maşyn öwrenmek algoritmleriniň şol bir faýllara birnäçe proseslerden (potensial birnäçe fiziki serwerlerde) bir wagtda girýändigini aňladýar. Saklaýyş ulgamy, öndürijilige zyýan bermezden bir wagtyň özünde talaplary çözmeli.
Pes gijä galmakda, ýokary geçirijilikde we uly göwrümli parallel I / O-da ajaýyp mümkinçilikleri bilen Dell PowerScale, GPU-çaltlaşdyrylan hasaplamanyň iň amatly saklaýjysydyr. “PowerScale” köp terabaýt maglumat bazalaryny taýýarlaýan we synagdan geçirýän derňew modelleri üçin zerur wagty azaldýar. “PowerScale” ähli fleş ammarda, geçirijilik giňligi 18 esse ýokarlanýar, I / O päsgelçilikleri ýok edýär we köp mukdarda gurulmadyk maglumatlaryň bahasyny çaltlaşdyrmak we açmak üçin bar bolan Isilon toparlaryna goşup bolýar.
Mundan başga-da, “PowerScale” -iň köp protokolly giriş mümkinçilikleri, iş ýüklerini işletmek üçin çäksiz çeýeligi üpjün edýär, maglumatlaryň bir protokol arkaly saklanmagyna we beýlekisiniň üsti bilen ulanylmagyna mümkinçilik berýär. Hususan-da, PowerScale platformasynyň güýçli aýratynlyklary, çeýeligi, ulalmagy we kärhana derejesindäki işlemegi aşakdaky kynçylyklary çözmäge kömek edýär:
- Model okuw siklini azaldyp, innowasiýany 2,7 esse çaltlaşdyryň.
- I. Bir toparda 119 PB çenli täsirli saklaýyş kuwwatyny ulanyp, has çuň we has ýokary çözgütli maglumat bazalary bilen modeliň takyklygyny ýokarlandyryň.
- Hasaplamagy we saklamagy kiçi we özbaşdak ulaltmak, ygtybarly maglumatlary goramak we howpsuzlyk opsiýalaryny bermek arkaly masştabda ýaýbaňlandyryň.
- Çalt, pes töwekgelçilikli ýerleşdirmeler üçin ýerdäki analitikler we öňünden tassyklanan çözgütler bilen maglumat ylmynyň öndürijiligini ýokarlandyrmak.
- NVIDIA GPU tizlenmesini we NVIDIA DGX ulgamlary bilen arhitekturany goşmak bilen iň oňat tehnologiýalara esaslanan subut edilen dizaýnlary ulanmak. “PowerScale” -niň ýokary öndürijiligi we sazlaşygy, maglumatlary almakdan we taýýarlykdan başlap, okuw tälimine we gözleglere çenli maşyn öwrenmegiň her bir basgançagynda saklaýyş öndürijilik talaplaryna laýyk gelýär. “OneFS” operasiýa ulgamy bilen bilelikde, ähli düwünler öndürijilik dolandyryşy, maglumatlary dolandyrmak, howpsuzlyk we maglumatlary goramak ýaly kärhana derejesindäki aýratynlyklar bilen birkemsiz işläp bilerler, bu model okuwyny has çalt tamamlamaga we kärhanalar üçin tassyklamany üpjün eder.
Iş wagty: Iýul-03-2023
