Voalaza fa ny orinasan'ny teknolojia dia mikaroka GPU na eo amin'ny lalana hahazoana azy ireo. Tamin'ny volana aprily, ny CEO Tesla Elon Musk dia nividy GPU 10,000 ary nilaza fa hanohy hividy GPU be dia be avy amin'ny NVIDIA ny orinasa. Amin'ny lafiny orinasa, ny mpiasan'ny IT dia manosika mafy ihany koa mba hahazoana antoka fa ny GPU dia ampiasaina tsy tapaka mba hampitomboana ny fiverenan'ny fampiasam-bola. Na izany aza, mety ho hitan'ny orinasa sasany fa na dia mitombo aza ny isan'ny GPU dia mihamafy kokoa ny fahadonan'ny GPU.
Raha nampianatra antsika na inona na inona momba ny informatika avo lenta (HPC) ny tantara, dia ny fitahirizana sy ny tambajotra dia tsy tokony hatao sorona noho ny fifantohana be loatra amin'ny kajy. Raha tsy afaka mamindra angon-drakitra amin'ny fitaovana informatika amin'ny fomba mahomby ny fitahirizana, na dia manana GPU betsaka indrindra eran'izao tontolo izao aza ianao, dia tsy hahazo fahombiazana tsara indrindra ianao.
Araka ny filazan'i Mike Matchett, mpanadihady ao amin'ny Small World Big Data, ny modely kely kokoa dia azo atao amin'ny fitadidiana (RAM), ahafahan'ny fifantohana bebe kokoa amin'ny kajy. Na izany aza, ny modely lehibe kokoa toa ny ChatGPT miaraka amin'ny node an'arivony tapitrisa dia tsy azo tehirizina ao anaty fitadidiana noho ny vidiny lafo.
“Tsy afaka mahatadidy nodes an'arivony tapitrisa ianao, noho izany dia lasa zava-dehibe kokoa ny fitahirizana,” hoy Matchett. Indrisy anefa, ny fitahirizana angon-drakitra dia matetika tsy jerena mandritra ny fizotran'ny drafitra.
Amin'ny ankapobeny, na inona na inona toe-javatra ampiasaina, dia misy teboka efatra mahazatra amin'ny dingana fanofanana modely:
1. Fampiofanana modely
2. Fampiharana Inference
3. Fitehirizana angona
4. Computing haingana
Rehefa mamorona sy manaparitaka maodely, ny ankamaroan'ny fepetra dia manome laharam-pahamehana ny porofo haingana (POC) na ny tontolon'ny fitiliana mba hanombohana fiofanana maodely, miaraka amin'ny fitahirizana angon-drakitra tsy tokony hojerena.
Na izany aza, ny fanamby dia ny hoe mety haharitra volana maromaro na taona maro mihitsy aza ny fampiofanana na ny fametrahana inference. Orinasa maro no manandratra haingana ny haben'ny maodely mandritra io fotoana io, ary ny fotodrafitrasa dia tsy maintsy mivelatra mba handraisana ireo modely sy angon-drakitra mitombo.
Ny fikarohana avy amin'ny Google momba ny enta-mavesatry ny fiofanana ML an-tapitrisany dia manambara fa eo ho eo amin'ny 30% amin'ny fotoana fanofanana no lany amin'ny fantsona angon-drakitra. Raha ny fikarohana taloha dia nifantoka tamin'ny fanatsarana ny GPU mba hanafainganana ny fiofanana, mbola maro ny fanamby amin'ny fanatsarana ny ampahany isan-karazany amin'ny fantsona data. Rehefa manana hery kajy manan-danja ianao, ny tena bottleneck dia lasa haingana toy ny hoe afaka mamahana data ao amin'ny kajy hahazoana valiny.
Amin'ny ankapobeny, ny fanamby amin'ny fitahirizana angon-drakitra sy ny fitantanana dia mitaky drafitra ho an'ny fitomboan'ny angon-drakitra, mamela anao hanesorana tsy an-kijanona ny sandan'ny angon-drakitra rehefa mandroso ianao, indrindra rehefa miditra amin'ny tranga fampiasana mandroso kokoa toy ny fianarana lalina sy tambajotra neural, izay mametraka fitakiana ambony kokoa. fitahirizana eo amin'ny lafin'ny fahafaha-manao, ny fampisehoana ary ny scalability.
Manokana:
Scalability
Mitaky fikirakirana angon-drakitra betsaka ny fianarana milina, ary rehefa mitombo ny habetsaky ny angona dia mihatsara ihany koa ny fahamarinan'ny maodely. Midika izany fa tsy maintsy manangona sy mitahiry angona bebe kokoa isan'andro ny orinasa. Rehefa tsy afaka mirefy ny fitahirizana, ny enta-mavesatry ny angon-drakitra dia miteraka bottleneck, mametra ny fampandehanana ary miteraka fotoana tsy miasa GPU lafo vidy.
manovaova
Ny fanohanan'ny flexible ho an'ny protocols maro (anisan'izany ny NFS, SMB, HTTP, FTP, HDFS, ary S3) dia ilaina mba hanomezana ny filan'ny rafitra samihafa, fa tsy voafetra amin'ny karazana tontolo iainana tokana.
Latency
Ny fahatarana I/O dia tena ilaina amin'ny fananganana sy fampiasana modely rehefa vakina sy averina imbetsaka ny angona. Ny fampihenana ny fahatarana I/O dia mety hanafohy andro na volana ny fotoana fanofanana modely. Ny fampandrosoana modely haingana kokoa dia midika mivantana amin'ny tombony ara-barotra lehibe kokoa.
Throughput
Ny fampandehanana ny rafitra fitahirizana dia tena ilaina amin'ny fampiofanana modely mahomby. Ny fizotran'ny fanofanana dia misy angon-drakitra be dia be, matetika amin'ny terabytes isan'ora.
Fidirana parallèle
Mba hahazoana vokatra avo lenta, ny modely fanofanana dia mizara hetsika ho asa mifanindran-dalana. Matetika izany dia midika fa ny algorithm fianarana milina dia miditra amin'ny rakitra mitovy amin'ny dingana maro (mety amin'ny servisy ara-batana maro) miaraka. Ny rafitra fitahirizana dia tsy maintsy mitantana ny fitakiana miaraka nefa tsy mampandefitra ny fahombiazany.
Miaraka amin'ny fahaiza-manaony miavaka amin'ny fahatarana ambany, ny fampandehanana avo lenta, ary ny I/O parallèle midadasika, Dell PowerScale dia famenon'ny fitahirizana tsara indrindra amin'ny informatika accelerated GPU. PowerScale dia mampihena amin'ny fomba mahomby ny fotoana ilaina amin'ny modely famakafakana izay manofana sy mitsapa angon-drakitra maro-terabyte. Ao amin'ny fitehirizana tselatra rehetra PowerScale, mitombo in-18 ny bandwidth, manafoana ny bottlenecks I/O, ary azo ampidirina amin'ireo cluster Isilon efa misy mba hanafaingana sy hamaha ny sandan'ny angon-drakitra tsy voarindra.
Fanampin'izay, ny fahafaha-miditra amin'ny protocole maro an'ny PowerScale dia manome fahafaha-manao tsy voafetra ho an'ny fampandehanana ny enta-mavesatra, mamela ny angona ho voatahiry amin'ny alàlan'ny protocol iray ary hidirana amin'ny fampiasana hafa. Amin'ny ankapobeny, ireo endri-javatra mahery vaika, flexibility, scalability, ary ny fiasan'ny orinasa amin'ny sehatra PowerScale dia manampy amin'ny famahana ireto fanamby manaraka ireto:
- Manafaingana ny fanavaozana hatramin'ny in-2.7, mampihena ny tsingerin'ny fanofanana modely.
- Esory ny bottleneck I/O ary manome fiofanana sy fanamarinana modely haingana kokoa, fanatsarana ny fahamarinan'ny maodely, fanatsarana ny vokatra ara-tsiansa momba ny angon-drakitra, ary ny fiverenana ambony indrindra amin'ny fampiasam-bola amin'ny informatika amin'ny alàlan'ny fampiasana ny endri-javatra misy ny orinasa, ny fampisehoana avo lenta, ny concurrency ary ny scalability. Ampitomboy ny fahamarinan'ny maodely miaraka amin'ny angon-drakitra lalindalina kokoa sy manana vahaolana avo kokoa amin'ny alàlan'ny fampiasana hatramin'ny 119 PB amin'ny fitahirizana mahomby amin'ny cluster tokana.
- Manatratra ny fametrahana amin'ny ambaratonga amin'ny alàlan'ny fanombohana ny kajy sy fitehirizana kely sy tsy miankina, manome safidy fiarovana sy fiarovana matanjaka.
- Manatsara ny vokatra ara-tsiansa momba ny angona miaraka amin'ny famakafakana eo an-toerana sy ny vahaolana efa voamarina mialoha ho an'ny fametrahana haingana kokoa sy tsy misy risika.
- Fampiasana endrika voaporofo miorina amin'ny teknolojia tsara indrindra, ao anatin'izany ny fanafainganana ny GPU NVIDIA sy ny maritrano fanondro miaraka amin'ny rafitra NVIDIA DGX. Mahafeno ny fepetra takian'ny fitahirizana amin'ny dingana rehetra amin'ny fianarana milina ny fampisehoana avo lenta sy ny fifanandrifian'ny PowerScale, manomboka amin'ny fahazoana angon-drakitra sy fiomanana ka hatramin'ny fanofanana modely sy ny fanatsoahan-kevitra. Miaraka amin'ny rafitra fiasan'ny OneFS, ny nodes rehetra dia afaka miasa tsara ao anatin'ny cluster mitovy amin'ny OneFS, miaraka amin'ireo endri-javatra amin'ny sehatra orinasa toy ny fitantanana ny fampisehoana, ny fitantanana ny angona, ny fiarovana ary ny fiarovana ny angona, izay ahafahana mamita haingana kokoa ny fanofanana modely sy ny fanamarinana ho an'ny orinasa.
Fotoana fandefasana: Jul-03-2023
