Ang ChatGPT, ang AI language model na binuo ng OpenAI, ay gumagawa ng mga wave sa tech world. Sa buong mundo, humanga ang mga tao sa kakayahan nitong bumuo ng mga tugon na tulad ng tao sa mga text prompt. Gayunpaman, ang mabilis na pagpapalawak ng modelo ay nagdulot ng mga alalahanin tungkol sa potensyal na kakulangan ng mga graphics processing unit (GPU). Mahalaga ang mga ito para sa pagsasanay at pagpapatakbo ng malalaking modelo ng wika tulad ng ChatGPT.
Ayon sa Fortune magazine, ang CEO ng OpenAI na si Sam Altman ay nagpahayag sa isang pribadong pagpupulong na ang matinding kakulangan ng mga GPU ay humadlang sa pag-usad ng ChatGPT. Ayon sa ulat, nakipagpulong si Altman sa ilang App developer at manager ng mga start-up na kumpanya noong Mayo. Sinabi ni Raza Habib, CEO ng London-based AI startup Humanloop, sa isang tweet na naniniwala si Altman na kulang ng sapat na GPU ang OpenAI, na naantala ang maraming pagsisikap na i-optimize ang ChatGPT.
Bakit may mga isyu sa bilis at pagiging maaasahan ang ChatGPT
Ayon sa mga minuto ng pulong ni Habib, ang pinakamalaking reklamo ng mga user tungkol sa ChatGPT ay ang bilis at pagiging maaasahan ng interface ng API. Naunawaan ito ni Altman at ipinaliwanag niya na ang pangunahing dahilan ay hindi sapat ang GPU. Di-nagtagal pagkatapos maisapubliko ang mga minuto ng pagpupulong, nakipag-ugnayan ang OpenAI kay Habib upang sabihin na ang kaganapan ay hindi para sa pampublikong pagpapalabas.
Bagaman tinanggal ni Habib ang tweet, sapat na ang haba para makita ng mga tao ang mga mahahalagang detalye. Ayon sa mga ulat, nagreklamo si Altman na ang kakulangan ng mga GPU ay humantong sa mababang kapangyarihan sa pag-compute, at hindi mapalawak ng OpenAI ang listahan ng chat ng ChatGPT. Nakakaapekto ito sa dami ng impormasyon na maaaring iproseso ng ChatGPT kapag sumasagot sa mga tanong ng user. Nililimitahan din nito ang”memorya”ng ChatGPT at maaaring mahirapan itong pangasiwaan ang mga nakaraang talaan ng tanong. Bilang karagdagan, hindi makumpleto ng ChatGPT ang mas nakakapagod na mga gawain dahil sa mababang kapangyarihan sa pag-compute. Halimbawa, maaaring mahirapan ang AI tool na magsulat ng mga kumplikadong program code dahil sa hindi sapat na mga GPU.
Ayon sa IT Home, ang OpenAI ay isa sa maraming brand na pinahihirapan ng kakulangan ng mga GPU. Ang mga tagapagbigay ng serbisyo ng cloud computing gaya ng Google, Amazon, at Microsoft ay lahat ay nahaharap sa malubhang kakulangan ng mga GPU. Naging sanhi din ito ng pagtaas ng presyo ng stock ng pangunahing supplier na Nvidia, na naging unang kumpanya ng semiconductor na may halaga sa merkado na higit sa isang trilyon. Ang presyo ng stock ng kumpanya ay tumaas ng halos dalawang beses ngayong taon.
Gizchina News of the week
Kasaysayan ng Kakulangan ng GPU
Ang kakulangan sa GPU ay hindi isang bagong problema para sa industriya ng teknolohiya. Noong 2017, ang merkado ay nahaharap sa isang katulad na kakulangan dahil sa pagtaas ng demand para sa mga graphics card na dulot ng pagtaas ng mga presyo ng Ethereum. Gayunpaman, ang kasalukuyang kakulangan ay naiiba dahil sa iba’t ibang mga kadahilanan ay nagpalawak at nagpalala nito. Ang pangunahing salarin ay isang isyu sa mga kadena ng supply ng GPU, na pinalawak ng pagtaas ng demand sa rehiyon. Ang pandemya ay nakagambala rin sa mga supply chain at lumaki ang buong industriya ng semiconductor. Ginagawa nitong mas mahirap para sa mga kumpanya na ma-access ang mga kinakailangang bahagi upang makagawa ng mga GPU.
Ang Epekto ng Kakulangan ng GPU sa ChatGPT
Ang pagsabog sa katanyagan ng ChatGPT ay nagdulot ng ilang pangamba na ang isa pang kakulangan sa GPU ay nasa abot-tanaw. Sinasabi ng isang analyst na humigit-kumulang 10,000 Nvidia GPU ang ginamit upang sanayin ang ChatGPT. Gayundin, may mga ulat na habang patuloy na lumalawak ang serbisyo, ganoon din ang pangangailangan para sa mga GPU.
Ang kakulangan ng mga GPU ay nagpahirap para sa OpenAI na hayaan ang mga user na itulak ang higit pang data sa pamamagitan ng malalaking modelo ng wika na sumasailalim sa software nito, gaya ng ChatGPT. Pinabagal nito ang nakaplanong paglulunsad ng kumpanya ng higit pang mga feature at serbisyo. Ginawa rin nitong mas mabagal at hindi gaanong maaasahan ang mga kasalukuyang serbisyo ng OpenAI. Isa itong malaking isyu para sa maraming user at nag-aatubili silang bumuo ng mga enterprise app sa ibabaw ng teknolohiya ng OpenAI.
Gayunpaman, mahalagang tandaan na ang eksaktong status ng kakulangan ng GPU ay hindi talaga malinaw. Ayon sa isang artikulo ng Fierce Electronics mula Marso 2023, mayroong”malaking”kakulangan sa supply ng GPU dahil sa mga pangangailangan ng AI. Sa kabilang banda, bumalik sa Augustm isang ulat ng Ars Technica ang nagsasabing opisyal na natapos ang kakulangan sa GPU at nasa isang surplus na tayo ng GPU. Iniulat din ng Verge noong Hulyo 2022 na tapos na ang kakulangan sa GPU. Kaya, ang eksaktong katayuan ng kakulangan ng GPU ay medyo hindi malinaw. Maaaring depende ito sa iba’t ibang salik gaya ng lokasyon, demand, at pagkagambala sa supply chain.
Mga Potensyal na Solusyon sa Kakulangan ng GPU
Isang potensyal na solusyon sa kakulangan ng GPU ay para sa mga semiconductor firm na tumaas kanilang kapasidad sa produksyon. Gayunpaman, ito ay mas madaling sabihin kaysa gawin, dahil ang pandemya ay nakakagambala sa mga supply chain at naging mas mahirap para sa mga kumpanya na ma-access ang mga kinakailangang bahagi upang makagawa ng mga GPU.
Ang isa pang potensyal na solusyon ay para sa mga kumpanya na maghanap ng mga alternatibong paraan upang magsanay at magpatakbo ng malalaking modelo ng wika tulad ng ChatGPT. Halimbawa, pinigilan ng OpenAI ang malakas nitong bagong modelo ng wika, ang GPT-4, mula sa libreng bersyon ng ChatGPT, na ay nagpapatakbo pa rin ng mas mahinang modelo ng GPT-3.5, dahil sa mataas na halaga ng pagpapatakbo ng GPT-4.
Hindi direktang kinilala ng CEO ng OpenAI na si Sam Altman ang problema, na nagsasaad na ang kumpanya ay nagsusumikap na gawing mas mahusay ang mga modelo ng AI nito at hindi gaanong resource-intensive.
Mga Pangwakas na Salita
Ang kakulangan ng mga GPU ay isang malaking balakid para sa ChatGPT at iba pang malalaking modelo ng wika. Ang pandemya at pagtaas ng demand para sa mga GPU ay nagpahirap sa mga brand na i-access ang mga kinakailangang bahagi upang makagawa ng mga GPU, na nagpabagal sa paglulunsad ng mga bagong feature at serbisyo para sa ChatGPT.
Gayunpaman, may mga potensyal na solusyon sa problemang ito, tulad ng pagtaas ng kapasidad ng produksyon at paghahanap ng mga alternatibong paraan upang sanayin at patakbuhin ang malalaking modelo ng wika. Habang patuloy na umuunlad ang industriya ng tech, magiging kawili-wiling makita kung paano na-navigate ng mga kumpanya tulad ng OpenAI ang mga hamon na dulot ng kakulangan ng GPU at patuloy na nagbabago sa larangan ng AI.
Source/VIA: