Mahigit na dalawang buwan na lang mula noong ilunsad ang GPT-4, ngunit sinimulan ng mga user na asahan ang paglabas ng GPT-5. Nakita na natin kung gaano kahusay at kalakas ang GPT-4 sa iba’t ibang uri ng mga pagsubok at pagsusuri ng husay. Sa maraming mga bagong tampok tulad ng mga plugin ng ChatGPT at kakayahan sa pagba-browse sa internet, naging mas mahusay ito. Ngayon, naghihintay ang mga user na matuto pa tungkol sa paparating na modelo ng OpenAI, GPT-5, ang posibilidad ng AGI, at higit pa. Kaya para makahanap ng malalim na impormasyon tungkol sa petsa ng paglabas ng GPT-5 at iba pang inaasahang feature, sundin ang aming tagapagpaliwanag sa ibaba.
Talaan ng mga Nilalaman
Petsa ng Paglabas ng GPT-5
Nang inilabas ang GPT-4 noong Marso 2023, inaasahang ilalabas ng OpenAI ang susunod na henerasyong modelo nito sa Disyembre 2023. Siqi Chen , ang CEO ng Runway ay nag-tweet na nagsasabing”ang gpt5 ay naka-iskedyul na makumpleto ang pagsasanay ngayong Disyembre.”Gayunpaman, sa pagsasalita sa isang kaganapan sa MIT noong Abril, sinabi ng CEO ng OpenAI na si Sam Altman na”Hindi kami at hindi na sa loob ng ilang panahon“nang tanungin kung sinasanay ng OpenAI ang GPT-5. Kaya’t ang bulung-bulungan ng paglabas ng GPT-5 sa pagtatapos ng 2023 ay pinawalang-bisa na.
Sabi nga, iminumungkahi ng mga eksperto na maaaring lumabas ang OpenAI na may GPT-4.5, isang intermediate release sa pagitan ng GPT-4 at GPT-5 sa Oktubre 2023, tulad ng GPT-3.5. Sinasabi na ang GPT-4.5 ay sa wakas ay magdadala ng multimodal na kakayahan, aka ang kakayahang pag-aralan ang parehong mga imahe at teksto. Inihayag at ipinakita na ng OpenAI ang multimodal ng GPT-4 mga kakayahan sa livestream ng GPT-4 Developer noong Marso 2023.
GPT-4 Multimodal Capability
Bukod pa rito, ang OpenAI ay kasalukuyang mayroong maraming nasa plato nito upang maplantsa sa GPT-4 na modelo bago ito magsimulang gumana sa GPT-5. Sa kasalukuyan, ang GPT-4 ay napakataas ng oras at ito ay medyo mahal na tumakbo. Mahirap pa ring makuha ang GPT-4 API access. Bukod dito, kamakailan lamang ay binuksan ng OpenAI ang access sa mga plugin ng ChatGPT at kakayahan sa pagba-browse sa internet, na nasa Beta pa rin. Magdadala pa ito ng Code Interpreter para sa lahat ng nagbabayad na user, na nasa Alpha phase na naman.
Habang napakalakas ng GPT-4, sa palagay ko ay napagtanto ng OpenAI na ang kahusayan sa pag-compute ay isa sa mga pangunahing elemento para sa pagpapatakbo ng isang modelo nang tuluy-tuloy. At mabuti, magdagdag ng mga bagong feature at kakayahan sa halo, at mayroon kang mas malaking imprastraktura na haharapin habang tinitiyak na ang lahat ng mga checkpoint ay gumagana at mapagkakatiwalaan. Kaya para ipagsapalaran ang hula, malamang na lalabas ang GPT-5 sa 2024, malapit lang sa paglabas ng Google Gemini, kung ipagpalagay nating hindi maglalagay ng regulatory roadblock ang mga ahensya ng gobyerno.
GPT-5 Features and Capabilities ( Inaasahan)
Reduced Hallucination
Ang mainit na usapan sa industriya ay ang GPT-5 ay makakamit ang AGI (Artificial General Intelligence), ngunit darating tayo sa na mamaya sa detalye. Bukod diyan, ang GPT-5 ay dapat na bawasan ang oras ng hinuha, pahusayin ang kahusayan, pababain ang karagdagang mga guni-guni, at marami pa. Magsimula tayo sa hallucination, na isa sa mga pangunahing dahilan kung bakit ang karamihan sa mga user ay hindi kaagad naniniwala sa mga modelo ng AI.
GPT-4 Accuracy Test
Ayon sa OpenAI, ang GPT-4 ay nakakuha ng 40% na mas mataas kaysa sa GPT-3.5 sa panloob na adversarially-designed factual evaluation sa ilalim ng lahat ng siyam na kategorya. Ngayon, ang GPT-4 ay 82% na mas malamang na tumugon sa hindi tumpak at hindi pinapayagang nilalaman. Malapit na itong maabot ang 80% na marka sa mga pagsubok sa katumpakan sa mga kategorya. Iyan ay isang malaking hakbang sa paglaban sa guni-guni.
Ngayon, inaasahan na babawasan ng OpenAI ang guni-guni sa mas mababa sa 10% sa GPT-5, na magiging napakalaki para gawing mapagkakatiwalaan ang mga modelo ng LLM. Gumagamit ako ng modelong GPT-4 para sa maraming gawain kamakailan, at hanggang ngayon ay nagbigay lamang ito ng mga makatotohanang tugon. Kaya malaki ang posibilidad na ang GPT-5 ay mag-hallucinate kahit na mas mababa kaysa sa GPT-4.
Modelo na Mahusay sa Pag-compute
Susunod, alam na natin na ang GPT-4 ay mahal na patakbuhin ($0.03 bawat 1K na token) at mas mataas din ang oras ng hinuha. Samantalang, ang mas lumang modelo ng GPT-3.5-turbo ay 15x na mas mura ($0.002 bawat 1K na token) kaysa sa GPT-4. Iyon ay dahil ang GPT-4 ay sinanay sa napakalaking 1 trilyong parameter, na nangangailangan ng magastos na compute infrastructure. Sa aming kamakailang tagapagpaliwanag sa PaLM 2 na modelo ng Google, nalaman namin na ang PaLM 2 ay medyo mas maliit sa laki at nagreresulta iyon sa mabilis na performance.
Isang kamakailang ulat ng CNBC ay nakumpirma na ang PaLM 2 ay sinanay sa 340 bilyong parameter, na mas mababa kaysa sa malaking sukat ng parameter ng GPT-4. Sinabi pa ng Google na hindi palaging mas maganda ang mas malaki at pagkamalikhain sa pananaliksik ang susi sa paggawa ng mahuhusay na modelo. Kaya kung gusto ng OpenAI na gawing compute-optimal ang mga paparating na modelo nito, dapat itong maghanap ng mga bagong malikhaing paraan upang bawasan ang laki ng modelo habang pinapanatili ang kalidad ng output.
Bumalik sa isang proyektong ginagawa ko sa OpenAI GPT-4 API, napansin na medyo mabagal ang mga oras ng pagtugon ng API.
Sinubukan ang average na tugon sa bagong konteksto para sa”Maaari mo bang ipakita sa akin ang isang pangunahing halimbawa ng scatter matplotlib?”
GPT-3.5: 13.4 segundo
GPT-4: 44.7 segundo.
⏱️🦥🐢— Harrison Kinsley (@Sentdex) Mayo 10 , 2023
Ang malaking bahagi ng kita ng OpenAI ay nagmumula sa mga negosyo at negosyo, kaya oo, hindi lang dapat mas mura ang GPT-5 ngunit mas mabilis din para maibalik ang output. Sinisiraan na ng mga developer ang katotohanang ang mga tawag sa GPT-4 API ay madalas na humihinto sa pagtugon at sila ay pinipilit na gamitin ang GPT-3.5 na modelo sa produksyon. Dapat ay nasa wishlist ng OpenAI na mapabuti ang pagganap sa paparating na modelo ng GPT-5, lalo na pagkatapos ng paglulunsad ng mas mabilis na modelo ng PaLM 2 ng Google, na maaari mong subukan ngayon.
Multisensory AI Model
Habang ang GPT-4 ay inanunsyo bilang isang multimodal AI model, ito ay tumatalakay lamang sa dalawang uri ng data i.e. mga larawan at teksto. Oo naman, hindi pa naidagdag ang kakayahan sa GPT-4, ngunit posibleng ilabas ng OpenAI ang feature sa loob ng ilang buwan. Gayunpaman, sa GPT-5, maaaring gumawa ng malaking hakbang ang OpenAI sa gawing tunay itong multimodal. Maaari rin itong makitungo sa text, audio, mga larawan, video, depth data, at temperatura. Magagawa nitong i-interlink ang mga stream ng data mula sa iba’t ibang modalidad upang lumikha ng espasyo sa pag-embed.
Source: Meta
Kamakailan, inilabas ng Meta ang ImageBind, isang modelo ng AI na pinagsasama-sama ang data mula sa anim na magkakaibang modalidad at open-sourced ito para sa mga layunin ng pananaliksik. Sa puwang na ito, ang OpenAI ay hindi nagsiwalat ng marami, ngunit ang kumpanya ay may ilang matibay na modelo ng pundasyon para sa pagsusuri ng paningin at pagbuo ng imahe. Bumuo din ang OpenAI ng CLIP (Contrastive Language–Image Pretraining) para sa pagsusuri ng mga larawan at DALL-E, isang sikat na alternatibong Midjourney na maaaring makabuo ng mga larawan mula sa mga textual na paglalarawan.
Ito ay isang lugar ng patuloy na pananaliksik at ang mga aplikasyon nito ay hindi pa rin malinaw. Ayon sa Meta, maaari itong magamit upang magdisenyo at lumikha ng nakaka-engganyong nilalaman para sa virtual reality. Kailangan nating maghintay at tingnan kung ano ang ginagawa ng OpenAI sa espasyong ito at kung makakakita tayo ng higit pang mga AI application sa iba’t ibang multimodality sa paglabas ng GPT-5.
Long Term Memory
Gamit ang paglabas ng GPT-4, ang OpenAI ay nagdala ng maximum na haba ng konteksto na 32K token, na nagkakahalaga ng $0.06 bawat 1K na token. Mabilis naming nakita ang pagbabago mula sa karaniwang 4K token hanggang 32K sa loob ng ilang buwan. Kamakailan, pinataas ng Anthropic ang window ng konteksto mula 9K hanggang 100K na mga token sa Claude AI chatbot nito. Inaasahan na ang GPT-5 ay maaaring magdala ng pangmatagalang suporta sa memorya sa pamamagitan ng mas malaking haba ng konteksto.
Makakatulong ito sa paggawa ng mga AI character at kaibigan na nakakaalala sa iyong katauhan at mga alaala na maaaring tumagal nang maraming taon. Bukod doon, maaari kang mag-load ng mga aklatan ng mga aklat at mga dokumento ng teksto sa isang window ng konteksto. Maaaring magkaroon ng iba’t ibang mga bagong application ng AI dahil sa pangmatagalang suporta sa memorya at maaaring gawing posible iyon ng GPT-5.
GPT-5 Release: Fear of AGI?
Noong Pebrero 2023, sumulat si Sam Altman ng blog sa AGI at kung paano ito mapapakinabangan ng lahat ng sangkatauhan. Ang AGI (Artificial General Intelligence), gaya ng ipinahihiwatig ng pangalan, ay ang susunod na henerasyon ng mga AI system na sa pangkalahatan ay mas matalino kaysa sa mga tao. Sinasabi na ang paparating na modelo ng OpenAI na GPT-5 ay makakamit ang AGI, at tila may katotohanan iyon.
Mayroon na kaming ilang autonomous AI agent tulad ng Auto-GPT at BabyAGI, na batay sa GPT-4 at maaaring gumawa ng mga desisyon sa kanilang sarili at makabuo ng mga makatwirang konklusyon. Ganap na posible na ang ilang bersyon ng AGI ay i-deploy gamit ang GPT-5.
Sa blog, sinabi ni Altman na “Naniniwala kami na kailangan naming patuloy na matuto at umangkop sa pamamagitan ng pag-deploy ng hindi gaanong makapangyarihang mga bersyon ng teknolohiya upang mabawasan ang mga’one shot to get it right’na mga sitwasyon”habang pagkilala sa”napakalaking panganib”sa pag-navigate sa mga napakalakas na system tulad ng AGI. Bago ang kamakailang Pagdinig sa Senado , hinimok din ni Sam Altman ang mga mambabatas ng US para sa mga regulasyon sa paligid ng mga mas bagong AI system.
Sa pagdinig, sinabi ni Altman, “Sa palagay ko kung magkamali ang teknolohiyang ito, maaari itong magkamali. At gusto naming maging vocal tungkol diyan.” Dagdag pa, idinagdag niya,”Gusto naming makipagtulungan sa gobyerno upang maiwasang mangyari iyon.”Sa loob ng ilang panahon, naging malinaw ang OpenAI tungkol sa mga regulasyon sa mga mas bagong AI system na magiging napakalakas at matalino. Tandaan na ang Altman ay naghahanap ng kaligtasan regulasyon sa paligid ng hindi kapani-paniwalang makapangyarihang mga sistema ng AI at hindi mga open-source na modelo o mga modelo ng AI na binuo ng maliliit na startup.
Ang regulasyon ay dapat magkabisa nang higit sa limitasyon ng kakayahan.
Ang kaligtasan ng AGI ay talagang mahalaga, at ang mga modelo ng hangganan ay dapat na kontrolin.
masama ang pagkontrol sa pagkuha , at hindi tayo dapat makialam sa mga modelong nasa ibaba ng threshold. Malinaw na mahalaga ang mga open source na modelo at maliliit na startup. https://t.co/qdWHHFjX4s— Sam Altman (@sama) Mayo 18, 2023
Dapat itong tandaan na Elon Muskat iba pang kilalang personalidad, kabilang sina Steve Wozniak, Andrew Yang, at Yuval Noah Harari, et al ay nanawagan ng pause on giant AI experiments, noong Marso 2023. Simula noon, nagkaroon ng malawak na pushback laban sa AGI at mas bagong AI system — mas malakas kaysa sa GPT-4.
Kung talagang dadalhin ng OpenAI ang kakayahan ng AGI sa GPT-5, asahan ang higit pang pagkaantala sa pampublikong paglabas nito. Talagang papasok ang regulasyon at susuriin nang mabuti ang kaligtasan at pagkakahanay. Ang magandang bagay ay mayroon nang malakas na modelo ng GPT-4 ang OpenAI, at patuloy itong nagdaragdag ng mga bagong feature at kakayahan. Walang ibang modelo ng AI na malapit dito, kahit ang PaLM 2-based na Google Bard.
OpenAI GPT-5: Future Stance
Pagkatapos ng paglabas ng GPT-4, ang OpenAI ay naging mas lihim tungkol sa mga operasyon nito. Hindi na ito nagbabahagi ng pananaliksik sa dataset ng pagsasanay, arkitektura, hardware, compute ng pagsasanay, at paraan ng pagsasanay sa open-source na komunidad. Ito ay isang kakaibang flip para sa isang kumpanya na itinatag bilang isang nonprofit (ngayon ito ay na-capped profit) batay sa mga prinsipyo ng libreng pakikipagtulungan.
Noong Marso 2023, nagsasalita sa The Verge, Ilya Sutskever, ang punong siyentipiko ng OpenAI ay nagsabi,”Kami ay mali. Flat out, nagkamali kami. Kung naniniwala ka, tulad ng ginagawa namin, na sa isang punto, ang AI — AGI — ay magiging lubhang, hindi kapani-paniwalang makapangyarihan, kung gayon hindi ito makatuwiran sa open-source. Ito ay isang masamang ideya… Lubos kong inaasahan na sa loob ng ilang taon, magiging ganap na malinaw sa lahat na ang open-sourcing AI ay hindi matalino.“
Ngayon, naging malinaw na ni GPT-4 o ang paparating na GPT-5 ay magiging open-source upang manatiling mapagkumpitensya sa karera ng AI. Gayunpaman, ang isa pang higanteng korporasyon, Meta ay lumalapit sa AI development nang iba. Ang Meta ay naglabas ng maraming modelo ng AI sa ilalim ng lisensya ng CC BY-NC 4.0 (pananaliksik lamang, hindi pangkomersyal) at nakakakuha ng traksyon sa open-source na komunidad.
Nakikita ang malaking paggamit ng LLaMA ng Meta at iba pang mga modelo ng AI, binago din ng OpenAI ang paninindigan nito sa open source. Ayon sa kamakailang mga ulat , Gumagawa ang OpenAI sa isang bagong open-source na modelo ng AI na ilalabas sa publiko sa lalong madaling panahon. Walang impormasyon sa mga kakayahan nito at kung gaano ito kakumpitensya laban sa GPT-3.5 o GPT-4, ngunit isa nga itong malugod na pagbabago.
Sa kabuuan, ang GPT-5 ay magiging isang frontier na modelo na magtutulak sa hangganan ng kung ano ang posible sa AI. Malamang na ang ilang anyo ng AGI ay ilulunsad kasama ang GPT-5. At kung iyon ang mangyayari, ang OpenAI ay dapat maghanda para sa mahigpit na regulasyon (at posibleng pagbabawal) sa buong mundo. Tulad ng para sa petsa ng paglabas ng GPT-5, ang ligtas na taya ay sa 2024.
Mag-iwan ng komento
May ilang kaduda-dudang pagpipilian sa disenyo sa Redfall, isang mishmash ng half-baked na sikat na Arkane formula. Gustung-gusto ko ang mga laro na ginawa ng Arkane Studios, na ang Dishonored ay naging isang pamagat na muli kong binibisita paminsan-minsan para sa kakaibang lumilitaw na gameplay nito. At […]
Narito ang monitor ng BenQ PD2706UA, at kasama nito ang lahat ng mga kampanilya at sipol na pinahahalagahan ng mga gumagamit ng pagiging produktibo. 4K na resolution, mga factory-calibrated na kulay, isang 27-inch na panel, isang ergonomic stand na madaling i-adjust, at higit pa. Mayroon itong maraming […]
Ang Minecraft Legends ay isang laro na pumukaw sa aking interes sa orihinal nitong pagpapakita noong nakaraang taon. Ngunit, aaminin ko na hindi ako aktibong nasubaybayan nang maayos ang laro hanggang sa mas malapit kami sa opisyal na paglabas nito. Pagkatapos ng lahat, mahal ko […]
