Ang banta ng pagkalipol ng sangkatauhan na dulot ng AI ay nasa antas na katulad ng pandemya o digmaang nuklear.
Ang babalang ito ay nagmula sa isang grupo ng mga eksperto, kabilang ang mga AI scientist, propesor, at tech luminaries, kabilang ang mga high-up na miyembro ng Google/Alphabet (at DeepMind), OpenAI (ang gumagawa ng ChatGPT), at ang CTO at Chief Science Officer sa Microsoft (isa sa pinakamalaking tagapagtaguyod ng AI sa kasalukuyan, kasama si Bing, at ngayon ay Copilot ).
Kabilang din dito ang isang grupo ng mga may-akda na nagsulat ng mga go-to textbook sa AI at malalim na pag-aaral, at isang trio ng mga nanalo ng Turing Award, kasama ang marami, marami pang iba. Ito ay medyo mabigat na suporta dito.
Ang pahayag, na opisyal na inilabas ng Center for AI Safety, ay maikli at matamis, na nagbabasa:
“Ang pagbabawas sa panganib ng pagkalipol mula sa AI ay dapat maging isang pandaigdigang priyoridad kasama ng iba pang mga panganib sa antas ng lipunan tulad ng mga pandemya at digmaang nukleyar.”
Ito ang pinakabago sa isang mahigpit na babala sa mga kamakailang panahon, na naglalagay ng isang malakas na kaso para sa mundo ng teknolohiya mag-ingat sa pag-unlad ng AI, sa halip na mag-araro lamang, tumungo, anuman-na tila ang tukso hanggang ngayon.
Ang Google at Microsoft ay parehong ganap na nangunguna sa kani-kanilang Bard at Bing Ang AI ay mas mabilis hangga’t maaari, na may higit na pag-aalala tungkol sa pagkahulog sa likod ng karibal na chatbot kaysa sa anumang pag-aalala tungkol sa kung ano ang maaaring maging epekto ng ganitong uri ng pag-unlad sa lipunan sa pangkalahatan.
Kaya, partikular na kawili-wiling makita ang mga kilalang executive mula sa mga iyon. mga kumpanyang pumirma sa pahayag na ito, bagama’t isang bagay ang magpahayag ng pagmamalasakit-at isa pang bagay na dapat gawin tungkol dito. (Isang bagay na maaaring pumipigil sa iyong pinakabago at pinakadakilang pag-asa na patuloy na mangibabaw sa paghahanap-o hamunin ang pangingibabaw ng Google sa kaso ng Microsoft-at ang web sa pangkalahatan).
Ang reaksyon sa Twitter ay nahuhulaang polarized: ito ay alinman labis na pag-aalala, o ito ay nakakaalarma at nakakatakot.
Bagama’t in fairness, at sa panganib na sabihin ang napakalinaw, marami sa kung ano ang mangyayari ay mahuhulog sa eksakto kung paano namin ginagamit ang AI. Sa madaling salita, ang panganib mismo ay hindi AI, ngunit kung paano natin ito hinuhubog at ine-evolve, at kung ano ang ginagawa natin dito.
Tiyak na may mga taong naninindigan na ang paglalagay ng mga hakbang sa lugar ngayon upang gabayan ang paglago ng AI ay susi sa hinaharap, kapag ang mas sopistikadong pagkakatawang-tao-na umaabot sa AGI o artipisyal na pangkalahatang katalinuhan-ay nasa laro. (Bagaman ang kahulugan ng AGI mismo ay kontrobersyal, gaya ng na-explore namin sa ibang lugar).
Para sa amin, kahit na hindi ito isang eksistensyal na banta, ang uri ng AI na pinapasok ngayon-malalaking modelo ng wika (LLMs)-tiyak na mayroong mga panganib at patibong na kailangan nating maging maingat sa paligid. Pangunahin ang banta sa mga trabaho, na tiyak na totoo-sa isang mundo ng korporasyon kung saan ang tubo at mga shareholder sa pangkalahatan ang pangunahing alalahanin, hindi mga manggagawa-at gayundin ang epekto sa malikhaing arena (sining at musika, at oo, nakasulat na nilalaman din).