Ang Pulis sa China ay sinira ang dalawang magkaibang gang na gumamit ng ChatGPT para gumawa ng mga pekeng video . Ang isa sa mga pagsabog ay naganap noong Mayo habang ang isa ay noong Hunyo. Ang ChatGPT ay isang AI chatbot na binuo ng Microsoft – backed OpenAI na nagbibigay-daan sa mga user na bumuo ng mga tugon batay sa mga prompt at tanong ng user. Iligal na bumili ang gang ng isang batch ng mga video account mula noong Mayo 2023 para gamitin ang ChatGPT para gumawa ng mga pekeng video.
Pagbawal ng China sa ChatGPT
Naiulat na ang mga Chinese regulators pinigilan ang pag-access sa ChatGPT. Gayunpaman, ang mga Chinese tech na kumpanya at paaralan ay sumusulong sa pagbuo ng mga domestic AI bot. Ang ChatGPT ay hindi opisyal na magagamit sa China, kung saan ang gobyerno ay nagpapatakbo ng isang detalyadong firewall at mahigpit na censorship sa internet. Ngunit marami ang nag-access nito sa pamamagitan ng VPN. Gayundin, ang ilang mga third-party na developer ay gumawa ng mga programa na nagbigay ng ilang access sa serbisyo. Ang mga paghahanap para sa ChatGPT sa mga platform ng Chinese ay hindi na nagbabalik ng mga resulta. Gayunpaman, ang mga workaround program ay hindi pinagana o pinalitan ng isang notice na nagsasabing sila ay nasuspinde dahil sa”paglabag sa mga nauugnay na batas at regulasyon.”
Ang pagbabawal sa ChatGPT sa China ay hindi nakakagulat dahil ang bansang Asyano ay medyo mahigpit sa mga batas nito. Ang Chinese govt ay pinipigilan ang political propaganda at maling impormasyon. Ayon sa mga ulat, tinitingnan nito ang kakayahan ng ChatGPT na bumuo ng text bilang banta sa kontrol nito sa daloy ng impormasyon.
May 2023 Burst: Ang kaso ng ChatGPT video fraud
Isang pulis ulat mula sa hilagang-kanlurang lalawigan ng China ng Gansu ay binanggit ang isang suspek na bahagi ng isang gang. Nakilala lamang sa kanyang apelyido, Hong, ginamit niya ang ChatGPT upang lumikha ng isang pekeng artikulo ng balita tungkol sa isang pag-crash na diumano ay humantong sa pagkamatay ng siyam na construction worker sa Gansu. Naging viral ang kuwentong ito at kahit ang mga lehitimong mapagkukunan ng balita ay nalinlang ng pekeng kuwento.
Noong Mayo, nalaman ng pulisya ng Shaoxing na ang parehong gang ay ilegal na bumili ng isang batch ng mga video account at ginamit ang mga ito sa lumikha mga pekeng video gamit ang ChatGPT. Inaresto ng pulisya ang isang lalaki na gumamit ng ChatGPT para gumawa ng pekeng balita tungkol sa pagbagsak ng tren. Ito ang isa sa mga unang aksyon sa pagpapatupad sa ilalim ng isang kamakailang ipinatupad na batas ng China na kumokontrol sa”deep fakes”na binuo ng AI. Ayon sa pulisya, ang mga gawa ng gang ay tila makatotohanan ngunit gawa-gawang mga digital na imahe, video o iba pang media.
Naalerto ang lokal na yunit ng pulisya ng cybersecurity sa artikulo tungkol sa pagbagsak ng tren — na inilathala noong Abril 25. Pagkatapos ay naglunsad ito ng pagsisiyasat sa usapin. Pagkatapos ay inamin ni Hong na ginamit niya ang ChatGPT upang lumikha ng mga pekeng balita tungkol sa mga pag-crash ng tren bago i-post ang mga ito online. Ang pag-aresto kay Hong ay ang unang pagkakakulong mula noong magkabisa ang bagong regulasyon ng China sa malalim na pekeng teknolohiya noong Enero. Nilalayon ng batas na pigilan ang maling paggamit ng tech na maaaring magbago ng data ng mukha at boses. At habang pinagbawalan ang ChatGPT sa China, may mga solusyon gaya ng mga virtual private network.
Gizchina News of the week
June Burst: Binuwag ng pulisya ng China ang isang rumor gang
Naganap ang pangalawang malaking pagsabog noong Hunyo 2023. Noong Hunyo 2, natagpuan ng pulisya ng Shangyu sa isang online na pagsisiyasat na ang isang user ng app na pinangalanang”Shangyi Explanation”ay naglabas ng isang video tungkol sa isang sunog sa Shangyu Industrial Park. Mabilis na tumaas ang bilang ng mga nanood sa video sa loob ng maikling panahon. Ni-double check ng pulis ang video at napag-alamang ito ay fake news. Nakita rin ng pulisya ng Shangyu ang isang tech group sa ibang probinsya na nauugnay sa krimen. Noong Hunyo 5, sumugod ang mga pulis sa ibang mga probinsya at inaresto ang tatlong suspek.
Pagkatapos ng imbestigasyon, ang grupo ng gang pr ay ilegal na nakakuha ng ilang video account mula sa Internet mula noong Mayo. Pinagsama nito ang mga video at gumawa ng mga pekeng video sa pamamagitan ng ChatGPT tech upang mai-publish ang network upang makakuha ng trapiko. Ang trapiko ay humantong sa kita para sa grupo. Sa ngayon, ang gang ay ilegal na bumili ng higit sa 1,500 video account at naglabas ng higit sa 3,000 pekeng video. Inamin na ng naarestong suspek ang krimen ngunit patuloy pa rin ang pagsisiyasat ng pulisya para sa higit pang mga suspek.
Debate Tungkol sa AI Regulation
Nagsimula ang pagbabawal sa ChatGPT sa China at mga alalahanin sa pagiging tunay isang debate tungkol sa regulasyon ng AI. Noong Enero 2023, ang Cyberspace Administration ng China ay nagpatupad ng mga bagong regulasyon upang pigilan ang paggamit ng teknolohiya ng AI. Ang awtoridad sa proteksyon ng data ng Italya, si Garante, ay nagpataw ng pansamantalang pagbabawal sa ChatGPT, isang chatbot na gumagamit ng AI upang makabuo ng mga text na tila nilikha ng mga tao at mga laro sa computer.
Ang tagapagbantay ay hindi gaanong nababahala sa paggamit ng AI kaysa sa mga paglabag sa batas sa proteksyon ng data. Pagkatapos ay sinabi ni Garante sa kumpanyang sinusuportahan ng Microsoft Corp sa likod ng ChatGPT, OpenAI, na kailangan itong maging mas transparent sa mga user nito tungkol sa kung paano pinoproseso ang kanilang data. Sinabi rin nito na ang kumpanya ng US ay kailangang kumuha ng pahintulot mula sa mga user para sa ilang partikular na user. Kung gagamitin ang data ng user upang higit pang mabuo ang software, kakailanganin nito ang pahintulot ng mga user. Gayundin, sinasabi nito na kailangang i-filter ng OpenAi ang access sa feature na ito para sa mga menor de edad.
Mga Pangwakas na Salita
Ang kaso ng panloloko sa video ng ChatGPT ay nagpapakita ng pangangailangan para sa regulasyon at kontrol ng AI tech sa China. Habang ang ChatGPT ay maaaring maging isang kapaki-pakinabang na tool upang lumikha ng mga chat batay sa mga senyas at tanong ng user, maaari rin itong magamit upang lumikha ng mga pekeng balita at video. Nagsusumikap ang Chinese govt na i-regulate at kontrolin ang paggamit ng AI tech, kabilang ang ChatGPT, habang ang tech ay nagiging mas advanced. Ang pagsugpo sa gang na gumamit ng ChatGPT upang lumikha ng mga pekeng video ay isang hakbang sa tamang direksyon patungo sa pagtiyak na ang AI tech ay ginagamit nang responsable at etikal.
Palaging may panganib ng mga malalim na pekeng nilikha ng AI kaya, may pangangailangang i-regulate ang paggamit ng AI tech. Habang patuloy na lumalago ang kasikatan ng ChatGPT, malamang na marami pa tayong makikitang kaso ng pandaraya at maling paggamit. Ang malalalim na pekeng ito ay madaling makapasa ng isang tunay na audio, video o larawan. Kaya, napakahalaga para sa mga user na maging mapagbantay at mag-ulat ng anumang kahina-hinalang aktibidad sa naaangkop na awtoridad.
Source/VIA:
