ตำรวจในประเทศจีนได้ปราบปรามแก๊งที่ใช้ ChatGPT เพื่อสร้างวิดีโอปลอม. ChatGPT เป็นแชทบอท AI ที่พัฒนาโดย Microsoft ซึ่งเป็น OpenAI ที่ได้รับการสนับสนุนซึ่งช่วยให้ผู้ใช้สร้างการตอบสนองตามคำแนะนำและคำถามของผู้ใช้ แก๊งดังกล่าวได้ซื้อบัญชีวิดีโอจำนวนหนึ่งอย่างผิดกฎหมายตั้งแต่เดือนพฤษภาคม 2023 เพื่อใช้ ChatGPT เพื่อสร้างวิดีโอปลอม
การแบน ChatGPT ของจีน
มีรายงานว่าหน่วยงานกำกับดูแลของจีนได้รายงานว่า จำกัดการเข้าถึง ChatGPT อย่างไรก็ตาม บริษัทเทคโนโลยีและโรงเรียนในจีนต่างผลักดันการพัฒนาบอท AI ในประเทศ ChatGPT ไม่มีให้บริการอย่างเป็นทางการในประเทศจีน ซึ่งรัฐบาลดำเนินการไฟร์วอลล์โดยละเอียดและการเซ็นเซอร์อินเทอร์เน็ตที่เข้มงวด แต่หลายคนเข้าถึงผ่าน VPN นอกจากนี้ นักพัฒนาบุคคลที่สามบางรายได้ผลิตโปรแกรมที่ให้การเข้าถึงบริการบางส่วน การค้นหา ChatGPT บนแพลตฟอร์มจีนไม่แสดงผลลัพธ์อีกต่อไป อย่างไรก็ตาม โปรแกรมแก้ปัญหาชั่วคราวถูกปิดใช้งานหรือถูกแทนที่ด้วยข้อความแจ้งว่าถูกระงับเนื่องจาก”ละเมิดกฎหมายและข้อบังคับที่เกี่ยวข้อง”
การห้ามใช้ ChatGPT ในจีนไม่ใช่เรื่องน่าแปลกใจ เนื่องจากประเทศในเอเชียค่อนข้างเข้มงวดกับกฎหมาย รัฐบาลจีนปราบปรามการโฆษณาชวนเชื่อทางการเมืองและข้อมูลที่ผิด ตามรายงาน พวกเขามองว่าความสามารถของ ChatGPT ในการสร้างข้อความเป็นภัยคุกคามต่อการควบคุมการไหลของข้อมูล
กรณีของการฉ้อโกงวิดีโอ ChatGPT
หลังจากการสืบสวน ตำรวจ Shaoxing พบว่าแก๊งดังกล่าวซื้อบัญชีวิดีโอจำนวนมากอย่างผิดกฎหมายตั้งแต่เดือนพฤษภาคม 2566 เพื่อใช้ ChatGPT เพื่อสร้างวิดีโอปลอม ตำรวจไม่ได้ให้รายละเอียดเกี่ยวกับเนื้อหาของวิดีโอปลอมหรือวิธีการใช้วิดีโอดังกล่าว อย่างไรก็ตาม นี่ไม่ใช่ครั้งแรกที่มีการใช้ ChatGPT เพื่อสร้างข่าวปลอมในจีน ในเดือนพฤษภาคม 2023 ตำรวจจีนจับกุมชายคนหนึ่งที่ใช้ ChatGPT เพื่อสร้างข่าวปลอมเกี่ยวกับรถไฟชนกัน นี่เป็นหนึ่งในการดำเนินการบังคับใช้ครั้งแรกภายใต้กฎหมายจีนที่เพิ่งบังคับใช้ซึ่งควบคุม”ของปลอม”ที่สร้างโดย AI — ภาพดิจิทัล วิดีโอ หรือสื่ออื่นๆ ที่ดูเหมือนจริงแต่ประดิษฐ์ขึ้น
ตามรายงานของตำรวจจากทางตะวันตกเฉียงเหนือ มณฑลกานซู่ของจีน ชายคนหนึ่งระบุชื่อได้เพียงนามสกุลว่า หง ใช้ ChatGPT เพื่อสร้างบทความข่าวปลอมเกี่ยวกับอุบัติเหตุที่คาดว่าจะนำไปสู่การเสียชีวิตของคนงานก่อสร้าง 9 คนในกานซู เรื่องนี้กลายเป็นไวรัลและแม้แต่แหล่งข่าวที่ถูกต้องก็ถูกหลอกโดยเรื่องปลอม
หน่วยตำรวจรักษาความปลอดภัยทางไซเบอร์ในท้องถิ่นได้รับการแจ้งเตือนถึงบทความเกี่ยวกับรถไฟชนกัน ซึ่งเผยแพร่เมื่อวันที่ 25 เมษายน จากนั้นจึงส่งการสอบสวนไปยัง วัตถุ. ฮงยอมรับว่าเขาใช้ ChatGPT สร้างข่าวปลอมเกี่ยวกับรถไฟขัดข้องก่อนจะโพสต์ออนไลน์ การจับกุม Hong ถือเป็นการควบคุมตัวครั้งแรกนับตั้งแต่กฎระเบียบใหม่ของจีนเกี่ยวกับ Deep Fake Tech มีผลบังคับใช้ในเดือนมกราคม กฎหมายมีเป้าหมายเพื่อป้องกันการใช้เทคโนโลยีในทางที่ผิดที่สามารถเปลี่ยนแปลงข้อมูลใบหน้าและเสียงได้ และแม้ว่า ChatGPT ถูกแบนในจีน แต่ก็มีวิธีแก้ปัญหา เช่น เครือข่ายส่วนตัวเสมือน
Gizchina News of the week
ตำรวจจีนทลายแก๊งข่าวลือ
นอกจากนี้ เมื่อวันที่ 2 มิถุนายน ตำรวจซ่างหยูยังพบในระหว่างการสืบสวนออนไลน์ว่าผู้ใช้แอปชื่อ”Shangyi Explanation ” เผยแพร่วิดีโอเกี่ยวกับไฟไหม้ในสวนอุตสาหกรรม Shangyu จำนวนการดูวิดีโอเพิ่มขึ้นอย่างรวดเร็วในช่วงเวลาสั้นๆ ตำรวจตรวจสอบวิดีโออีกครั้งและพบว่าเป็นข่าวปลอม ตำรวจ Shangyu ยังพบกลุ่มเทคโนโลยีในจังหวัดอื่นที่เชื่อมโยงกับอาชญากรรม เมื่อวันที่ 5 มิถุนายน ตำรวจเร่งไปที่จังหวัดอื่นและจับกุมผู้ต้องสงสัยได้ 3 คน
หลังจากการสืบสวน กลุ่มแก๊งพีอาร์ได้บัญชีวิดีโอจำนวนหนึ่งจากอินเทอร์เน็ตอย่างผิดกฎหมายตั้งแต่เดือนพฤษภาคม มันประกบวิดีโอและสร้างวิดีโอปลอมผ่านเทคโนโลยี ChatGPT เพื่อเผยแพร่เครือข่ายเพื่อรับปริมาณการใช้งาน การจราจรนำไปสู่ผลกำไรสำหรับกลุ่ม จนถึงตอนนี้ แก๊งดังกล่าวได้ซื้อบัญชีวิดีโออย่างผิดกฎหมายมากกว่า 1,500 บัญชี และปล่อยวิดีโอปลอมมากกว่า 3,000 วิดีโอ ผู้ต้องสงสัยที่ถูกจับกุมได้สารภาพว่าเป็นผู้ก่ออาชญากรรม แต่ตำรวจยังคงสอบสวนเพิ่มเติมเพื่อหาผู้ต้องสงสัยเพิ่มเติม
การถกเถียงเกี่ยวกับกฎระเบียบของ AI
การห้ามใช้ ChatGPT ในประเทศจีนและความกังวลเกี่ยวกับความถูกต้องได้จุดประกาย การอภิปรายเกี่ยวกับกฎระเบียบของ AI ในเดือนมกราคม พ.ศ. 2566 Cyberspace Administration of China ได้ออกกฎระเบียบใหม่เพื่อควบคุมการใช้เทคโนโลยี AI Garante หน่วยงานคุ้มครองข้อมูลของอิตาลีสั่งแบน ChatGPT ซึ่งเป็นแชทบอทที่ใช้ AI เพื่อสร้างข้อความที่ดูเหมือนว่าสร้างขึ้นโดยมนุษย์และเกมคอมพิวเตอร์ชั่วคราว
สุนัขเฝ้าบ้านไม่กังวลกับ การใช้ AI มากกว่าการละเมิดกฎหมายคุ้มครองข้อมูล จากนั้น Garante บอกกับบริษัทที่ได้รับการสนับสนุนจาก Microsoft Corp ซึ่งอยู่เบื้องหลัง ChatGPT, OpenAI ว่าจะต้องมีความโปร่งใสมากขึ้นกับผู้ใช้เกี่ยวกับวิธีการประมวลผลข้อมูลของพวกเขา นอกจากนี้ยังกล่าวด้วยว่า บริษัท สหรัฐต้องได้รับอนุญาตจากผู้ใช้สำหรับผู้ใช้บางราย หากจะใช้ข้อมูลผู้ใช้เพื่อพัฒนาซอฟต์แวร์ต่อไป จะต้องได้รับอนุญาตจากผู้ใช้ นอกจากนี้ยังระบุว่า OpenAi ต้องกรองการเข้าถึงคุณลักษณะนี้สำหรับผู้เยาว์
คำสุดท้าย
กรณีของการฉ้อโกงวิดีโอ ChatGPT เผยให้เห็นถึงความจำเป็นในการควบคุมและควบคุมเทคโนโลยี AI ในประเทศจีน. แม้ว่า ChatGPT จะเป็นเครื่องมือที่มีประโยชน์ในการสร้างการแชทตามคำแนะนำและคำถามของผู้ใช้ แต่ก็สามารถใช้สร้างข่าวปลอมและวิดีโอได้เช่นกัน รัฐบาลจีนกำลังทำงานเพื่อควบคุมและควบคุมการใช้เทคโนโลยี AI รวมถึง ChatGPT เนื่องจากเทคโนโลยีมีความก้าวหน้ามากขึ้น การปราบปรามแก๊งที่ใช้ ChatGPT เพื่อสร้างวิดีโอปลอมเป็นขั้นตอนในทิศทางที่ถูกต้องเพื่อให้มั่นใจว่าใช้เทคโนโลยี AI อย่างมีความรับผิดชอบและมีจริยธรรม
การปลอมแปลงลึก ๆ ที่สร้างโดย AI จึงมีอันตรายอยู่เสมอ จำเป็นต้องมีการควบคุมการใช้เทคโนโลยี AI เนื่องจากความนิยมของ ChatGPT เพิ่มขึ้นอย่างต่อเนื่อง มีแนวโน้มว่าเราจะเห็นกรณีการฉ้อโกงและการใช้งานในทางที่ผิดมากขึ้น ของปลอมเหล่านี้สามารถส่งผ่านเสียง วิดีโอ หรือรูปภาพจริงได้อย่างง่ายดาย ดังนั้นจึงเป็นเรื่องสำคัญมากที่ผู้ใช้จะต้องระมัดระวังและรายงานกิจกรรมที่น่าสงสัยต่อหน่วยงานที่เกี่ยวข้อง
ที่มา/VIA: