OpenAI เปิดตัวเครื่องมืออย่างเป็นทางการเพื่อระบุข้อความที่สร้างขึ้นโดย AI ค้นหารายละเอียดที่นี่

นับตั้งแต่เปิดตัว ChatGPT และคู่แข่ง ความคิดเห็นเกี่ยวกับแชทบอท AI ก็แตกแยกกัน ในขณะที่บางคนรู้สึกว่ามันสำคัญและประหยัดเวลา แต่ก็มีอีกสองสามคนที่กังวลเกี่ยวกับผู้คนที่ใช้ AI เพื่อเผยแพร่ข้อมูลที่ผิดและลอกเลียนแบบงาน OpenAI บริษัทที่อยู่เบื้องหลัง ChatGPT บอทไวรัส AI และโปรแกรมสร้างข้อความเป็นรูปภาพ DALL-E ได้เปิดตัวเครื่องมือ AI Classifier ใหม่เพื่อระบุข้อความที่เขียนโดย AI ในข่าวประชาสัมพันธ์อย่างเป็นทางการ รายละเอียดของ OpenAI วิธีฝึกตัวแยกประเภท ข้อจำกัด และเมตริกอื่นๆ ตรวจสอบรายละเอียดทั้งหมดด้านล่าง

ตัวแยกประเภทของ OpenAI แยกข้อความ AI ออกจากการเขียนของมนุษย์

ในข่าวประชาสัมพันธ์ล่าสุด บริษัทได้ให้รายละเอียดว่าเครื่องมือแยกประเภท AI ใหม่นี้มีไว้เพื่อช่วยให้ผู้คนระบุข้อความ AI ได้อย่างไร เครื่องมือดังกล่าวทำได้โดยการรับข้อมูลจากผู้ใช้แล้วเรียกใช้ผ่านข้อมูลที่ผ่านการฝึกอบรมเพื่อจัดประเภทเป็น AI หรือเนื้อหาที่มนุษย์สร้างขึ้น

AI Classifier เป็นโมเดลภาษาและได้รับการฝึกอบรมในชุดข้อมูลที่ ประกอบด้วยคู่ของข้อความที่เขียนโดยมนุษย์และ AI ในหัวข้อเดียวกัน OpenAI ตั้งข้อสังเกตว่าข้อมูลของมนุษย์ได้รับการรวบรวมจากแหล่งต่าง ๆ ที่พวกเขาเชื่อว่าเขียนโดยมนุษย์ ข้อความนี้ถูกแบ่งออกเป็นข้อความแจ้งและคำตอบซึ่งข้อความ AI ถูกสร้างขึ้นเพื่อรวบรวมชุดข้อมูลทั้งหมด

ตัวจําแนกของ AI ยังไม่น่าเชื่อถือเต็มที่

แม้ว่าเครื่องมือใหม่นี้จะช่วยให้ชีวิตของเราง่ายขึ้น (โดยเฉพาะครูและอาจารย์) เมื่อพูดถึง AI บริษัทก็ระบุไว้อย่างชัดเจน ตัวแยกประเภท AI ไม่น่าเชื่อถืออย่างสมบูรณ์ และมีแนวโน้มที่จะเกิดข้อผิดพลาด ในการประเมินภายในของบริษัท classier ระบุข้อความ 26% ที่เขียนโดย AI อย่างถูกต้องว่า”น่าจะเขียนโดย AI”

นอกจากนี้ยังระบุว่า 9% ของข้อความมนุษย์เขียนโดย AI อย่างไม่ถูกต้อง แม้ว่าระยะขอบของข้อผิดพลาดจะค่อนข้างต่ำ แต่เห็นได้ชัดว่าตัวแยกประเภทไม่สามารถป้องกันความผิดพลาดได้ นอกจากนี้ OpenAI ยังกล่าวอีกว่ามันไม่น่าเชื่อถือสำหรับข้อความสั้น ๆ ที่มีความยาวต่ำกว่า 1,000 ตัวอักษร

“ตัวแยกประเภทของเรามีข้อจำกัดที่สำคัญหลายประการ ไม่ควรใช้เป็นเครื่องมือหลักในการตัดสินใจ แต่ใช้เป็นส่วนเสริมของวิธีการอื่นๆ ในการพิจารณาแหล่งที่มาของข้อความ” OpenAI

เครื่องมือนี้มีข้อจำกัดอื่นๆ บางประการ รวมถึงการรองรับเฉพาะอินพุตภาษาอังกฤษ ความยากในข้อความที่คาดเดาได้ และการปรับเทียบที่ไม่ดีนอกข้อมูลการฝึกอบรม ด้วยเหตุผลเหล่านั้นและอื่น ๆ อีกมากมาย จึงไม่ควรใช้ตัวแยกประเภท AI ใหม่นี้เป็นเครื่องมือหลักในการตัดสินใจในตอนนี้ อย่างไรก็ตาม เมื่อเวลาผ่านไป เราสามารถคาดหวังการปรับปรุงเมื่อมีการป้อนข้อมูลเข้าไปมากขึ้น

ตัวจำแนกประเภท OpenAI มีประโยชน์อย่างไรในการทดสอบของเรา

ตัวแยกประเภทข้อความ AI ของ OpenAI (ลิงค์เว็บไซต์) เป็นเครื่องมือออนไลน์ที่ใช้งานได้ฟรี ดังนั้นเราจึงตัดสินใจที่จะใช้มันเพื่อปั่นสั้น ๆ และมันก็ทำงานได้ดีตามที่คุณคาดหวังในขั้นตอนนี้ ฉันทดสอบบทความต่างๆ ที่มีความยาวปานกลางจากเว็บไซต์ของเรา รวมข่าวและบทความสารคดีเหล่านี้ หลังจากวางข้อความและเรียกใช้เครื่องมือ เราได้รับคำตอบว่า “ตัวแยกประเภทพิจารณาว่าข้อความนั้นไม่น่าเป็นไปได้ที่ AI สร้างขึ้น”

เพื่อทดสอบว่ามันทำงานได้ดีเพียงใด ฉันให้ ChatGPT เขียนเรื่องสั้นและใช้ตัวแยกประเภทเพื่อดูว่าสามารถระบุได้ว่าเรื่องราวนั้นเขียนโดยพี่น้อง AI ของตัวเองหรือไม่ โชคดีที่มันแสดงการตอบกลับว่าข้อความนั้น “น่าจะสร้างโดย AI” ฉันลองแบบเดียวกันกับข้อความอื่นๆ เช่น The Merchant of Venice โดย Shakespeare และ AI ตรวจพบการมีส่วนร่วมของ AI ที่ไม่น่าเป็นไปได้

ตามที่กล่าวไว้ข้างต้น OpenAI Classifier ควรดีขึ้นเมื่อชุดข้อมูลเพิ่มขึ้น อย่างไรก็ตาม แม้ว่าจะเป็นเช่นนั้น คุณก็สามารถใช้เครื่องมือและสนุกไปกับมันได้ คุณคิดอย่างไรกับตัวตรวจจับข้อความ AI คุณรู้สึกว่าสิ่งเหล่านี้มีความจำเป็นในปี 2566 หรือไม่? วางสองเซ็นต์ของคุณในความคิดเห็นด้านล่าง

แสดงความคิดเห็น