ตัวตรวจจับที่สร้างจากศูนย์
เมื่อโมเดลเปิดสำเร็จรูปผ่านด่านไม่ได้ เราจึงฝึกตัวจำแนกของเราเอง ผลบวกลวงบนเรียงความของนักเรียนลดลงจาก 16.7% เหลือ 0.5%
ตัวตรวจจับที่เราเทรนเองตั้งแต่ต้น: AUC 0.970 และผลบวกลวง 0% กับเรียงความ TOEFL
เพื่อบอกว่าข้อความถูกเขียนโดยมนุษย์หรือเครื่อง เราฝึกตัวตรวจจับ เผยแพร่งานวิจัย และวัดว่าตัวตรวจจับผิดพลาดตรงจุดใด
เวอร์ชันง่ายของข้อค้นพบในบทความวิจัยของเรา ข้อความจาก LLM มีความคล้ายคลึงในตัวเองมากกว่าข้อความมนุษย์ และความยาวประโยคสม่ำเสมอกว่า ที่นี่คำนวณด้วยเวกเตอร์คำ ส่วนในงานวิจัยเราใช้เอ็มเบดดิงระดับประโยค
เมื่อโมเดลเปิดสำเร็จรูปผ่านด่านไม่ได้ เราจึงฝึกตัวจำแนกของเราเอง ผลบวกลวงบนเรียงความของนักเรียนลดลงจาก 16.7% เหลือ 0.5%
เรานำเมทริกซ์ความคล้ายคลึงในตัวเองของดนตรีมาใช้กับข้อความ ข้อความจาก LLM ออกมาสอดคล้องต่อเนื่องกว่าข้อความมนุษย์ และเพิ่มคุณค่าให้กับมาตรวัดแบบดั้งเดิมได้อย่างมีนัยสำคัญ
ผู้เขียนสร้างความประหลาดใจเป็นส่วนโค้งแบบดนตรีหรือไม่ คำตอบที่ผ่านการควบคุมอย่างดีคือไม่ สัญญาณจริงอยู่ที่ระดับและความสม่ำเสมอ ส่วนมาตรวัดที่ทนต่อการโจมตีด้วยการเรียบเรียงใหม่ได้คือความกระจุกตัวเป็นช่วง (burstiness)
ย่อหน้าวิชาการที่เขียนใหม่ยังคงตัวเลข การอ้างอิง และความหมายไว้ครบหรือไม่ เราวัดทีละประโยค ชั้นป้องกันการอ้างอิงช่วยลดการแต่งข้อมูลเท็จได้ประมาณ 30%