Sıfırdan dedektör
Hazır açık modeller kapıyı geçemeyince kendi sınıflandırıcımızı eğittik. Öğrenci yazılarında yanlış pozitif %16,7'den %0,5'e indi.
Sıfırdan eğittiğimiz dedektör: AUC 0,970, TOEFL yazılarında %0 yanlış pozitif.
Bir metni insanın mı makinenin mi yazdığını anlamak için dedektör eğittik, araştırma yayımladık ve dedektörlerin nerede yanıldığını ölçtük.
Makalemizdeki bulgunun basit hali: LLM metni insandan daha öz-benzer, cümle uzunlukları daha tekdüze. Burada kelime vektörleriyle hesaplanıyor; araştırmada cümle gömüleri kullandık.
Hazır açık modeller kapıyı geçemeyince kendi sınıflandırıcımızı eğittik. Öğrenci yazılarında yanlış pozitif %16,7'den %0,5'e indi.
Müzikteki öz-benzerlik matrisini metne taşıdık. LLM metni insandan fazla ahenkli çıkıyor ve klasik ölçütlere anlamlı katkı veriyor.
Yazarlar sürprizi bir müzik yayı gibi mi kuruyor? İyi kontrollü bir hayır. Asıl sinyal seviye ve tekdüzelikte; paraphrase saldırısına dayanan ölçü ise burstiness.
Yeniden yazılan akademik paragrafta sayı, atıf ve anlam korunuyor mu? Cümle cümle ölçüyoruz. Atıf koruma katmanı uydurmayı yaklaşık %30 azalttı.