Detektor fra bunden
Da færdige åbne modeller ikke kunne bestå porten, trænede vi vores egen klassifikator. Falske positiver på studerendes essays faldt fra 16.7% til 0.5%.
Detektoren, vi trænede fra bunden: AUC 0,970 og 0 % falske positive på TOEFL-opgaver.
For at afgøre, om et menneske eller en maskine har skrevet en tekst, trænede vi en detektor, publicerede forskning og målte, hvor detektorer går galt.
En enkel udgave af vores artikels fund: LLM-tekst ligner mere sig selv end menneskeskrevet tekst, med mere ensartede sætningslængder. Her er det beregnet med ordvektorer; i forskningen brugte vi sætningsembeddings.
Da færdige åbne modeller ikke kunne bestå porten, trænede vi vores egen klassifikator. Falske positiver på studerendes essays faldt fra 16.7% til 0.5%.
Vi tog musikkens selvsimilaritetsmatrix med over til tekst. LLM-tekst viser sig mere sammenhængende end menneskeskrevet tekst og tilfører de klassiske mål noget meningsfuldt.
Opbygger skribenter overraskelse som en musikalsk bue? Et velkontrolleret nej. Det egentlige signal ligger i niveau og ensartethed; det mål, der overlever parafraseangreb, er burstiness.
Bevares tal, citater og mening i et omskrevet akademisk afsnit? Vi måler sætning for sætning. Et beskyttelseslag for citater skar opdigtning ned med omkring 30%.