Детектор з нуля
Коли готові відкриті моделі не пройшли бар’єр, ми навчили власний класифікатор. Хибнопозитивні спрацювання на студентських есе впали з 16.7% до 0.5%.
Детектор, який ми навчили з нуля: AUC 0,970 і 0% хибних спрацювань на есеях TOEFL.
Щоб визначити, людина чи машина написала текст, ми навчили детектор, опублікували дослідження й виміряли, де детектори помиляються.
Спрощена версія висновку нашої статті: текст LLM самоподібніший за людський, із рівномірнішою довжиною речень. Тут це обчислено за допомогою векторів слів; у дослідженні ми використовували ембедінги речень.
Коли готові відкриті моделі не пройшли бар’єр, ми навчили власний класифікатор. Хибнопозитивні спрацювання на студентських есе впали з 16.7% до 0.5%.
Ми застосували до тексту матрицю самоподібності з музики. Текст LLM виявляється когерентнішим за людський і суттєво доповнює класичні міри.
Чи будують автори несподіванку, як музичну арку? Добре контрольована відповідь: ні. Справжній сигнал у рівні та рівномірності; міра, що переживає атаки парафразуванням, це burstiness.
Чи зберігаються числа, цитати та зміст у переписаному академічному абзаці? Ми вимірюємо речення за реченням. Шар захисту цитат скоротив кількість вигадок приблизно на 30%.