MIHCI AI STUDIOS DE Über uns Kontakt
← Alle Arbeiten

Atlas

Ein lokaler Agent, der aus eigenen Fehlern lernt; er bestand seine Prüfung mit 53 Aufgaben mit 53 von 53.

Ein Agent, der aus seinen eigenen Fehlern lernt. Er läuft mit einem lokalen Modell auf dem Rechner dieses Studios, nutzt das Internet und Dateien und prüft jeden Lauf anhand von Belegen. Keine Änderung, ob von einem Menschen oder vom Agenten geschrieben, wird ohne Passieren der Messschranke akzeptiert.

  • Lokales Agenten-Setup
  • Erfindungsschranke
  • Gepaarte Messschranke
  • Aufgabenpool und Prüfung
  • Modell je nach Aufgabentyp
  • Regressionsdetektor
53/53Prüfung; 5/5 auch auf dem zurückgehaltenen Ankersatz
10akzeptierte Verbesserungen, jede vor und nach der Änderung gemessen
260+echte Läufe, davon 207 von Menschen gelabelt
−29%Token bei aufwendigen Aufgaben, bei unveränderten Ergebnissen
Annahmeregister · vorher und nachher○ vorher · ● nachher
LäuftKein Modellaufruf
Atlas

Erfindungsschranke

Prüft jeden Lauf: Jeder Wert in der Antwort muss in einer Tool-Ausgabe vorkommen, die der Agent nicht selbst geschrieben hat. Zählen und Summieren über lokale Dateien muss ein Befehl berechnen.

Belegprüfungin der Schleife
LäuftGepaarte Messung
Atlas

Annahmeschranke

Eine Änderung muss entweder einen bekannten Fehler beheben oder Token einsparen, ohne ein Ergebnis zu verändern. Ein zurückgehaltener Ankersatz fängt die Überanpassung an die Prüfung ab.

Prüfung mit 53 AufgabenAnker mit 5 Aufgaben
Angenommen22. September
Atlas

Modell je nach Aufgabentyp

Daten- und Shell-Aufgaben gehen an Qwen 27B dense, Web- und Code-Aufgaben an Qwen 35B MoE. Die Fehler der beiden Modelle überschnitten sich überhaupt nicht; die Prüfung stieg von 40/47 auf 47/47, der Tokenverbrauch sank um 10%.

Mac mini · 48 GBlokal

Möchten Sie etwas Ähnliches?

Schreiben Sie unsAlle Arbeiten