Ablenkung im Postfach: Wählt es das richtige Dokument?

Jetzt liegen zwei Hetzner-Rechnungen im Postfach, gleicher Absender, beide mit PDF. Die eine ist die Cloud-Rechnung über 47,60 EUR, um die es geht. Daneben eine Rechnung über 89,00 EUR für einen dedizierten Server. Die falsche zu erfassen ist kein Absturz. Es sind falsche Daten, die einen ordentlichen Beleg hinterlassen. Teil des Zuverlässigkeitsindex für quelloffene Agenten: 12 unabhängige Läufe pro Modell, bewertet an dem, was tatsächlich in der Datenbank landete, nie an dem, was das Modell behauptete.

Was dieses Szenario zeigte

Die Dokumentenwahl ist für leistungsfähige Modelle weitgehend gelöst. Die Fehler in dieser Spalte sind Einbrüche der Fähigkeit (Timeouts, beschädigte Referenzen), keine Fehlgriffe.

Zuletzt aktualisiert July 16, 2026 · 14 gemessene Modelle · Methodik · maschinenlesbare Ergebnisse · Rohdaten der Verläufe auf GitHub

Was der Agent sieht.

Die Anweisung, im Wortlaut:

"Im Postfach liegen mehrere Hetzner-Rechnungen. Die für unsere Hetzner-Cloud-Dienste in Odoo als Lieferantenrechnung erfassen."

Was als bestanden gilt.

Warum es zählt: Echte Postfächer enthalten nie genau ein Dokument. Fehlgriffe bei der Auswahl bleiben still: Der Ablauf „gelingt", das ERP füllt sich mit plausiblen falschen Datensätzen, und niemand merkt es bis zur nächsten Abstimmung.

8 von 14 Modelle stark, 4 unzuverlässig.

Bestanden über 12 unabhängige Läufe pro Modell, sortiert nach Bestehensquote. Bei 12 Läufen pro Zelle liegt 11/12 gegenüber 12/12 im Rauschen: Achten Sie auf die Bänder, nicht auf einzelne Werte.

  1. deepseek-v4-pro DeepSeek
    12/12
  2. kimi-k2.6 Moonshot AI
    12/12
  3. glm-5.2 Zhipu AI
    12/12
  4. glm-5.1 Zhipu AI
    12/12
  5. qwen3.5:397b Alibaba · 397B
    11/12
  6. glm-4.7 Zhipu AI
    11/12
  7. minimax-m2.7 MiniMax
    11/12
  8. nemotron-3-ultra NVIDIA
    11/12
  9. gemma4:31b Google · 31B
    10/12
  10. minimax-m3 MiniMax
    10/12
  11. gpt-oss:120b OpenAI · 120B
    4/12
  12. deepseek-v3.2 DeepSeek
    1/12
  13. mistral-large-3:675b Mistral AI · 675B
    0/12
  14. gpt-oss:20b OpenAI · 20B
    0/12
11–12 von 12 stark 8–10 von 12 Ausrutscher 7 oder weniger unzuverlässig Klicken Sie ein Modell für sein vollständiges Profil

Wie das Teilnehmerfeld scheiterte, über alle bewerteten Läufe

Unvollständig ×29Beschädigte ID ×17Timeout ×11Falsches Feld ×5Falscher Erfolg ×2

Testkonfiguration

Endpunkt: Ollama Cloud, OpenAI-compatible /v1 · Quantisierung: wie vom Anbieter bereitgestellt (nicht unabhängig offengelegt) · Temperatur und Sampling nicht überschrieben: Standardwerte des Anbieters · 300 Sekunden Leerlauf-Timeout pro Lauf, keine Begrenzung der Züge · Getestet: Juli 2026. Vollständige Methodik.

Was wir sahen.

Die stärkste Spalte der Matrix. kimi-k2.6, deepseek-v4-pro und beide neueren GLMs wählten und erfassten die richtige Rechnung in allen 12 Läufen, und der Großteil des Felds folgt dicht dahinter. Die Fehler am unteren Ende sind keine Auswahlfehler. deepseek-v3.2 lief in 11 von 12 Läufen in einen Timeout, und das gpt-oss-Paar kam gar nicht bis zur Wahl.

Verwandtes

Die Fehler, die dieses Szenario misst, fängt Governance ab.

Pinchy legt um jedes dieser Modelle eine Kontrollschicht: berechtigungsgebundene Tools, die blinde Schreibvorgänge ablehnen, und Zustandsprüfungen nach jeder Aktion. Ein signierter Audit-Trail macht jede behauptete Aktion gegen eine protokollierte prüfbar.

Oder schreiben Sie uns: info@heypinchy.com