--- name: run-experiment description: Führt einen Versuchs-Prompt aus einer Prompt-Datei als messbaren Headless-Lauf mit Claude Code, Codex CLI oder dem Python-API-Adapter (GLM/Kimi) aus und schreibt ein Messprotokoll mit Start-/Endzeit, Modell, Tokenverbrauch und weiteren Metriken. Verwenden bei "/run-experiment " oder wenn der User einen Versuch/ein Experiment ausführen und tracken will. argument-hint: version: 8.0.0 --- # RunExperiment – Versuchslauf mit Messprotokoll Du führst einen wissenschaftlichen Versuchslauf für die Masterarbeit aus. Der Prompt aus der übergebenen Datei wird als **separater Headless-Lauf** über den zum Modell passenden Werkzeugadapter ausgeführt, damit Tokenverbrauch und Modell maschinenlesbar erfasst werden. Anschließend schreibst du ein Messprotokoll neben die Prompt-Datei. ## Parameter - **Prompt** (Pflicht): Pfad zur Prompt-Datei (Markdown). Erstes Argument in `$ARGUMENTS`. - **Root** (Pflicht): Verzeichnis, das als Root des Versuchslaufs dient. Zweites Argument. Es ist die Wurzel der zu analysierenden Codebasis und wird nur GELESEN. Der Codex-Adapter erstellt daraus ein isoliertes temporäres Arbeitsabbild; andere Adapter starten unmittelbar mit diesem Root als Arbeitsverzeichnis. Fehlt das Argument: den User danach fragen und NICHT stillschweigend das aktuelle Verzeichnis verwenden. Vor dem Lauf prüfen, dass das Verzeichnis existiert; sonst abbrechen und den User informieren. - **Modell** (Pflicht, **kein Default**): Wird **vor jedem Lauf beim User erfragt** – siehe Schritt 4 im Ablauf. Nennt der User das Modell bereits im Aufruf („… mit Opus 5"), diese Angabe übernehmen und **nicht** erneut fragen. Ohne Angabe niemals stillschweigend ein Modell wählen: Das Modell ist eine unabhängige Variable der Versuchsreihe. - **Agentenmodus** (Pflicht, **kein Default**): Wird wie das Modell **vor jedem Lauf beim User erfragt** – siehe Schritt 5 im Ablauf. Bestimmt, ob und welche Subagenten der Lauf einsetzen darf. Drei Modi: `solo`, `builtin`, `custom` (Details in Schritt 5). - **Effort** (Pflicht, **kein Default**): Denkaufwand des Modells. Wird wie Modell und Agentenmodus **vor jedem Lauf beim User erfragt** – siehe Schritt 6. Alle Ausgaben des Laufs (Ergebnisdateien, Messprotokoll, Rohdaten) landen in einem **neuen Laufverzeichnis neben der Prompt-Datei**, niemals im Root-Verzeichnis: ``` \ _Prompt.md \\\\ _Lauf__v-\ Protokoll.md RawResult.json (adapterübergreifend normalisierte Messdaten) RawEvents.jsonl (nur Codex: unveränderter JSONL-Ereignisstrom) Stderr.log _meta\ (Laufsteuerung: combined_prompt.md, before.txt, after.txt, Zeitstempel, subagenten.md/.json, anforderungen.md/.json) Ergebnisse\ (NUR vom Prompt erzeugte Artefakte, z. B. StRS.md, SyRS.md, ...) ``` **Die unabhängigen Variablen bilden die Ordnerebenen, nicht den Dateinamen:** - `` – `Iteration 1`, `Iteration 2`, … fortlaufend. Die Ebene hält Blöcke auseinander, die unter unterschiedlichem Stand des Versuchsaufbaus **oder des Untersuchungsgegenstands** entstanden sind. **Vor dem Anlegen die höchste vorhandene Iteration ermitteln** und entscheiden, ob der Lauf dazugehört oder eine neue Iteration eröffnet – im Zweifel den User fragen. Eine neue Iteration ist zu eröffnen, wenn sich etwas ändert, das Läufe **nicht mehr poolbar** macht: der Codebasis-Snapshot, die Prompt-Version, die Werkzeugkonfiguration oder eine MAJOR-Version dieses Skills. Reine PATCH- und MINOR-Änderungen begründen keine neue Iteration. **Abgrenzung zur Prompt-Version.** `` meint die *Versuchs*iteration – eine Menge poolbarer Läufe. Die Fassung der Prompt-Datei heißt seit Version 4.4.0 durchgängig **Prompt-Version** (`01_Prompt.md` = Prompt-Version 01). Beides fällt nicht zusammen: Iteration 2 und Iteration 3 laufen beide unter Prompt-Version 02 und unterscheiden sich nur im Untersuchungsgegenstand. Die Ebene hieß bis Version 4.3.0 `` mit Werten `Tag 1`, `Tag 2`, …. Der Name band sie an das Kalenderdatum, obwohl sie die Vergleichbarkeit abbildet: Iteration 2 und Iteration 3 entstanden am selben Tag, unterscheiden sich aber im Untersuchungsgegenstand (Iteration 3 enthält den DB-Schema-Dump `SSMS_DB_SCHEMA.sql`, Iteration 2 nicht). Maßgeblich ist die Vergleichbarkeit, nicht das Datum. - `` – die an `--model` übergebene ID, z. B. `claude-sonnet-5`, `claude-opus-5`, `claude-fable-5` - `` – `solo`, `builtin` oder `custom` - `` – `low`, `medium`, `high`, `xhigh` oder `max` Der Verzeichnisname trägt nur noch, was den einzelnen Lauf identifiziert: - `` – Nummernpräfix der Prompt-Datei (z. B. `01` bei `01_Prompt.md`) - `` – Startzeit **sekundengenau** - `` – Version dieses Skills zum Startzeitpunkt, z. B. `v3.10.0` - `` – 4 Hexstellen Zufall; garantiert Eindeutigkeit auch bei gleichzeitigem Start **Warum Ordnerebenen statt Namensbestandteile:** Der Name wuchs mit jeder neuen unabhängigen Variable weiter und war mit fünf Bestandteilen kaum noch lesbar. Als Ordnerebenen sind die Bedingungen navigierbar, je Zelle abzählbar (`ls "///" | wc -l` ergibt unmittelbar die Anzahl der Messpunkte) und beim Hinzufügen einer weiteren Variable erweiterbar, ohne bestehende Namen zu brechen. Die Angaben sind **redundant zum Protokoll** – bei Widerspruch gilt das Protokoll. **Jeder Lauf ist vollständig selbstenthalten.** Sämtliche Steuerdateien liegen in `_meta\` **innerhalb** des Laufverzeichnisses – nicht im gemeinsamen Scratchpad. Das ist Voraussetzung für parallele Läufe (siehe „Parallele Läufe") und archiviert nebenbei den exakt gesendeten Prompt je Lauf. `Ergebnisse\` enthält ausschließlich die vom Prompt geforderten Artefakte. ## Aufbau dieses Skills Der Skill ist zweigeteilt: - **`## Prozess`** beschreibt werkzeugneutral, **was** je Lauf zu tun und zu erheben ist. Dieser Teil gilt unabhängig davon, mit welchem LLM oder welcher CLI gearbeitet wird. - **`## Werkzeugadapter`** beschreibt **wie** das mit einem konkreten Werkzeug umgesetzt wird. Ausgearbeitet sind Adapter für Claude Code, Codex CLI und den Python-API-Adapter (GLM/Kimi). Konkrete Flags und Rohfelder sind ausschließlich dem gewählten Adapterabschnitt zu entnehmen. **Arbeitsteilung mit der Prompt-Datei:** Der Prompt enthält ausschließlich die *Analyseanweisung* und ist damit von jedem LLM verwendbar. Alles Werkzeug- und Ablaufbezogene – verfügbare Werkzeuge, Ausgabeverzeichnis, Messgrößen – steuert dieser Skill bei und dokumentiert es im Protokoll. Die Prompt-Datei wird dabei **nie verändert**; ergänzende Blöcke werden nur an den per stdin übergebenen Text angehängt (siehe Schritt „Prompt zusammenstellen"). ## Prozess ### 1. Vorbereitung 1. **Prompt-Datei bestimmen und lesen.** Nennt der User eine Datei ausdrücklich, gilt diese. Andernfalls im Versuchsordner die **höchste Prompt-Versionsnummer** wählen (`02_Prompt.md` vor `01_Prompt.md`) und die getroffene Wahl im Abschlussbericht nennen. Existiert die Datei nicht: abbrechen und den User informieren. Die gewählte Datei wird mit Pfad **und** SHA-256 ins Protokoll übernommen. Ältere Prompt-Versionen bleiben unverändert liegen – sie sind der Beleg dafür, unter welcher Fassung frühere Läufe entstanden sind, und dürfen nicht nachträglich angepasst werden. 2. Aus dem Metadaten-Block der Prompt-Datei (falls vorhanden) Versuch/Prompt-Version übernehmen. 3. **Werkzeugadapter bestimmen und CLI-Pfad auflösen.** Die Modell-ID entscheidet eindeutig: `claude-*` verwendet Claude Code, OpenAI-IDs wie `gpt-*` oder `o*` verwenden Codex CLI, `z-ai/*` und `moonshotai/*` verwenden den Python-API-Adapter über den TensorX-Gateway. Keine Modell-ID an eine CLI übergeben, die sie nicht unterstützt. Unter Windows liegt `claude` in der Regel **nicht im PATH**. Erst `Get-Command claude -ErrorAction SilentlyContinue` versuchen; schlägt das fehl, auf die VSCode-Extension zurückfallen und die höchste Versionsnummer wählen: ```powershell $claude = (Get-Command claude -ErrorAction SilentlyContinue).Source if (-not $claude) { $claude = Get-ChildItem "$env:USERPROFILE\.vscode\extensions\anthropic.claude-code-*-win32-x64\resources\native-binary\claude.exe" | Sort-Object FullName | Select-Object -Last 1 -ExpandProperty FullName } ``` Für OpenAI-Modelle entsprechend `Get-Command codex -ErrorAction SilentlyContinue` verwenden; als Fallback die höchste VS-Code-Extension unter `$env:USERPROFILE\.vscode\extensions\openai.chatgpt-*-win32-x64\bin\windows-x86_64\codex.exe` wählen. Findet sich die benötigte ausführbare Datei nicht: abbrechen und den User informieren. Adapter und aufgelösten Pfad fürs Protokoll festhalten. 4. **Modell beim User erfragen.** Hat der User das Modell nicht bereits im Aufruf genannt, **immer** per `AskUserQuestion` nachfragen – auch dann, wenn frühere Läufe derselben Versuchsreihe ein bestimmtes Modell verwendet haben. Es gibt bewusst keinen Default. Als Optionen die vollen Modell-IDs anbieten, nicht die Kurzformen. Nur aktuell dokumentierte und von der installierten CLI angebotene IDs aufnehmen: | Modell-ID | Einordnung | |---|---| | `claude-opus-5` | stärkstes Modell, teuerster Lauf | | `claude-sonnet-5` | 1-Mio.-Kontextfenster, für große Codebasen meist ausreichend | | `claude-fable-5` | schnell und günstig | | `claude-haiku-4-5-20251001` | günstigstes Modell | | OpenAI-Modell-ID | Einordnung | |---|---| | `gpt-5.6-sol` | stärkstes Modell der GPT-5.6-Familie, 1.050.000 Kontexttokens | | `gpt-5.6-terra` | ausgewogenes Verhältnis aus Leistung und Verbrauch | | `gpt-5.6-luna` | schnelle und günstige GPT-5.6-Variante | | TensorX-Modell-ID | Einordnung | |---|---| | `z-ai/glm-5.2` | Z.AI GLM 5.2 über TensorX-Gateway | | `moonshotai/kimi-k3` | Moonshot Kimi K3 – 1-Mio.-Kontext, 2,8T Parameter | In der Frage den letzten verwendeten Stand nennen, damit der User bewusst wechseln oder bewusst wiederholen kann (z. B. „Lauf 3 lief mit `claude-sonnet-5`, 11.516.200 Tokens, 23:40"). **Niemals die Kurzformen `opus`, `sonnet`, `fable` an `--model` übergeben.** Sie lösen auf das jeweils neueste Modell auf und verschieben sich über die Zeit – damit wäre die Versuchsbedingung nicht reproduzierbar. Für ein 1-Mio.-Token-Fenster die Variante mit `[1m]`-Suffix wählen (z. B. `claude-opus-5[1m]`). Für OpenAI ebenfalls keine Familienaliase wie `gpt-5.6` verwenden. Die gewünschte Variante vollständig binden, beispielsweise `gpt-5.6-sol`. Vor einem Lauf die Modell-ID gegen die aktuelle offizielle OpenAI-Modelldokumentation und, soweit verfügbar, den lokalen `codex debug models`-Katalog prüfen. Weicht das gewählte Modell vom letzten Lauf ab, im Protokoll unter „Anmerkungen" als geänderte Versuchsbedingung vermerken und in der Änderungshistorie des Skills ergänzen. 5. **Agentenmodus beim User erfragen.** Wie beim Modell: kein Default, immer nachfragen, wenn der User den Modus nicht bereits im Aufruf genannt hat. Der Modus ist die zentrale Unterscheidung zwischen den Versuchen der Arbeit. | Modus | Versuch | Bedeutung | |---|---|---| | `solo` | **V1** | Ein Thread, ein Kontext. Der Lauf darf **keine** Subagenten starten. | | `builtin` | **V1b** | Eingebaute Subagenten erlaubt (`Explore`, `general-purpose`). | | `custom` | **V2** | Nur **vordefinierte, geprompte Agenten** aus `--agents`. | Flags je Modus – zusätzlich zur Standardkonfiguration aus Abschnitt 2: ```powershell switch ($modus) { 'solo' { $agentFlags = @('--disallowedTools','Task','Agent','Workflow') } 'builtin' { $agentFlags = @() } 'custom' { $agentFlags = @('--agents', (Get-Content $agentDatei -Raw)) } } ``` **Warum `Task`, `Agent` *und* `Workflow`:** Welchen Namen das Subagenten-Werkzeug in der jeweiligen CLI-Version trägt, ist nicht dokumentiert – im Binary von 2.1.245 kommen `Task` und `Agent` vor; beide zu sperren ist unschädlich, ein nicht existierender Name läuft ins Leere. `Workflow` orchestriert ebenfalls Subagenten und muss mitgesperrt werden: Im Verifikationstest (2026-08-25, CLI 2.1.245) wich der Agent nach der Sperre von `Task`/`Agent` **genau darauf** aus. Verifiziert wurden `spawned: 0`, die Antwort „KEINE SUBAGENTEN MOEGLICH" und ein Denial auf `Workflow`. Kontrolle nach dem Lauf: `subagent_stats.spawned` **muss** im Modus `solo` genau `0` sein – andernfalls hat die Sperre nicht gegriffen und der Lauf ist als Fehlmessung zu kennzeichnen. Im Modus `solo` sind **Permission-Denials auf `Task`/`Agent` erwartbar**, wenn der Agent zu delegieren versucht. Sie sind im Protokoll getrennt von sonstigen Denials auszuweisen und **nicht** als Einschränkung der Werkzeugkonfiguration zu werten – sie sind die Bedingung selbst. Für `custom` (V2): Die Agentendefinitionen liegen als JSON-Datei **neben der Prompt-Datei** (z. B. `Versuche/Versuch_02/02_Agents.json`), **nicht** im Codebasis-Snapshot. Sie werden wie der Prompt per SHA-256 gehasht und im Protokoll geführt. So bleibt der eingefrorene Snapshot unangetastet und die Agentenkonfiguration ist eine dokumentierte, versionierte Versuchsbedingung. Format siehe `claude --help` zu `--agents`. **Codex-Adapter ab Version 5.0.0:** ausschließlich `solo` ist freigegeben und wird doppelt mit `--disable multi_agent` sowie `-c agents.enabled=false` erzwungen. Bei `builtin` oder `custom` abbrechen und mitteilen, dass dieser Adaptermodus noch nicht verifiziert ist. Eine stillschweigende Annäherung an Claude-Agentendefinitionen wäre keine reproduzierbare Bedingung. 6. **Effort beim User erfragen.** Kein Default, immer nachfragen, wenn der User die Stufe nicht bereits im Aufruf genannt hat. Stufen: `low`, `medium`, `high`, `xhigh`, `max`. Übergabe bei Claude per `--effort `, bei Codex per `-c model_reasoning_effort=\"\"`. In der Frage den bisherigen Stand nennen. **Alle Läufe bis einschließlich Lauf B liefen auf `high`** – geerbt aus der Sitzungseinstellung, nicht bewusst gesetzt; der Wert wurde nachträglich aus den Transkripten belegt. Wer die Stufe wechselt, ändert die Versuchsbedingung und macht den Lauf mit den bisherigen unvergleichbar. **Claude-spezifisch:** Der Effort ist aus dessen `RawResult.json` nicht rekonstruierbar. Das Ergebnisobjekt enthält kein `effort`-Feld. Nur das Session-Transkript hält ihn je Nachricht fest (`"effort": "high"`). Fehlt er im Protokoll, ist die Bedingung nachträglich allein über das Transkript belegbar – und das nur, solange die Session persistiert ist. 7. Messgrößen VOR dem Lauf erfassen (PowerShell): - Startzeit: `Get-Date -Format o` - SHA-256 der Prompt-Datei: `(Get-FileHash -Algorithm SHA256).Hash` - Adapter und CLI-Version: `& $cli --version` - Git-Zustand des Root-Verzeichnisses: `git -C rev-parse HEAD` und `git -C status --porcelain -- ` (dirty ja/nein). **Immer pfadskopiert prüfen.** Liegt die Codebasis als Unterverzeichnis im Arbeitsrepo (seit Commit `f045b99a` der Fall, davor ein eigenes Repo per Gitlink), meldet ein unskopiertes `git -C status --porcelain` den Status des **gesamten** Arbeitsrepos – einschließlich aller Versuchsordner. Der Vorher/Nachher-Vergleich schlägt dann bei jedem Lauf falsch an. - Git-Commit dieses Repos (Stand der Prompt-Datei): `git rev-parse HEAD` 8. **Kollisionsfreies Laufverzeichnis anlegen.** Sekundengenau, mit Agentenmodus und Zufalls-ID; bei Namenskollision neu würfeln: ```powershell # Bedingungen werden Ordnerebenen, nicht Namensbestandteile # Iteration ermitteln: hoechste vorhandene Iteration, sonst 'Iteration 1' $iterationen = Get-ChildItem "" -Directory -Filter 'Iteration *' -EA SilentlyContinue | Sort-Object { [int]($_.Name -replace '\D','') } $iteration = if ($iterationen) { $iterationen[-1].Name } else { 'Iteration 1' } $zelle = Join-Path (Join-Path (Join-Path $iteration $modell) $modus) $effort $skillVer = 'v8.0.0' # entspricht version: im Frontmatter dieses Skills do { $id4 = '{0:x4}' -f (Get-Random -Maximum 65536) $lauf = Join-Path "\$zelle" "_Lauf_$(Get-Date -Format 'yyyy-MM-dd_HHmmss')_${skillVer}-$id4" } while (Test-Path $lauf) New-Item -ItemType Directory -Force "$lauf\Ergebnisse" | Out-Null New-Item -ItemType Directory -Force "$lauf\_meta" | Out-Null ``` 9. Dateibestand des Roots vor dem Lauf sichern – das Root soll unverändert bleiben, jede Änderung dort ist eine Auffälligkeit fürs Protokoll. Ziel ist `_meta\` **im Laufverzeichnis**, nicht der gemeinsame Scratchpad: ```powershell # Leerwertsicher: -Value erzwingt das Schreiben auch bei sauberem Root. Set-Content -Path "$lauf\_meta\before.txt" ` -Value (git -C status --porcelain -- | Out-String) ``` **Nicht** `git ... | Set-Content ` verwenden: Ist die Pipeline leer (sauberes Root), schreibt `Set-Content` die Datei nicht und lässt einen alten Inhalt stehen. Der Vorher/Nachher-Vergleich meldet dann eine Abweichung, die es nicht gibt. (Kein Git-Repo? Dann rekursive Dateiliste mit LastWriteTime nach `_meta\` schreiben.) **Isolation: Die Codebasis ist ein eingefrorener Snapshot ohne KI-Konfigurationen.** Der Untersuchungsgegenstand wurde einmalig um alle KI-Assistenz-Konfigurationen bereinigt (`.claude/`, `.agents/`, `.codex/`, `.cursor/`, `.serena/`, `.opencode/`, `.memory-mcp/`, `CLAUDE.md`, `AGENTS.md`, `.mcp.json`, `opencode.json`, `skills-lock.json`, `.coderabbit.yaml`, `.aiignore`, `.claudeignore`, `.cursorignore`), und das GitHub-Remote ist entkoppelt. Die Bedingung „keine Agentendateien, keine MCP-Server" ist damit eine **Eigenschaft des Snapshots** und muss nicht pro Lauf hergestellt werden. Damit entfällt jeder destruktive Vorbereitungsschritt. Vor jedem Lauf den Snapshot **prüfen** – nicht bereinigen: ```powershell $muster = 'CLAUDE\.md|AGENTS\.md|GEMINI\.md|\.mcp\.json|opencode\.json|skills-lock\.json|' + '\.coderabbit\.yaml|\.aiignore|\.claudeignore|\.cursorignore|copilot-instructions|' + '^\.(claude|agents|codex|cursor|serena|opencode|memory-mcp|continue|gemini|windsurf)/' $fund = git -C ls-files | Select-String -Pattern $muster if ($fund) { "WARNUNG: KI-Konfigurationen im Snapshot:"; $fund } ``` **Den Regex nicht „vereinfachen".** Die Anker (`(^|/)`, `$`, führender Punkt) sind notwendig. `Select-String` arbeitet in PowerShell standardmäßig **case-insensitiv**; ein gelockertes Muster schlägt deshalb auf echte Produktdateien an. In dieser Codebasis etwa: `src/backend/Centron.BL/ArtificialIntelligence/Chat/ClaudeCodeChatModelClient.cs` und `GoogleGeminiChatModelClient.cs` – Bestandteile des KI-Assistenz-Features der ERP-Suite und damit legitimer Untersuchungsgegenstand, keine Werkzeugkonfiguration. Bei einem Treffer immer erst die konkreten Pfade ansehen, bevor Alarm ausgelöst wird. Findet die Prüfung echte Treffer: **abbrechen und den User informieren – nicht eigenmächtig löschen.** Der Codebasis-Snapshot ist ein Messinstrument. Eine Änderung daran ist eine Änderung der Versuchsbedingung und macht Läufe untereinander unvergleichbar; sie gehört abgestimmt, committet und im Protokoll dokumentiert. **Das Remote ist entkoppelt.** Im Codebasis-Repo wird niemals gepusht, gefetcht oder ein Remote hinzugefügt. Der Snapshot bleibt eingefroren. ### 2. Prompt zusammenstellen Dem Prompttext werden **zwei** Blöcke angehängt. Die Prompt-Datei selbst bleibt unverändert – ergänzt wird nur der per stdin übergebene Text, und dieser wird als `_meta\combined_prompt.md` archiviert. **Block 1 – Werkzeugkontext.** Der Prompt trifft bewusst keine Annahme darüber, welche Werkzeuge zur Verfügung stehen. Diese Bedingung stellt der Versuchsaufbau bei; sie ist die untersuchte unabhängige Variable und gehört deshalb hierher, nicht in die Analyseanweisung: ``` ### Werkzeugkontext (vom Versuchsaufbau vorgegeben) Für diesen Lauf stehen zur Verfügung: . Nicht verfügbar sind: . Triff keine Annahmen über weitere Werkzeuge und versuche nicht, nicht verfügbare Werkzeuge zu ersetzen. ``` Der Inhalt richtet sich nach dem Agentenmodus: | Modus | „Zur Verfügung" | „Nicht verfügbar" | |---|---|---| | `solo` | Lesen, Suchen und Ausführen von Kommandozeilenbefehlen im Arbeitsverzeichnis | Subagenten, spezialisierte Agentenrollen, externe Werkzeugserver | | `builtin` | zusätzlich die werkzeugeigenen Subagenten | spezialisierte Agentenrollen aus Konfigurationsdateien, externe Werkzeugserver | | `custom` | zusätzlich die beigestellten Agentenrollen (namentlich nennen) | externe Werkzeugserver, sofern nicht Teil des Versuchs | **Block 2 – Ausgabeverzeichnis.** Damit die Ergebnisse im Laufverzeichnis landen und nicht in der Codebasis: ``` ### Ausgabeverzeichnis (überschreibt anderslautende Pfadangaben oben) Schreibe ALLE zu erzeugenden Ergebnisdateien in das Verzeichnis `\Ergebnisse\`. Verändere keine Dateien im Arbeitsverzeichnis (der analysierten Codebasis). ``` **Codex-Abweichung bei Block 2.** Der Codex-Adapter läuft in einer isolierten Arbeitskopie im System-Temp-Verzeichnis mit `workspace-write`. Das originale Root liegt außerhalb dieses Arbeitsbereichs und kann vom Agenten nicht erreicht werden. Trotz des technisch beschreibbaren Abbilds darf der Agent keine Dateien verändern. Block 2 wird dort durch folgende strukturierte Rückgabeanweisung ersetzt; die CLI erzwingt `codex-output-schema.json`, anschließend materialisiert `normalise-codex-result.py` die Dateien: ``` ### Ergebnisausgabe (überschreibt anderslautende Pfadangaben oben) Verändere keine Dateien im Arbeitsverzeichnis. Gib alle geforderten Ergebnisdateien im vorgegebenen JSON-Schema zurück. Jeder Eintrag in `files` enthält unter `path` einen relativen Pfad innerhalb von `Ergebnisse` und unter `content` den vollständigen Dateiinhalt. `summary` enthält nur eine kurze Laufzusammenfassung. ``` ### 3. Ausführung (Headless-Lauf) Den Adapter anhand der Modell-ID wählen. Der folgende Aufruf ist **ausschließlich der Claude-Code-Adapter**. Der Codex-Aufruf steht vollständig unter `Adapter: Codex CLI` und darf nicht mit Claude-Flags vermischt werden. Den kombinierten Prompt per stdin an `claude -p` übergeben. `--add-dir` gibt dem Headless-Lauf Schreibrecht auf das Laufverzeichnis außerhalb seines Arbeitsverzeichnisses. Versuchsläufe können lange dauern – **immer als Background-Task starten** (`run_in_background`), nicht mit Foreground-Timeout arbeiten: ```powershell $lauf = "" $prompt = (Get-Content "" -Raw) + "`n`n" # Steuerdateien IMMER ins Laufverzeichnis - nie in den gemeinsamen Scratchpad (parallelfaehig) Set-Content -Path "$lauf\_meta\combined_prompt.md" -Value $prompt -Encoding utf8 # Ohne diese Variable bricht der Headless-Modus nach 600 s ab, sobald noch # Hintergrund-Subagenten laufen - und meldet dabei `is_error: false`. $env:CLAUDE_CODE_PRINT_BG_WAIT_CEILING_MS = '0' Set-Content -Path "$lauf\_meta\startzeit.txt" -Value (Get-Date -Format o) # Schreibende und bauende Shell-Kommandos sperren – die Codebasis wird nur gelesen. $denyBash = @( 'Bash(rm:*)','Bash(rmdir:*)','Bash(mv:*)','Bash(cp:*)','Bash(dd:*)', 'Bash(truncate:*)','Bash(chmod:*)','Bash(chown:*)','Bash(ln:*)','Bash(tee:*)', 'Bash(sed -i:*)','Bash(git checkout:*)','Bash(git restore:*)','Bash(git clean:*)', 'Bash(git reset:*)','Bash(git add:*)','Bash(git commit:*)','Bash(git push:*)', 'Bash(dotnet:*)','Bash(msbuild:*)','Bash(npm install:*)','Bash(nuget:*)' ) $denyPs = @( 'PowerShell(Remove-Item:*)','PowerShell(Move-Item:*)','PowerShell(Copy-Item:*)', 'PowerShell(New-Item:*)','PowerShell(Set-Content:*)','PowerShell(Add-Content:*)', 'PowerShell(Clear-Content:*)','PowerShell(Out-File:*)','PowerShell(Set-ItemProperty:*)', 'PowerShell(dotnet:*)','PowerShell(msbuild:*)' ) Set-Location "" Get-Content "$lauf\_meta\combined_prompt.md" -Raw | & $claude -p ` --output-format json ` --safe-mode ` --strict-mcp-config ` --permission-mode acceptEdits ` --allowedTools "Bash" "PowerShell" ` --disallowedTools @($denyBash + $denyPs) ` --model ` --effort ` @agentFlags ` --add-dir "$lauf" ` 2> "$lauf\Stderr.log" | Set-Content "$lauf\RawResult.json" Set-Content -Path "$lauf\_meta\endzeit.txt" -Value (Get-Date -Format o) ``` Bedeutung der Flags: | Flag | Zweck | |---|---| | `--safe-mode` | Isolation: CLAUDE.md, Skills, Plugins, Hooks, MCP-Server, Custom-Agenten, Commands und Output-Styles aus – ohne Dateieingriff. Auth, Modellwahl, eingebaute Tools und Permissions bleiben normal aktiv. **Nur in den Modi `solo` und `builtin` verwendbar** – siehe „Isolation je Agentenmodus". | | `--strict-mcp-config` | zweite Absicherung gegen MCP-Server aus Projekt- oder User-Konfiguration | | `--permission-mode acceptEdits` | Schreibrechte für die Ergebnisdateien im Laufverzeichnis | | `--allowedTools "Bash" "PowerShell"` | **Shell-Zugriff ohne Rückfrage** – Standard seit Prompt-Version 02 | | `--disallowedTools ` | schreibende und bauende Kommandos gesperrt; Deny hat Vorrang vor Allow | | `--add-dir "$lauf"` | Schreibziel außerhalb des Arbeitsverzeichnisses | | `@agentFlags` | Agentenmodus aus Schritt 5: `solo` sperrt `Task`/`Agent`, `builtin` fügt nichts hinzu, `custom` übergibt `--agents` | | `--effort ` | Denkaufwand aus Schritt 6; nicht aus `RawResult.json` rekonstruierbar, daher zwingend ins Protokoll | | `--model ` | exakte Modellbindung aus Schritt 4; überschreibt die Modellpräferenz der User-Settings. Volle ID, keine Kurzform. | Build-Kommandos (`dotnet`, `msbuild`, `nuget`, `npm install`) stehen bewusst auf der Denylist: Sie würden `bin/`- und `obj/`-Artefakte im Root erzeugen und widersprechen der Methodenvorgabe „statische Analyse, keine Ausführung". **Grenzen der Denylist – ehrlich einordnen.** Pattern-Matching auf Shell-Kommandos ist nicht lückenlos; Umleitungen, Pipes und verschachtelte Aufrufe lassen sich nicht vollständig abfangen. Die belastbare Read-only-Garantie bleibt der Vorher/Nachher-Vergleich per `git status --porcelain` aus Abschnitt 1 bzw. 3. Die Denylist senkt das Risiko, sie ersetzt die Verifikation nicht. **Isolation je Agentenmodus – `--safe-mode` ist nicht immer verwendbar.** `--safe-mode` schaltet ausweislich der CLI-Hilfe „all customizations (CLAUDE.md, skills, plugins, hooks, **MCP servers, custom commands and agents**, output styles, workflows, …)" ab. Damit deaktiviert es genau das, was die Modi `custom` (V2) und der MCP-Einsatz (V3) untersuchen sollen. Verifiziert am 2026-08-26 gegen CLI 2.1.246 mit identischem Aufruf, nur `--safe-mode` variiert: | Konfiguration | `subagent_stats.spawned` | `by_type` | |---|---:|---| | mit `--safe-mode` | **0** | leer – der Agent meldet, die Rollen seien „nicht in der Agent-Registry registriert" | | ohne `--safe-mode` | **2** | `{"modulinventar": 1, "konsistenzpruefer": 1}` | Daraus folgt eine modusabhängige Isolation: | Modus | Isolation | |---|---| | `solo`, `builtin` | `--safe-mode` + `--strict-mcp-config` (unverändert) | | `custom`, sowie jeder Lauf mit `--mcp-config` | **kein** `--safe-mode`; stattdessen `--strict-mcp-config` und die Sperre `--disallowedTools Skill WebSearch WebFetch SlashCommand` | Der gezielte Ersatz wurde am selben Tag gegengeprüft. Der Agent antwortete auf eine Werkzeugabfrage: `VORGELADEN: NICHTS VORGELADEN` · `SKILLS: KEINE` · `WEB: KEIN WEBZUGRIFF` · alle acht Custom-Rollen verfügbar. Ohne die Sperre lädt die CLI **16 global installierte Skills** (darunter `code-review`, `security-review`, `run`, `init`); `--setting-sources ''` unterdrückt sie **nicht**. **Was der Ersatz nicht abdeckt.** `--safe-mode` deaktiviert zusätzlich Plugins, Hooks und Output-Styles. Die Sperre tut das nicht. Auf der Maschine, auf der die Versuchsreihe läuft, sind davon keine konfiguriert (`~/.claude/settings.json` enthält nur `model` und `agentPushNotifEnabled`, kein `hooks`; kein `plugins`- und kein `output-styles`-Verzeichnis) – das ist jedoch eine Eigenschaft der Umgebung, keine Garantie. **Vor jedem Lauf im Modus `custom` oder mit MCP ist deshalb zu prüfen:** ```powershell $us = Join-Path $env:USERPROFILE '.claude\settings.json' if (Test-Path $us) { (Get-Content $us -Raw | ConvertFrom-Json).PSObject.Properties.Name } foreach ($d in 'plugins','output-styles','skills') { $pfad = Join-Path $env:USERPROFILE ".claude\$d" if (Test-Path $pfad) { "VORHANDEN: $d -> " + ((Get-ChildItem $pfad | Measure-Object).Count) + ' Eintraege' } } ``` Treten Hooks, Plugins oder Output-Styles auf, ist der Lauf **nicht** isoliert und die Bedingung im Protokoll als abweichend zu kennzeichnen. **Unverändert bleibt:** `--safe-mode` hat die Modellwahl nie beeinflusst. Der Eintrag `model` in den User-Settings (hier `opus[1m]`) kann Subagenten binden – das ist der bekannte Grund der zwei dokumentierten Modellabweichungen und gilt mit wie ohne `--safe-mode`. **`--safe-mode` bleibt als zweite Sicherung aktiv.** Die primäre Isolation leistet der bereinigte Snapshot (Abschnitt 1); `--safe-mode` fängt zusätzlich alles ab, was von außerhalb des Roots wirken könnte – User-Level-Settings, global installierte Skills, Plugins, Hooks. Verifiziert am 2026-08-25 gegen Version 2.1.245, dokumentiert als Begründung für den Snapshot-Ansatz: - `--safe-mode` verhindert zuverlässig das **Vorladen** von `CLAUDE.md`/`AGENTS.md` als Systemanweisung. Kontrolltest ohne Werkzeuge: mit `--safe-mode` antwortet der Agent „NICHTS VORGELADEN", ohne das Flag zitiert er den Inhalt der `CLAUDE.md`. - `--safe-mode` verhindert **nicht**, dass der Agent solche Dateien als gewöhnliche Dateien **findet und liest**. Im Smoke-Test mit Shell-Zugriff hat er genau das getan und den Inhalt von `AGENTS.md` und `CLAUDE.md` wiedergegeben. Genau deshalb reicht `--safe-mode` allein bei gewährtem Shell-Zugriff nicht aus, und die KI-Konfigurationen wurden aus dem Snapshot entfernt statt nur deaktiviert. **Trust-Hinweis auf stderr.** Liegt im Root eine `.claude/settings.json` mit `permissions.allow`-Einträgen, meldet die CLI auf stderr sinngemäß „Ignoring N permissions.allow entries … this workspace has not been trusted". Im bereinigten Snapshot tritt das nicht mehr auf; erscheint die Meldung dennoch, ist der Snapshot nicht sauber – Abschnitt 1 prüfen. Regeln: - Arbeitsverzeichnis des Befehls = **Root-Verzeichnis** des Versuchs; geschrieben wird ausschließlich ins Laufverzeichnis. - Treten unerwartete Permission-Denials auf, die den Lauf behindern: die Denylist prüfen und die Abweichung im Protokoll dokumentieren – **nicht** pauschal alle Prüfungen per `--dangerously-skip-permissions` abschalten. Eine Änderung der Werkzeugkonfiguration ist eine Änderung der Versuchsbedingung und gehört mit dem User abgestimmt. - Optional `--max-budget-usd ` als harte Obergrenze setzen (nur mit `-p` wirksam) und den Wert im Protokoll notieren. Das Flag arbeitet nur in USD – die **berichtete** Messgröße bleibt der Tokenverbrauch. Anhaltspunkt: Der bisher aufwendigste Lauf verbrauchte 55.167.397 Tokens. - Nach Abschluss des Background-Tasks: Endzeit mit `Get-Date -Format o` erfassen. ### 4. Ergebnis auswerten `RawResult.json` im Laufverzeichnis lesen und defensiv parsen. Beim Claude-Adapter ist dies die unveränderte CLI-Antwort; beim Codex-Adapter erzeugt `normalise-codex-result.py` diese Datei aus `RawEvents.jsonl` und `_meta\final_response.json`. Relevante Claude-Felder: | Feld | Bedeutung | |---|---| | `is_error`, `subtype` | Lauf erfolgreich oder abgebrochen | | `duration_ms`, `duration_api_ms` | Gesamt- und reine API-Dauer | | `num_turns` | Anzahl Agent-Turns (Proxy für Werkzeugaktivität) | | `total_cost_usd` | Kosten in USD – **wird nicht berichtet**, bleibt aber als Rohwert in der Datei | | `usage.input_tokens`, `usage.output_tokens` | Tokens **nur des Hauptagenten** | | `usage.cache_creation_input_tokens`, `usage.cache_read_input_tokens` | Cache-Tokens (getrennt ausweisen!) | | `modelUsage` bzw. `model` | tatsächlich eingesetzte Modell-ID(s), Verbrauch **inklusive aller Subagenten-Ebenen** | | `permission_denials` | verweigerte Werkzeugaufrufe – Anzahl und Aufschlüsselung nach `tool_name` | | `subagent_stats` | gestartete Subagenten: `spawned`, `by_type`, `completed`, `failed`, `max_depth` | | `session_id` | für spätere Transcript-Analyse (`claude --resume `) | | `result` | Abschlusstext des Agenten | **`modelUsage` erfasst alle Verschachtelungsebenen – empirisch verifiziert.** Kontrolltest am 2026-08-25 gegen CLI 2.1.245: Eine erzwungene Kaskade (`max_depth: 2`, `spawned: 2`, `spawned_by_subagents: 1`), bei der ausschließlich der **Enkel-Agent auf Tiefe 2** arbeitete – er las 15 große Quelldateien, der mittlere Agent reichte nur durch, der Hauptagent las nichts: | | Tokens | |---|---:| | `usage` (nur Hauptagent, 1 Turn) | 49.103 | | `modelUsage` (gesamt) | **1.689.288** | | Differenz = Subagenten | 1.640.185 (Faktor 34,4) | Da die gesamte Leseleistung auf Tiefe 2 stattfand, belegt die Differenz, dass **auch Sub-Subagenten in `modelUsage` einfließen**. Für die berichtete Aufwandsgröße „Tokens gesamt" ist `modelUsage` daher die vollständige und einzig richtige Quelle. **Subagenten-Transkripte werden nicht separat persistiert.** Im Projektverzeichnis liegt je Lauf genau **eine** `.jsonl`-Datei, und Subagenten-Nachrichten erscheinen darin nicht als Sidechain. Ihr Verbrauch ist deshalb ausschließlich über `modelUsage` sichtbar, nicht über das Transkript – und die Summe der Transkript-Nachrichten ist **kein** gültiges Verbrauchsmaß (sie zählt Cache-Reads über Turns hinweg mehrfach). Zwei Auswertungsfallen: - **`usage` erfasst ausschließlich den Hauptagenten.** Für den abrechnungsrelevanten Gesamtverbrauch ist `modelUsage` über alle Modell-IDs zu summieren. In Prompt-Version 01 standen 105.959 Output-Tokens in `usage` gegenüber 249.040 in `modelUsage`. - **`duration_api_ms` kann die Wanduhrzeit übersteigen**, wenn Subagenten parallel laufen (Prompt-Version 01: 47:05 API gegenüber 31:31 Wanduhr). Das ist kein Widerspruch, sondern die Summe nebenläufiger Anfragen – im Protokoll entsprechend einordnen. **Pflichtprüfung: tatsächlich eingesetzte Modelle.** Nach jedem Lauf die Schlüssel von `modelUsage` gegen das angeforderte Modell abgleichen. Zulässig sind nur die angeforderte Modell-ID und `claude-haiku-4-5-*` (interne Hilfsaufrufe, wenige tausend Tokens). Taucht ein weiteres Modell auf, ist die **Versuchsbedingung verletzt** – der Lauf ist im Protokoll als solcher zu kennzeichnen und für Modellvergleiche unbrauchbar. **`--model` steuert nur den Hauptagenten, nicht zwingend die Subagenten.** Belegt am 2026-08-25 (CLI 2.1.245, Lauf `fable5_builtin_ehigh_v3.7.0-15db`): Mit `--model claude-fable-5` und Modus `builtin` liefen die 13 Subagenten auf **`claude-opus-5[1m]`** – dem Standardmodell aus `~/.claude/settings.json`. Auf sie entfielen 136,7 von 150,3 Mio. Tokens (91 %). | Kombination | Läufe | Modelle in `modelUsage` | |---|---:|---| | Sonnet / Opus / Fable + `solo` | 12 | nur das angeforderte Modell (+ Haiku) | | Sonnet + `builtin` | 11 | nur `claude-sonnet-5` (+ Haiku) | | **Fable + `builtin`** | **1** | **Fable + `claude-opus-5[1m]`** | Sonnet und Opus werden an die Subagenten durchgereicht, Fable nicht; Claude Code fällt dann auf die Sitzungsvorgabe zurück. **`--safe-mode` verhindert das nicht** – es deaktiviert Customizations, nicht die Modellwahl. Im Modus `solo` tritt das Problem nicht auf, weil es keine Subagenten gibt. Bei Modus `builtin` oder `custom` daher **nie** den Flag-Wert allein ins Protokoll schreiben, sondern die Modelle aus `modelUsage` mit ihrem jeweiligen Anteil ausweisen. **Pflichtprüfung: Hat der Lauf überhaupt etwas erzeugt?** `is_error` allein genügt **nicht**. Ein Lauf kann `is_error: false`, `subtype: success` und `terminal_reason: completed` melden und trotzdem **null Ergebnisdateien** hinterlassen. Belegt am 2026-08-26, Lauf `Iteration 3/claude-opus-5/builtin/high/…160037_v4.5.0-116d`: Der Hauptagent startete zehn Subagenten im Hintergrund, beendete seinen Turn und schrieb als Abschlusstext „Die Erhebung läuft"; der Headless-Modus wartete 600 s und brach dann ab. `Stderr.log` enthielt „Background tasks still running after 600s; terminating." Verbraucht waren zu diesem Zeitpunkt **193,4 Mio. Tokens** – der teuerste Lauf der Reihe, ohne ein einziges Artefakt. Nach jedem Lauf daher zwingend prüfen: 1. `Ergebnisse\` ist **nicht leer** und enthält die vom Prompt geforderten Dateien. Fehlen sie, ist der Lauf **unabhängig von `is_error` als Fehlmessung zu kennzeichnen**. 2. `Stderr.log` enthält keine Abbruchmeldung. Die Datei ist im Normalfall 0 Byte groß. Vorbeugend setzt der Ausführungsabschnitt `CLAUDE_CODE_PRINT_BG_WAIT_CEILING_MS=0`, damit der Lauf auf seine Hintergrund-Subagenten wartet, statt sie abzuschneiden. **Subagenten-Ergebnisse kommen nicht als Werkzeugergebnis zurück.** Startet der Hauptagent einen Subagenten im Hintergrund, liefert der Werkzeugaufruf sofort eine **Start-Quittung** von rund 1.093 Zeichen („Async agent launched successfully …") zurück, nicht die Befunde. Deren Länge ist folglich **kein** Maß für den Ertrag des Subagenten. Die Quittung nennt einen Pfad `\\tasks\.output`; diese Dateien werden zwar angelegt, bleiben aber **leer** (geprüft an 33 Dateien aus zwei Läufen). Die Aussage, dass Subagenten-Transkripte nicht auswertbar persistiert werden, gilt damit unverändert. `permission_denials` ist eine **reguläre Messgröße** und immer auszuweisen, auch bei 0. Ein hoher Wert bedeutet, dass die Werkzeugkonfiguration den Lauf eingeschränkt hat, und ist bei der Interpretation der Ergebnisqualität zu berücksichtigen. **Subagenten-Prompts sichern** (entfällt nur im Modus `solo`, dort gibt es keine). Die vollständigen Prompts, mit denen der Hauptagent seine Subagenten beauftragt hat, stehen im persistierten Session-Transkript unter `%USERPROFILE%\.claude\projects\\.jsonl`. Das mitgelieferte Skript extrahiert sie: ```powershell python "\extract-subagenten.py" "" ``` Es schreibt `_meta\subagenten.md` (lesbar, mit vollständigem Prompt je Subagent) und `_meta\subagenten.json` (maschinenlesbar). Erfasst werden Werkzeug (`Task`/`Agent`), `subagent_type`, `description`, Hintergrund-Flag, Prompt-Länge und Länge des zurückgelieferten Ergebnisses. **Abgewiesene Starts sind keine Subagenten.** Erreicht der Hauptagent das Nebenläufigkeitslimit (20 gleichzeitige Subagenten), erscheint der Aufruf im Transkript wie ein regulärer Start, liefert aber nur die Absage „Concurrent subagent limit reached" zurück und zählt **nicht** in `spawned`. Das Skript trennt beide Fälle und weist die Absagen getrennt aus; ohne diese Trennung meldet der Abgleich eine Abweichung, die es nicht gibt (Lauf `Iteration 3/…/125032_v4.4.0-fb24`: 21 gefundene Aufrufe gegenüber 13 erwarteten – die Differenz waren 8 Absagen). Die Zahl der Absagen ist selbst eine Messgröße: Sie zeigt, wie viel stärker der Agent parallelisieren wollte, als das Werkzeug zuließ. **Plausibilitätskontrolle:** Das Skript vergleicht die Anzahl der **echten** Starts mit `subagent_stats.spawned` minus `spawned_by_subagents`. Im Haupttranskript stehen nämlich nur die **direkt** vom Hauptagenten gestarteten Subagenten – von Subagenten gestartete (`max_depth` > 1) liegen in deren eigenen Transkripten. Bei Abweichung setzt das Skript eine Warnung in `subagenten.md`; dann ist die Ursache zu klären, bevor die Prompts ausgewertet werden. **Warum das erhoben wird:** In V1b bestimmt der Agent selbst, wie er die Analyse zerlegt – über alle bisherigen Läufe schwankte das zwischen 0 und 14 Subagenten mit völlig unterschiedlichen Zuschnitten. Diese selbstgewählte Zerlegung ist die dominierende Störgröße der Versuchsreihe. Erst die protokollierten Prompts machen sie als Datum auswertbar statt nur als Zahl sichtbar. Für V2 (`custom`) sind sie zusätzlich der Vergleichsmaßstab: Sie zeigen, wie der Agent ohne Vorgabe delegiert – gegenüber den vorformulierten Agenten aus `--agents`. **Anforderungen auswerten** – der inhaltliche Ertrag des Laufs, nicht nur sein Aufwand: ```powershell python "\analyse-anforderungen.py" "" ``` Das Skript parst das im Prompt vorgegebene Blockformat (`ID:`, `Typ:`, `Belege:`, `Status:` …) aus `Ergebnisse\StRS.md`, `SyRS.md` und `SwRS.md` und schreibt `_meta\anforderungen.md` (fertiger Protokollabschnitt) sowie `_meta\anforderungen.json` (maschinenlesbar). Erhoben werden: - **Verteilung** über die drei Ebenen - **Anforderungstypen** (funktional, Sicherheit, Daten, Schnittstelle …) - **Belegqualität**: Anzahl der Belege, Aufteilung `PRIMÄR`/`SEKUNDÄR`/`KONTEXT`, Median je Anforderung, Anteil mit mindestens einem Primärbeleg - **Status**: belegt, `[HYPOTHESE]`, Workaround, Konsolidierungskandidaten **Die Ebene einer Anforderung wird nicht aus dem Dateinamen abgeleitet.** Maßgeblich ist das Feld `Ebene:` des Blocks, hilfsweise das ID-Präfix, erst zuletzt die Datei. Agenten legen Blöcke regelmäßig in der Datei einer anderen Ebene ab – im Lauf `Iteration 2/…/094250_v4.2.1-c69e` standen 12 StRS- und 5 SyRS-Blöcke in `SwRS.md`. Wird nach Datei gezählt, ist die Verteilungstabelle falsch, obwohl die Gesamtzahl stimmt. Das Skript weist eine solche Fremdablage als eigene Auffälligkeit unter der Verteilungstabelle aus; sie ist ein Befund zur **Set-Qualität**, weil die Dreiteilung dann nicht mehr an der Dateistruktur ablesbar ist. - **Regelkonformität** – geprüft wird gegen die Vorgaben des Prompts selbst: Belegpflicht (jede Anforderung ≥ 1 Beleg), risikobasierte Priorisierung (Sicherheit, Abrechnung, Berechtigungen brauchen `PRIMÄR` **oder** `[HYPOTHESE]`), Verifizierbarkeit (Prüfidee vorhanden), Traceability (Tracelinks gesetzt) **Zuordnung zum Evaluationsrahmen (Kap. 4.3).** Die erhobenen Kenngrößen decken die **maschinell prüfbare** Hälfte der drei Qualitätsdimensionen ab; die Expertenbewertung nach Likert-Skala bleibt davon unberührt und tritt daneben: | Dimension (Kap. 4.3) | Maschinell erhoben | Bleibt der Expertenbewertung | |---|---|---| | **Statement-Qualität** | Belegqualität, Primärbelegquote, Anteil mit Prüfidee, Hypothesenanteil, Übernahmewürdigkeit | Eindeutigkeit der Formulierung, sachliche Korrektheit, Verständlichkeit | | **Set-Qualität** | Verteilung über die Ebenen, Konsolidierungskandidaten, doppelte IDs, Anforderungen ohne Beleg | Vollständigkeit der Prozessabdeckung, Redundanzfreiheit im fachlichen Sinn | | **Traceability-Qualität** | Anteil mit Tracelinks, Belegklassifikation, Tracelinks auf nicht existierende IDs | Auffindbarkeit des Belegs, Nachvollziehbarkeit der Ableitung | **Warum das erhoben wird:** Die Anforderungsanzahl allein ist als Qualitätsmaß wertlos – sie streute über Läufe gleicher Bedingung um Faktor 5,9. Belegdichte, Primärbelegquote und Regelverstöße sind dagegen inhaltliche Größen und machen Läufe vergleichbar, deren Mengengerüst weit auseinanderliegt. Die Regelkonformitätsprüfung deckt zudem auf, wo der Agent die eigenen Vorgaben des Prompts verfehlt hat – ein Befund, der sich sonst nur durch Handlektüre ergäbe. Der erzeugte Abschnitt wird **unverändert** als `## Gefundene Anforderungen` ins Protokoll übernommen, zwischen `## Ergebnis` und den Vergleichs- bzw. Anmerkungsabschnitten. Erzeugte Dateien: Inhalt von `\Ergebnisse\` auflisten. Zusätzlich prüfen, ob das Root unverändert blieb: `git -C status --porcelain -- ` – mit **demselben Pfadfilter wie in Abschnitt 1** – gegen `before.txt` vergleichen (Nachher-Stand nach `$lauf\_meta\after.txt`) – Abweichungen als Auffälligkeit ins Protokoll. Beim Vergleich Zeilenenden normalisieren (`before.txt` entsteht je nach Werkzeug mit CRLF, der Nachher-Stand mit LF), sonst meldet ein naiver `diff` alle Zeilen als geändert. ### 5. Messprotokoll schreiben Als `Protokoll.md` ins Laufverzeichnis, neben `RawResult.json` und `Stderr.log`. Vorlage: ```markdown # Messprotokoll – – Prompt-Version ## Lauf - **Prompt-Datei:** - **Prompt-Version:** - **SHA-256 (Prompt):** - **Startzeit:** - **Endzeit:** - **Dauer gesamt:** (API: ) - **Root-Verzeichnis:** - **Codebasis-Commit:** (dirty: ja/nein) - **Snapshot-Zustand:** - **Prompt-Repo-Commit:** ## Werkzeugkonfiguration - **Skill-Version:** - **Werkzeugadapter:** - **CLI-Version:** - **CLI-Pfad:** - **Modell (angefordert):** - **Modelle (tatsächlich eingesetzt):** - **Kontrolle Modell:** mit Tokens | nicht prüfbar: Codex-JSONL enthält keine tatsächliche Modell-ID> - **Effort:** (per `--effort` gesetzt; Gegenprobe im Transkript-Feld `effort`) - **Laufverzeichnis-ID:** `v-` aus dem Verzeichnisnamen - **Ablage:** `////` - **Parallele Läufe:** - **Agentenmodus:** ; bei `custom` zusätzlich Pfad und SHA-256 der Agentendefinitionen - **Kontextfenster:** - **Sampling-Parameter:** - **Nur bei lokalem Modellbetrieb:** Inferenz-Runtime samt Version, Quantisierungsstufe des Modell-Builds - **Permission-/Sandbox-Modus:** - **Toolfreigabe:** - **Isolationsmechanismus:** - **MCP-Server / Agentendateien:** - **Umgebungsprüfung (nur `custom` / MCP):** - **Subagenten:** - **Verschachtelung:** `spawned` = , davon `spawned_by_subagents` = , `max_depth` = . Bei `max_depth` > 1 ausdrücklich vermerken – die Tokens der tieferen Ebenen sind in „Tokens gesamt" enthalten, ihre Prompts jedoch **nicht** in `_meta\subagenten.md` ## Validierungsstichprobe - **Größe:** - **Ziehungsverfahren:** - **Validatoren:** - **Stand:** | ausgewertet> Kapitel 4.3 verlangt, die Stichprobengröße **vor** Versuchsbeginn festzulegen und im Versuchsprotokoll zu dokumentieren. Ist für den Lauf keine Validierung vorgesehen, hier `entfällt` eintragen – das Feld darf nicht fehlen. ## Verbrauch ### Hauptagent (`usage`) | Messgröße | Wert | |---|---| | Input-Tokens | | | Output-Tokens | (davon N Thinking-Tokens aus `usage.output_tokens_details`) | | Cache-Write-Tokens | | | Cache-Read-Tokens | | | Agent-Turns | | ### Gesamtlauf inkl. Subagenten (`modelUsage`, abrechnungsrelevant) | Messgröße | | | Summe | |---|---:|---:|---:| | Input-Tokens | | | | | Output-Tokens | | | | | Cache-Write-Tokens | | | | | Cache-Read-Tokens | | | | | **Tokens gesamt** | | | | **Tokens gesamt: ** — Input + Output + Cache-Write + Cache-Read über alle Modelle. Das ist die **berichtete Aufwandsgröße** der Versuchsreihe. `total_cost_usd` bleibt unberührt in `RawResult.json` erhalten, wird aber nicht ins Protokoll übernommen: Token sind modell- und preisunabhängig und bleiben damit über Preisänderungen und Modellwechsel hinweg vergleichbar. **Codex-Semantik:** `cached_input_tokens` ist eine Teilmenge von `input_tokens` und wird nicht erneut addiert. Dort gilt `Tokens gesamt = input_tokens + output_tokens`; Reasoning-Tokens sind eine Teilmenge der Output-Tokens. Cache-Write-Tokens werden von `codex exec --json` nicht geliefert. ## Gefundene Anforderungen ## Ergebnis - **Status:** - **Session-ID:** - **Permission-Denials:** (; bei keinem Denial: 0). Im Modus `solo` Denials auf `Task`/`Agent` **getrennt** ausweisen – sie sind die Versuchsbedingung, keine Einschränkung. - **Kontrolle Agentenmodus:** `subagent_stats.spawned` = (bei `solo` muss 0 stehen, sonst Fehlmessung) - **Subagenten-Prompts:** <`_meta\subagenten.md`, N Aufrufe erfasst | entfällt (Modus solo)> - **Gültigkeit:** - **Erzeugte Dateien:** - **Root unverändert:** - **Abschlusstext des Agenten:** siehe RawResult.json (`result`) - **Anmerkungen/Auffälligkeiten:** ``` ### 6. Abschlussbericht an den User Kurz zusammenfassen: Status, Dauer, Tokenverbrauch (inkl. Cache), Modell, Pfad des Laufverzeichnisses und welche Dateien der Lauf erzeugt hat. Bei `is_error` oder leerem Ergebnis: `Stderr.log` und `RawResult.json` zitieren, nicht spekulieren. ## Werkzeugadapter Der Prozess oben ist werkzeugneutral. Dieser Abschnitt hält fest, wie er mit einem konkreten Werkzeug umgesetzt wird und welche Messgrößen dieses Werkzeug liefert. ### Adapter: Claude Code Alle mit `claude -p`, `--safe-mode`, `--allowedTools`, `modelUsage` und `subagent_stats` bezeichneten Aufrufe und Felder im Prozessteil gehören zu diesem Adapter. Er wurde gegen **CLI 2.1.245** entwickelt und verifiziert. **Gelieferte Messgrößen** – vollständig aus `RawResult.json`: | Messgröße | Feld | |---|---| | Abbruchstatus | `is_error`, `subtype`, `stop_reason`, `terminal_reason` | | Dauer | `duration_ms`, `duration_api_ms` (Wanduhr wird selbst gemessen) | | Tokens Hauptagent | `usage.*` inkl. `output_tokens_details.thinking_tokens` | | Tokens gesamt inkl. aller Subagenten-Ebenen | `modelUsage` je Modell-ID | | Tatsächlich eingesetzte Modelle | Schlüssel von `modelUsage` | | Verweigerte Werkzeugaufrufe | `permission_denials` | | Subagenten | `subagent_stats` inkl. `spawned_by_subagents`, `max_depth`, `failed` | | Sitzungskennung für Transcript-Analyse | `session_id` | **Nicht erfasst:** Sampling-Parameter wie Temperatur sind über die CLI nicht steuerbar und werden nicht ausgewiesen; der Effort steht **nicht** in `RawResult.json` und ist nur über das Session-Transkript belegbar (siehe Schritt 6 der Vorbereitung). ### Adapter: Codex CLI / OpenAI-Modelle Dieser Adapter wurde für den reproduzierbaren Headless-Betrieb mit `codex exec` und exakten OpenAI-Modell-IDs entworfen. Referenzstand bei Einführung: **Codex CLI 0.149.0-alpha.4.3**. Vor jedem Lauf `codex --version` protokollieren; bei geändertem JSONL-Schema den Normalisierer zuerst mit einem kleinen, ausdrücklich freigegebenen Smoke-Test prüfen. **Unterstützter Agentenmodus:** Auch in Version 6.0.0 nur `solo`. `builtin` und `custom` müssen abbrechen. `solo` wird mit zwei unabhängigen Einstellungen erzwungen: `--disable multi_agent` und `-c agents.enabled=false`. **Isolation und Ausgabe.** Unter Windows blockierte `--sandbox read-only` mit Codex CLI 0.149.0-alpha.4.3 bereits den Start rein lesender Prozesse (`pwsh`, `cmd`, `rg`). Der Adapter erstellt deshalb vor dem Lauf eine isolierte Kopie der versionierten und nicht ignorierten Quelldateien im System-Temp-Verzeichnis und startet Codex dort mit `--sandbox workspace-write`. Das originale Root liegt außerhalb des Codex-Arbeitsbereichs und bleibt technisch getrennt. `prepare-codex-workspace.py` hasht die Kopie vor und nach dem Lauf; jede Änderung macht den Lauf ungültig. Quelle, Dateizahl, Größe und beide Manifeste werden unter `_meta` archiviert; die temporäre Kopie wird erst nach der Integritätsprüfung entfernt. Die Ablage außerhalb des IDE-Projektbaums verhindert automatische Design-Time-Restores, die sonst ungefragt `obj`-Dateien in der Kopie erzeugen. Der Agent liefert weiterhin ausschließlich ein Schemaobjekt mit vollständigen Dateiinhalten; `--output-last-message` schreibt dieses durch die CLI nach `_meta\final_response.json`. Erst nach Ende des Agenten materialisiert das lokale, deterministische Skript die validierten relativen Pfade unter `Ergebnisse\`. Absolute Pfade, `..`, Laufwerkspräfixe und case-insensitive Duplikate werden abgelehnt. Vor dem Start `$codex`, `$skillDir`, `$lauf`, `$root`, `$modell` und `$effort` auf absolute Pfade beziehungsweise die bestätigten Versuchsbedingungen setzen. Den Prompt mit dem Codex-Ausgabeblock aus Abschnitt 2 nach `_meta\combined_prompt.md` schreiben. Anschließend das isolierte Abbild anlegen; bei einem Fehler darf der API-Lauf nicht starten: ```powershell $meta = Join-Path $lauf '_meta' $workspace = Join-Path ([IO.Path]::GetTempPath()) "codex-experiment-" python (Join-Path $skillDir 'prepare-codex-workspace.py') create $root $workspace $meta if ($LASTEXITCODE -ne 0) { throw 'Codex-Arbeitsabbild konnte nicht erstellt werden.' } ``` Der eigentliche Aufruf lautet: ```powershell $codexArgs = @( '--model', $modell, '-c', "model_reasoning_effort=`"$effort`"", '-c', 'service_tier="default"', '--sandbox', 'workspace-write', '--ask-for-approval', 'never', '--disable', 'multi_agent', '-c', 'agents.enabled=false', '--disable', 'plugins', '--disable', 'apps', '--disable', 'hooks', '--disable', 'skill_search', '--cd', $workspace, 'exec', '--ignore-user-config', '--ignore-rules', '--strict-config', '--json', '--output-schema', (Join-Path $skillDir 'codex-output-schema.json'), '--output-last-message', (Join-Path $lauf '_meta\final_response.json'), '-' ) Set-Content -Path "$lauf\_meta\startzeit.txt" -Value (Get-Date -Format o) Get-Content "$lauf\_meta\combined_prompt.md" -Raw | & $codex @codexArgs 2> "$lauf\Stderr.log" | Set-Content "$lauf\RawEvents.jsonl" -Encoding utf8 $codexExit = $LASTEXITCODE Set-Content -Path "$lauf\_meta\exitcode.txt" -Value $codexExit Set-Content -Path "$lauf\_meta\endzeit.txt" -Value (Get-Date -Format o) python (Join-Path $skillDir 'prepare-codex-workspace.py') verify $workspace $meta $workspaceExit = $LASTEXITCODE python (Join-Path $skillDir 'normalise-codex-result.py') $lauf ` --model $modell --effort $effort python (Join-Path $skillDir 'prepare-codex-workspace.py') cleanup $workspace $meta ``` Auch dieser Aufruf ist als Background-Task zu starten. Das Erscheinen von `RawEvents.jsonl` allein bedeutet noch nicht, dass der Lauf fertig ist; Ende ist der abgeschlossene Prozess plus Integritätsprüfung und erzeugte `RawResult.json`. Ist `$workspaceExit` ungleich null, den Lauf wegen einer veränderten Arbeitskopie als ungültig kennzeichnen. Schlägt die Normalisierung fehl, Rohdateien unverändert lassen und den Lauf als Fehler protokollieren. **Warum diese Flags:** | Flag / Einstellung | Zweck | |---|---| | `--model ` | vollständige, vom User bestätigte OpenAI-Modell-ID | | `model_reasoning_effort` | expliziter Denkaufwand | | `service_tier="default"` | verhindert eine geerbte Fast-/Priority-Bedingung | | `--sandbox workspace-write` | erlaubt Windows-Prozessstarts nur innerhalb der isolierten Arbeitskopie | | `--ask-for-approval never` | keine interaktiven Unterbrechungen im Headless-Lauf | | `--ignore-user-config`, `--ignore-rules` | keine User-Konfiguration und keine Exec-Regeln | | `--disable plugins/apps/hooks/skill_search` | keine externen oder benutzerspezifischen Erweiterungen | | `--disable multi_agent`, `agents.enabled=false` | keine Subagenten im Modus `solo` | | `--json` | vollständiger maschinenlesbarer Ereignisstrom | | `--output-schema`, `--output-last-message` | validierbare Ergebnisdateien außerhalb des Arbeitsabbilds | `--ignore-user-config` lässt die gespeicherte Authentifizierung weiterhin nutzbar; niemals `auth.json` kopieren oder in Laufartefakten ablegen. Live-Websuche ist nicht freigegeben, weil `--search` fehlt. Der bereinigte Snapshot bleibt zusätzlich Pflicht, da projektlokale Anweisungsdateien eine eigene Versuchsbedingung wären. **Gelieferte Messgrößen** aus `RawEvents.jsonl`, normalisiert nach `RawResult.json`: | Messgröße | Quelle | |---|---| | Abbruchstatus | Prozess-Exitcode, `turn.failed`, `error`, fehlerhafte JSONL-Zeilen | | Wanduhrdauer | `_meta\startzeit.txt` bis `_meta\endzeit.txt` | | Tokens gesamt | `turn.completed.usage.input_tokens + output_tokens` | | Cache-Read-Tokens | `turn.completed.usage.cached_input_tokens`, Teilmenge der Input-Tokens | | Reasoning-Tokens | `turn.completed.usage.reasoning_output_tokens`, Teilmenge der Output-Tokens | | Agent-Turns | Anzahl `turn.completed` | | Sitzungskennung | `thread.started.thread_id` | | Werkzeugaktivität | Anzahl abgeschlossener `item.*` je Item-Typ | | Erzeugte Artefakte | validierte Einträge aus `_meta\final_response.json` | **Nicht erfasst und niemals schätzen:** reine API-Dauer, Cache-Write-Tokens, einzelne Permission-Denials und die tatsächlich serverseitig bediente Modell-ID. `--model` dokumentiert die angeforderte ID; da `codex exec --json` sie im Ereignisstrom nicht wiederholt, lautet die Modellkontrolle im Protokoll `nicht prüfbar`. Temperatur und weitere Sampling-Parameter sind in diesem CLI-Ablauf nicht steuerbar; Effort und Service-Tier werden dagegen explizit festgelegt. ### Adapter: Python API / GLM & Kimi-Modelle über TensorX Dieser Adapter wurde für Modelle entwickelt, die über den **TensorX API-Gateway** (`https://api.tensorx.ai/v1`) erreichbar sind. Er nutzt das Skript `glm-kimi-adapter.py`, das einen minimalen Agent-Loop mit Tool-Calling direkt gegen die OpenAI-kompatible REST-API implementiert. Referenzstand bei Einführung: **Python 3.13, requests 2.34**. **Verfügbare Modell-IDs über TensorX:** | TensorX-Modell-ID | Hersteller | Effort-Parameter | |---|---|---| | `z-ai/glm-5.2` | Z.AI (Zhipu AI) | `thinking` (`{"type":"enabled","level":"…"}`) | | `moonshotai/kimi-k3` | Moonshot AI | `reasoning_effort` (top-level) | Das Modell-Präfix (`z-ai/` bzw. `moonshotai/`) bestimmt, welcher Effort-Parameter an die API gesendet wird. Der Adapter wählt ihn automatisch anhand des Präfixes. **Authentifizierung.** Der API-Key wird **automatisch aus der Cline providers.json** gelesen (`~/.cline/data/settings/providers.json`, Provider `tensorx`). Alternativ kann er per `--api-key` oder Umgebungsvariable `TENSORX_API_KEY` übergeben werden. Der Key wird **nicht** in Laufartefakten gespeichert. **Unterstützter Agentenmodus:** `solo` (V1) und `builtin` (V1b). Der Modus wird per `--mode solo|builtin` gesteuert. Im Modus `solo` steht das `spawn_subagent`-Tool nicht zur Verfügung. Im Modus `builtin` kann der Hauptagent Subagenten mit eigenem Kontext starten (`spawn_subagent`-Tool) – diese erhalten Read-Only-Tools (kein `write_file`) und eine eigene, vom Hauptagenten unabhängige Konversation. Der Subagent-Typ (`explore` oder `general-purpose`) bestimmt den System-Prompt. Subagent-Token fließen vollständig in `usage` und `modelUsage` ein. `custom` ist nicht freigegeben und führt zum Abbruch. **Isolation.** Der Adapter ist ein eigenständiges Python-Skript, das nur die Python-Standardbibliothek und `requests` benötigt. Es liest die Codebasis über die implementierten Tools (`read_file`, `list_directory`, `search_files`, `execute_command`) und schreibt Ergebnisdateien ausschließlich über das `write_file`-Tool ins Ausgabeverzeichnis. Schreibende und bauende Shell-Kommandos sind durch eine Denylist gesperrt (analog zum Claude-Code-Adapter). Der bereinigte Snapshot bleibt zusätzliche Pflicht. **Effort-Steuerung.** Der Adapter mappt die Skill-Effort-Stufen auf beide APIs: | Skill-Effort | GLM `thinking.level` | Kimi `reasoning_effort` | |---|---|---| | `low` | `low` | `low` | | `medium` | `medium` | `medium` | | `high` | `high` | `high` | | `xhigh` | `xhigh` | `high` (höchste verfügbare Stufe) | | `max` | `xhigh` | `high` | **Der Aufruf** (als Background-Task starten): ```powershell $skillDir = "" $lauf = "" $root = "" $modell = "" $effort = "" # Prompt zusammenstellen (wie bei den anderen Adaptern) $prompt = (Get-Content "" -Raw) + "`n`n`n`n" Set-Content -Path "$lauf\_meta\combined_prompt.md" -Value $prompt -Encoding utf8 Set-Content -Path "$lauf\_meta\startzeit.txt" -Value (Get-Date -Format o) # API-Key wird automatisch aus Cline providers.json gelesen python "$skillDir\glm-kimi-adapter.py" ` --prompt "$lauf\_meta\combined_prompt.md" ` --root $root ` --output "$lauf\Ergebnisse" ` --model $modell ` --effort $effort ` --mode $modus ` --max-turns 80 ` --result-dir $lauf ` 2> "$lauf\Stderr.log" Set-Content -Path "$lauf\_meta\endzeit.txt" -Value (Get-Date -Format o) ``` **Gelieferte Messgrößen** – vollständig aus `RawResult.json` (vom Adapter geschrieben): | Messgröße | Feld | |---|---| | Abbruchstatus | `is_error`, `subtype`, `finish_reason` | | Dauer | `duration_ms` (Wanduhr, selbst gemessen; keine separate API-Zeit) | | Tokens gesamt | `usage.total_tokens` über alle Turns akkumuliert | | Input-Tokens | `usage.prompt_tokens` | | Output-Tokens | `usage.completion_tokens` | | Reasoning-Tokens | `usage.reasoning_tokens` (aus `completion_tokens_details.reasoning_tokens`) | | Cache-Read-Tokens | `usage.cached_tokens` (soweit von TensorX geliefert) | | Cache-Write-Tokens | **nicht erfasst** – TensorX liefert keine | | Agent-Turns | `num_turns` | | Tatsächlich eingesetztes Modell | `model` (aus API-Antwort; mit `model_requested` abzugleichen) | | Tool-Aufrufe | `tool_call_count`, `tool_call_types` (nach Werkzeugname) | | Subagenten | `subagent_stats` (`spawned`, `completed`, `failed`, `by_type`) – nur im Modus `builtin` | | Subagenten-Details | `subagent_details` (je Subagent: Typ, Beschreibung, Turns, Tokens, Status) | | Erzeugte Artefakte | `written_files` (Pfad und Größe je Datei) | | Abschlusstext | `result` | **Semantik der Token-Zählung.** `usage.total_tokens` wird über alle Turns aufsummiert. Jeder Turn umfasst dabei den vollen Kontext (Eingabe + Ausgabe); die Token-Zahl ist daher die Summe aller API-Aufrufe, nicht die eines einzelnen Austauschs. Reasoning-Tokens sind eine Teilmenge von `completion_tokens` und werden nicht erneut addiert. **Nicht erfasst und niemals schätzen:** Cache-Write-Tokens, Permission-Denials (das Deny-Modell ist ein hartes Blockieren, keine zählbaren Denials), Subagenten-Stats (keine Subagenten), Session-ID (keine persistierte Session), API-Dauer (nicht von der API geliefert). Sampling-Parameter: Temperatur ist steuerbar (`--temperature`), Reasoning-Effort ist steuerbar (`--effort`). **Pflichtprüfung nach dem Lauf:** 1. `Ergebnisse\` ist **nicht leer** – sonst Fehlmessung (analog zu MAJOR 6.1.0). 2. `Stderr.log` enthält keine Abbruchmeldung. 3. `model` in `RawResult.json` stimmt mit `model_requested` überein (Modellkontrolle). 4. `tool_call_count` > 0 (ein Lauf ohne Tool-Aufrufe hat die Codebasis nicht analysiert). ### Weitere Adapter (für Versuch 4 nachzurüsten) Kapitel 4 der Arbeit sieht zusätzlich Qwen Code CLI über LM Studio und DeepSeek über die Cloud-API vor. Diese Adapter sind noch nicht ausgearbeitet. Damit ein Lauf als Messpunkt taugt, muss ein Adapter mindestens liefern: | Pflichtangabe | Zweck | |---|---| | Modell-ID und Kontextfenster | Bedingung dokumentieren | | Input- und Output-Tokens | Aufwandsvergleich | | Dauer | Aufwandsvergleich | | Abbruchstatus | Gültigkeit des Laufs | | Erzeugte Artefakte | Ertrag | | Sampling-Parameter, soweit steuerbar | Reproduzierbarkeit (Kap. 4.3) | | Bei lokalem Betrieb: Runtime samt Version, Quantisierungsstufe | Reproduzierbarkeit (Kap. 4.3) | Was ein Adapter nicht liefern kann, wird im Protokoll ausdrücklich als `nicht erfasst` ausgewiesen – niemals geschätzt. Fehlen mehrere Pflichtangaben, ist der Lauf nur eingeschränkt mit Claude-Code-Läufen vergleichbar; das gehört in die Anmerkungen des Protokolls. ## Randbedingungen - Niemals Messwerte schätzen oder erfinden – fehlt ein Feld im JSON, im Protokoll als `nicht erfasst` eintragen. - Prompt-Datei unverändert lassen; das Protokoll ist eine neue Datei. - Läuft der Background-Task ungewöhnlich lange, User informieren statt abbrechen. - **Am Codebasis-Root wird nichts verändert** – weder zur Vorbereitung noch zur Isolation noch zur Nachbereitung. Ist das Root vor dem Lauf bereits `dirty`, den Zustand im Protokoll festhalten und den User informieren, statt ihn stillschweigend zu bereinigen. - **Der Codebasis-Snapshot ist eingefroren.** Kein `push`, kein `fetch`, kein Hinzufügen eines Remotes, kein Commit im Codebasis-Repo. Soll der Snapshot geändert werden (etwa weil eine weitere KI-Konfiguration auftaucht), ist das mit dem User abzustimmen, als eigener Commit festzuschreiben und in allen betroffenen Protokollen als geänderte Versuchsbedingung zu vermerken. - **Werkzeugkonfiguration ist eine unabhängige Variable.** Weicht ein Lauf von der hier festgelegten Standardkonfiguration ab (andere Flags, anderer Permission-Mode, zusätzliche Tools), ist das im Protokoll unter „Werkzeugkonfiguration" wörtlich zu dokumentieren – sonst sind die Läufe nicht vergleichbar. ## Versionierung Die aktuelle Version steht im Frontmatter (`version:`) und **muss in jedes Protokoll** unter „Werkzeugkonfiguration" als **Skill-Version** eingetragen werden. Nur so lässt sich später zuordnen, unter welcher Fassung des Versuchsaufbaus eine Messung entstanden ist. Schema (Semantic Versioning): | Stelle | Bedeutung | Folge für die Vergleichbarkeit | |---|---|---| | **MAJOR** | Änderung der Versuchsbedingung – Flags, Toolfreigabe, Isolationsmechanismus, Codebasis-Snapshot | Läufe verschiedener MAJOR-Versionen sind **nicht** direkt vergleichbar | | **MINOR** | Neue Pflichtschritte oder Messgrößen ohne Änderung der Versuchsbedingung | Läufe bleiben vergleichbar; die Protokolle werden reichhaltiger | | **PATCH** | Fehlerkorrekturen am Ablauf, Dokumentation, Klarstellungen | Ohne Einfluss auf die Messung | **Regel:** Wer den Skill ändert, erhöht die Version im Frontmatter und ergänzt eine Zeile in der Historie unten – im selben Arbeitsschritt. ## Änderungshistorie | Version | Änderung | Grund | Verwendet in | |---|---|---|---| | **8.0.0** | **Neuer Python-API-Adapter für GLM- und Kimi-Modelle über den TensorX-Gateway.** Das Skript `glm-kimi-adapter.py` implementiert einen minimalen Agent-Loop mit Tool-Calling (read_file, list_directory, search_files, execute_command, write_file) direkt gegen die OpenAI-kompatible TensorX-API (`https://api.tensorx.ai/v1`). Modelle: `z-ai/glm-5.2` und `moonshotai/kimi-k3`. Der API-Key wird automatisch aus der Cline providers.json gelesen. Token-Verbrauch wird pro Turn aus dem API-Response `usage`-Objekt akkumuliert, inkl. Reasoning-Tokens (`completion_tokens_details.reasoning_tokens`). Effort-Mapping anhand des Modell-Präfixes: `z-ai/*` nutzt `thinking.level`, `moonshotai/*` nutzt `reasoning_effort`. Nur Modus `solo` freigegeben. Neue Modell-Tabelle für TensorX-Modell-IDs im Vorbereitungsabschnitt. | Die Cline CLI (`npm i -g cline`) versprach einen Headless-Modus mit GLM-Support, ihr natives Binary (143 MB, Bun-kompiliert) wurde jedoch durch die Application-Control-Richtlinie der Maschine blockiert (EPERM/Zugriff verweigert). Der Python-Adapter umgeht dieses Problem und bietet zusätzliche Vorteile: exakte Token-Metriken direkt aus der API (inkl. Reasoning-Tokens, die Claude Code nur als `thinking_tokens` liefert), keine externen Binary-Abhängigkeiten, API-Key aus bestehender Cline-Konfiguration. MAJOR, da neues Werkzeug mit anderer Isolationsarchitektur und anderen Metrik-Quellen eine neue Versuchsbedingung bildet; der nächste Lauf eröffnet eine neue Iteration. | ab dem ersten GLM/Kimi-Lauf | | **7.0.0** | **Isolationsmechanismus wird modusabhängig.** In den Modi `solo` und `builtin` unverändert `--safe-mode`; im Modus `custom` und bei jedem Lauf mit `--mcp-config` **kein** `--safe-mode`, stattdessen `--strict-mcp-config` plus `--disallowedTools Skill WebSearch WebFetch SlashCommand`. Neue Pflicht-Umgebungsprüfung auf Hooks, Plugins und Output-Styles im User-Profil; neue Protokollfelder für die MCP-Konfiguration und die Umgebungsprüfung. | `--safe-mode` schaltet ausweislich der CLI-Hilfe „MCP servers, custom commands and agents" ab – also genau das, was V2 und V3 untersuchen. Smoke-Test am 2026-08-26 (CLI 2.1.246, identischer Aufruf, nur `--safe-mode` variiert): mit Flag `spawned` = 0 und die Meldung, die Rollen seien „nicht in der Agent-Registry registriert"; ohne Flag `spawned` = 2 mit `{"modulinventar": 1, "konsistenzpruefer": 1}`. Ohne Ersatz hätte der erste V2-Lauf stillschweigend als V1-Lauf gemessen. Der Ersatz wurde gegengeprüft: nichts vorgeladen, keine Skills, kein Webzugriff, alle Rollen verfügbar. **MAJOR: Läufe im Modus `custom` sind hinsichtlich der Isolation nicht unmittelbar mit `solo`- und `builtin`-Läufen vergleichbar** – Plugins, Hooks und Output-Styles sind dort nicht durch das Flag, sondern nur durch die Umgebungsprüfung ausgeschlossen. | ab dem ersten V2-Lauf | | **6.1.0** | Zwei adapterunabhängige Pflichtprüfungen nach jedem Lauf: **(a)** `Ergebnisse\` darf nicht leer sein – sonst Fehlmessung, unabhängig von `is_error`; **(b)** `Stderr.log` auf Abbruchmeldungen prüfen. Der Ausführungsabschnitt setzt `CLAUDE_CODE_PRINT_BG_WAIT_CEILING_MS=0`. Neues Protokollfeld „Gültigkeit". Dokumentiert, dass die Rückgabe eines Hintergrund-Subagenten eine Start-Quittung ist und ihre Länge kein Ertragsmaß. | Lauf `…160037_v4.5.0-116d` meldete `is_error: false`, `subtype: success` und lieferte **null Ergebnisdateien** bei 193,4 Mio. Tokens – der Headless-Modus hatte nach 600 s abgebrochen, während zehn Hintergrund-Subagenten noch liefen. Ohne die neue Prüfung wäre der Lauf als gültiger Messpunkt mit „0 Anforderungen" in den Modellvergleich eingegangen. MINOR: neue Prüfschritte; die Umgebungsvariable ändert die Versuchsbedingung für künftige `builtin`-Läufe und ist dort zu vermerken. | ab sofort | | **6.0.0** | **Windows-taugliche Codex-Isolation.** Pro Lauf wird im System-Temp-Verzeichnis außerhalb des IDE-Projektbaums eine Kopie der versionierten und nicht ignorierten Dateien des Codebasis-Roots erstellt. Codex läuft ausschließlich dort mit `--sandbox workspace-write`; SHA-256-Manifeste vor und nach dem Lauf erkennen jede Änderung. Ergebnisse und Nachweise bleiben im Laufverzeichnis, die temporäre Kopie wird danach entfernt. | Der erste Codex-Lauf mit 5.0.0 konnte fachlich nicht starten, weil die Windows-Read-only-Sandbox sämtliche lesenden Kindprozesse vor dem Start blockierte. Eine Kopie im Laufverzeichnis wurde zudem vom C#-Projektservice automatisch mit ignorierten `obj`-Dateien verändert. MAJOR, weil Sandboxmodus und Arbeitsverzeichnis eine neue Versuchsbedingung bilden; der erste Lauf eröffnet deshalb eine neue Iteration. | ab dem ersten wiederholten Codex-Lauf | | **5.0.0** | **Neuer Codex-CLI-Adapter für OpenAI-Modelle.** Exakte OpenAI-Modell-IDs, expliziter Reasoning-Effort und Service-Tier; technisch read-only ausgeführtes `codex exec`; schemaerzwungene Dateirückgabe; JSONL-Rohdaten und deterministische Normalisierung nach `RawResult.json`. Codex ist zunächst nur im Modus `solo` freigegeben. Zusätzlich fünf beschädigte Backslashes vor `analyse-anforderungen.py`, `anforderungen.*` und `after.txt` repariert. | Der bisherige Skill konnte nur Claude Code ausführen. Ein Codex-Lauf braucht andere Isolations-, Ausgabe- und Messmechanismen. MAJOR, weil Werkzeug, Rohdatenformat und Ergebnisübergabe neue Versuchsbedingungen bilden; der nächste Lauf eröffnet deshalb eine neue Iteration. | ab dem ersten Codex-Lauf | | **1.0.0** | Ausgangsfassung: `--permission-mode acceptEdits`, kein Shell-Zugriff; Isolation durch Löschen der KI-Konfigurationsdateien im Root vor dem Lauf und `git restore` danach | Erstaufsetzung des Versuchsaufbaus | Lauf 1 (`01_Lauf_2026-08-25_1228`) | | **2.0.0** | `--allowedTools "Bash" "PowerShell"` + 33er-Denylist für schreibende und bauende Kommandos. Isolation über **eingefrorenen Codebasis-Snapshot ohne KI-Konfigurationen** (Commit `79c1142`, Parent `89ccfd6`, GitHub-Remote entkoppelt), zusätzlich `--safe-mode` und `--strict-mcp-config`. Der destruktive Lösch-/Restore-Schritt pro Lauf entfällt. `permission_denials` und `subagent_stats` werden reguläre Messgrößen; Verbrauchstabelle trennt Hauptagent und Gesamtlauf. CLI-Pfad-Auflösung als eigener Schritt. | Lauf 1 erzeugte 36 Permission-Denials (32 × Bash, 4 × PowerShell); Shell-gestützte Verzeichnisinventuren fehlten dem Agenten. `--safe-mode` allein genügt nicht: Es unterdrückt das Vorladen von `CLAUDE.md`/`AGENTS.md`, verhindert aber nicht, dass der Agent sie mit Shell-Zugriff selbst liest – im Smoke-Test nachgewiesen. | Lauf 2 (`01_Lauf_2026-08-25_1349`, API-Abbruch) | | **2.0.1** | `before.txt` wird leerwertsicher geschrieben (`Set-Content -Value (… \| Out-String)` statt Pipeline) | Bei sauberem Root schreibt `Set-Content` aus leerer Pipeline die Datei nicht und lässt alten Inhalt stehen; der Vorher/Nachher-Vergleich meldete dadurch eine Abweichung, die es nicht gab | Lauf 3 (`01_Lauf_2026-08-25_1429`) | | **2.1.0** | **Modell wird vor jedem Lauf beim User erfragt** (Pflichtparameter, kein Default); Kurzformen `opus`/`sonnet`/`fable` untersagt | Das Modell ist eine unabhängige Variable und wurde bis dahin ad hoc gewählt. Kurzformen lösen auf das jeweils neueste Modell auf und verschieben die Versuchsbedingung über die Zeit. | Lauf 4 (`01_Lauf_2026-08-25_1505`) | | **2.1.1** | Warnung zur Snapshot-Prüfung: Regex nicht vereinfachen, `Select-String` ist case-insensitiv; Beispiel-Falschtreffer dokumentiert | Ein verkürztes Muster sprach auf echte Produktdateien an (`ClaudeCodeChatModelClient.cs`, `GoogleGeminiChatModelClient.cs` – KI-Assistenz-Feature der ERP-Suite) und hätte beinahe einen Fehlabbruch ausgelöst | – | | **3.0.0** | **Agentenmodus als Pflichtparameter** (`solo` / `builtin` / `custom`), vor jedem Lauf beim User erfragt. `solo` sperrt `Task`/`Agent`, `custom` übergibt vordefinierte Agenten per `--agents`. Neue Protokollfelder: Agentenmodus und Kontrolle `subagent_stats.spawned`. | Der Subagenten-Einsatz schwankte bei identischem Prompt zwischen 0 und 14 und war damit die dominierende Störgröße: Drei Läufe unter sonst identischer Bedingung ergaben 55 / 106 / 325 Anforderungen und 27,6 / 11,5 / 52,7 Mio. Tokens (Faktor 5,9 bzw. 4,6). Ohne Festlegung des Modus ist keine Bedingung sauber messbar. | ab Versuch 1 neu | | **3.1.0** | **Parallelfähigkeit**: Laufverzeichnis sekundengenau plus Modus und 4-stellige Zufalls-ID; alle Steuerdateien nach `_meta\` im Laufverzeichnis statt in den gemeinsamen Scratchpad; neue Protokollfelder „Laufverzeichnis-ID" und „Parallele Läufe"; Abschnitt zu den messtechnischen Grenzen des Parallelbetriebs | Minutengenaue Namen kollidieren bei zwei Starts in derselben Minute, und geteilte Scratchpad-Dateien (`before.txt`, `combined_prompt.md`, Zeitstempel) hätten sich zwischen parallelen Läufen gegenseitig überschrieben. Nebeneffekt: Der exakt gesendete Prompt ist nun je Lauf archiviert. | – | | **3.2.0** | Verzeichnisname enthält zusätzlich **Modell-Kurzform und Skill-Version**: `_Lauf____v-`. Solo-Modus sperrt zusätzlich **`Workflow`**. | Modell, Modus und Skill-Version sind die unabhängigen Variablen der Reihe und waren bisher nur im Protokoll sichtbar – im Namen verhindern sie, dass Läufe verschiedener Bedingungen gemeinsam ausgewertet werden. Die `Workflow`-Sperre schließt eine im Verifikationstest entdeckte Lücke: Nach der Sperre von `Task`/`Agent` versuchte der Agent, über `Workflow` zu orchestrieren. | ab Lauf 7 | | **3.3.0** | **Subagenten-Prompts werden protokolliert.** Neues Skript `extract-subagenten.py` zieht aus dem Session-Transkript alle Subagenten-Aufrufe samt vollständigem Prompt nach `_meta\subagenten.md` / `.json`; neues Protokollfeld „Subagenten-Prompts". | Die selbstgewählte Zerlegung der Analyse ist die dominierende Störgröße (0 bis 14 Subagenten bei identischem Prompt) und war bisher nur als Zahl sichtbar. Mit den Prompts wird sie inhaltlich auswertbar und für V2 zum Vergleichsmaßstab gegenüber vorformulierten Agenten. | rückwirkend für alle Läufe angewandt | | **3.4.0** | **Effort als dritter Pflichtparameter**: `--effort` wird vor jedem Lauf erfragt und im Protokoll geführt; Thinking-Tokens sind in der Verbrauchstabelle vorgesehen. | Der Denkaufwand ist eine unabhängige Variable, wurde aber bis dahin nur aus der Sitzung geerbt und nirgends dokumentiert. `RawResult.json` enthält **kein** `effort`-Feld – nachträglich ist er nur aus dem Session-Transkript belegbar. Rekonstruktion ergab: alle Läufe 1 bis B liefen auf `high`, die Bedingung war also konstant. | ab dem nächsten Lauf | | **3.5.0** | **Berichtete Aufwandsgröße ist der Tokenverbrauch statt der USD-Kosten.** Verbrauchstabelle und alle Vergleiche führen „Tokens gesamt" (Input + Output + Cache-Write + Cache-Read über alle Modelle); `total_cost_usd` bleibt als Rohwert in `RawResult.json`, wird aber nicht mehr ins Protokoll übernommen. | USD-Beträge hängen an Preisliste und Modellwahl und veralten. Token sind die unmittelbare Verbrauchsgröße, bleiben über Preisänderungen und Modellwechsel hinweg vergleichbar und sind in der Arbeit ohne Währungsbezug zitierbar. | rückwirkend auf alle Protokolle angewandt | | **3.6.0** | **Verschachtelte Subagenten dokumentiert und verifiziert.** Belegt, dass `modelUsage` auch Sub-Subagenten (Tiefe ≥ 2) erfasst; neues Protokollfeld „Verschachtelung" mit `spawned`, `spawned_by_subagents` und `max_depth`. Festgehalten, dass Subagenten-Transkripte nicht separat persistiert werden. | Bis dahin war unbelegt, ob tiefere Ebenen in die berichtete Tokensumme einfließen. Kontrolltest mit erzwungener Kaskade (Arbeit ausschließlich auf Tiefe 2): 49.103 Tokens im Hauptagenten gegenüber 1.689.288 in `modelUsage` – die Differenz stammt nachweislich vom Enkel-Agenten. | ab sofort | | **3.7.0** | **Effort im Verzeichnisnamen**: `_Lauf____e_v-`, z. B. `_sonnet5_solo_ehigh_v3.7.0-a3f1`. | Das Schema entstand, als der Effort bei allen Läufen konstant `high` war. Mit dem ersten `max`-Block (Läufe P, Q) variiert er – gleichnamige Verzeichnisse hätten unterschiedliche Bedingungen bezeichnet und damit den Zweck des Schemas verfehlt. Der Effort ist zudem als möglicherweise stärkste Einflussgröße aufgefallen: Der `max`-Block erreichte die höchsten Thinking-Token-Werte der gesamten Reihe. | rückwirkend auf alle Laufverzeichnisse angewandt | | **3.8.0** | **Pflichtprüfung der tatsächlich eingesetzten Modelle.** `modelUsage` ist nach jedem Lauf gegen das angeforderte Modell abzugleichen; neue Protokollfelder „Modell (angefordert)", „Modelle (tatsächlich eingesetzt)" und „Kontrolle Modell". | `--model` steuert nur den Hauptagenten. Im Lauf `fable5_builtin_ehigh_v3.7.0-15db` liefen die 13 Subagenten auf `claude-opus-5[1m]` statt auf Fable – 91 % des Verbrauchs entfielen auf ein nicht angefordertes Modell, und der Lauf wurde mit 150,3 Mio. Tokens der teuerste der Reihe. Ohne diese Prüfung bleibt die Bedingungsverletzung unbemerkt. | ab sofort; Gegenprüfung der 23 Vorläufe ergab keine weiteren Fälle | | **3.9.0** | **Pflichtabschnitt „Gefundene Anforderungen" im Protokoll.** Neues Skript `analyse-anforderungen.py` wertet die erzeugten Anforderungen aus: Verteilung, Typen, Belegqualität (`PRIMÄR`/`SEKUNDÄR`/`KONTEXT`), Status, Konsolidierungskandidaten und **Regelkonformität gegen die Vorgaben des Prompts**. | Die Protokolle maßen bis dahin nur den Aufwand, nicht den Ertrag. Die reine Anforderungsanzahl taugt nicht als Qualitätsmaß (Streuung Faktor 5,9 bei gleicher Bedingung); Belegdichte und Regelverstöße sind inhaltliche Größen. Erste Anwendung deckte sofort Verstöße gegen die risikobasierte Priorisierung auf. | rückwirkend auf alle 24 Protokolle angewandt | | **3.10.0** | **Bedingungen als Ordnerstruktur statt im Dateinamen.** Ablage unter `\\\`; der Verzeichnisname lautet wieder `_Lauf__v-`. Neues Protokollfeld „Ablage". | Der Name wuchs mit jeder unabhängigen Variable und war mit fünf Bestandteilen kaum lesbar. Als Ordnerebenen sind die Bedingungen navigierbar, je Zelle unmittelbar abzählbar und um weitere Variablen erweiterbar, ohne bestehende Namen zu brechen. | rückwirkend auf alle 24 Läufe angewandt | | **4.0.0** | **Ausrichtung auf Kapitel 4 der Arbeit.** Skill zweigeteilt in `## Prozess` (werkzeugneutral) und `## Werkzeugadapter` (konkrete Aufrufe, derzeit nur Claude Code). Der Prompt trägt nur noch die Analyseanweisung; Werkzeugkontext und Ausgabeverzeichnis werden zur Laufzeit angehängt. Versuchszuordnung korrigiert: **V1 = `solo`, V1b = `builtin`**. Neue Protokollfelder: Kontextfenster, Sampling-Parameter, lokale Runtime-Angaben, Abschnitt Validierungsstichprobe. Abschnitt „Gefundene Anforderungen" den drei Qualitätsdimensionen zugeordnet. | Prompt und Skill waren über 24 Läufe organisch gewachsen und stellenweise nicht mehr deckungsgleich mit Kap. 4. Der Prompt enthielt Aussagen zur Werkzeugkonfiguration, die dort nicht hingehören und ihn an Claude Code banden; der Skill verankerte weder den Evaluationsrahmen noch die von Kap. 4.3 geforderten Reproduzierbarkeitsangaben. MAJOR, weil sich die Zuordnung der Versuchsbedingungen ändert. | ab sofort | | **4.1.0** | **Ebene `` über den Bedingungen**: `Tag 1`, `Tag 2`, …; Schritt 8 ermittelt den höchsten vorhandenen Tag. Protokollfeld „Ablage" entsprechend erweitert. | Der Versuchsaufbau änderte sich am ersten Tag über 17 Skill-Versionen hinweg. Die Tagesebene hält Blöcke auseinander, die unter unterschiedlichem Stand entstanden sind, und macht sichtbar, welche Läufe überhaupt unter vergleichbaren Rahmenbedingungen liefen. | rückwirkend: alle 24 Läufe nach `Tag 1` verschoben | | **4.5.0** | `extract-subagenten.py` trennt am Nebenläufigkeitslimit **abgewiesene** Aufrufe von echten Subagenten-Starts und weist sie getrennt aus. | Der erste Lauf mit mehr als 20 gleichzeitigen Subagenten (`Iteration 3/…/125032_v4.4.0-fb24`, 31 gestartet, `refused.concurrency_limit` = 29) meldete eine Abweichung von 21 gefundenen gegenüber 13 erwarteten Aufrufen. Ursache waren 8 Absagen im Haupttranskript, die wie Starts aussehen, aber nur „Concurrent subagent limit reached" zurückliefern und nicht in `spawned` zählen. Ohne die Trennung wäre jeder stark parallelisierende Lauf mit einer Scheinwarnung versehen. MINOR: neue Messgröße, keine Änderung der Versuchsbedingung. | ab sofort; die drei `builtin`-Läufe der Iteration 3 wurden neu extrahiert und stimmen exakt überein | | **4.4.0** | Zwei Umbenennungen zur Auflösung einer Begriffskollision. **(a)** Ordnerebene `` → `` (`Tag N` → `Iteration N`), mit ausformuliertem Kriterium: Eine neue Iteration eröffnet, was Läufe nicht mehr poolbar macht – Codebasis-Snapshot, Prompt-Version, Werkzeugkonfiguration oder eine MAJOR-Version dieses Skills. **(b)** Die Fassung der Prompt-Datei heißt nicht mehr „Iteration", sondern **Prompt-Version**; Protokollfeld entsprechend umbenannt. | „Tag" band die Ebene an das Kalenderdatum, obwohl sie die Vergleichbarkeit abbildet: Am 26.08. entstanden zwei nicht poolbare Blöcke am selben Tag – ohne und mit dem DB-Schema-Dump `SSMS_DB_SCHEMA.sql` (Commit `f349d189`). Die Umbenennung in „Iteration" kollidierte dann mit der Prompt-Iteration: Iteration 2 und Iteration 3 laufen beide unter derselben Prompt-Fassung. Erst die zweite Umbenennung macht beide Begriffe eindeutig. MINOR: reine Benennung, keine Änderung der Versuchsbedingung. | rückwirkend: `Tag 1` → `Iteration 1` (24 Läufe), `Tag 2` → `Iteration 2` (5 Läufe); die fünf Läufe mit DB-Schema nach `Iteration 3`. Die Prompt-Dateien selbst bleiben unverändert – ihre SHA-256 sind in 33 Protokollen dokumentiert. | | **4.3.0** | `analyse-anforderungen.py` bestimmt die Ebene einer Anforderung aus dem Feld `Ebene:` beziehungsweise dem ID-Präfix statt aus dem Dateinamen und weist Fremdablage als eigene Auffälligkeit aus. | Das Skript zählte die Ebene nach der Datei, in der ein Block stand. Im Lauf `Iteration 2/…/094250_v4.2.1-c69e` lagen 12 StRS- und 5 SyRS-Blöcke in `SwRS.md`; die Verteilungstabelle meldete daraufhin 9/10/141 statt der tatsächlichen 21/15/124. Die Gesamtzahl war korrekt, die Verteilung – Kenngröße der Set-Qualität nach Kap. 4.3 – nicht. Gegenprobe an einem sauber abgelegten Lauf (`084301_v4.2.0-d6f9`): unverändert 20/120/30. MINOR, weil eine Messgröße korrigiert und eine neue Auffälligkeit ergänzt wird, ohne die Versuchsbedingung zu ändern. | ab sofort; die 24 Protokolle von Iteration 1 wurden geprüft: keine Fremdablage | | **4.2.1** | Vorher/Nachher-Prüfung des Roots wird **pfadskopiert** ausgeführt: `git -C status --porcelain -- ` statt `git -C status --porcelain` (Schritte 7, 9 und Abschnitt 4). | Seit Commit `f045b99a` liegt die Codebasis als Dateien im Arbeitsrepo statt als Gitlink. Die unskopierte Abfrage lieferte damit den Status des gesamten Arbeitsrepos – beim Lauf `Iteration 2/…/084301_v4.2.0-d6f9` rund 55 KB Ausgabe, praktisch nur Versuchsdateien. Ohne Pfadfilter hätte die Read-only-Verifikation ab sofort bei **jedem** Lauf eine Abweichung gemeldet, die es nicht gibt. PATCH: keine Änderung der Versuchsbedingung, nur eine korrigierte Messung. | ab Lauf `084301_v4.2.0-d6f9` (dort bereits so ausgeführt und im Protokoll vermerkt) | | **4.2.0** | **Auswahlregel bei mehreren Prompt-Versionen**: ohne ausdrückliche Angabe gilt die höchste Prompt-Versionsnummer; neues Protokollfeld „Prompt-Version". Ältere Fassungen bleiben unverändert. | Mit `02_Prompt.md` liegt erstmals mehr als eine Fassung im Versuchsordner. Ohne Regel wäre unklar, welche gilt, und der SHA-256 im Protokoll ließe sich keiner Datei mehr zuordnen. Bei der Einführung fiel auf, dass `01_Prompt.md` nachträglich verändert worden war – der in 24 Protokollen dokumentierte Hash zeigte auf eine Fassung, die es nicht mehr gab. | ab Prompt-Version 02 | ## Parallele Läufe Mehrere Läufe dürfen gleichzeitig gestartet werden. Voraussetzung ist, dass **kein Zustand geteilt** wird: - **Verzeichnisname** ist sekundengenau und trägt Modus plus 4-stellige Zufalls-ID – zwei gleichzeitige Starts können nicht kollidieren (Schritt 7 würfelt bei Kollision neu). - **Alle Steuerdateien** (`combined_prompt.md`, `before.txt`, `after.txt`, Zeitstempel) liegen in `_meta\` **im jeweiligen Laufverzeichnis**. Der gemeinsame Scratchpad wird für Laufdaten **nicht** verwendet – dort würden parallele Läufe einander überschreiben. - **Der Codebasis-Snapshot wird nur gelesen.** Beliebig viele Läufe dürfen ihn gleichzeitig lesen. Die Vorher/Nachher-Prüfung bleibt gültig, weil kein Lauf schreibt. - **Endeerkennung je Lauf** über das Erscheinen der eigenen `RawResult.json`, nicht über einen gemeinsamen Marker. **Messtechnische Einschränkung – im Protokoll zwingend vermerken.** Gleichzeitig laufende Versuche konkurrieren um CPU, Netzwerk und API-Kontingent. Betroffen sind: | Messgröße | Bei Parallelbetrieb | |---|---| | Wanduhrzeit | **verzerrt** – nicht mit seriellen Läufen vergleichbar | | `duration_ms`, `duration_api_ms` | **verzerrt** | | Tokenverbrauch, Anforderungsanzahl, Denials | unverzerrt | Für Laufzeitvergleiche daher **seriell** messen. Parallelbetrieb eignet sich, um schnell mehrere Datenpunkte für Umfang, Tokenverbrauch und Varianz zu sammeln. Das Feld **„Parallele Läufe"** im Protokoll nennt die zeitgleich laufenden Laufverzeichnisse; steht dort etwas anderes als `nein`, sind die Zeitangaben des Laufs nicht für Laufzeitvergleiche zu verwenden. ## Zuordnung Versuch ↔ Agentenmodus Nach Kapitel 4 der Arbeit (Versuchsdesign): | Versuch | Modus | Bedeutung | |---|---|---| | **V1** – Baseline (Prompt-only) | `solo` | Ein Thread, ein Kontext; keine Subagenten | | **V1b** – Baseline mit werkzeugeigenen Agenten | `builtin` | Eingebaute Subagenten des Werkzeugs zugelassen | | **V2** – Agentengestützt | `custom` | Rollenspezialisierte Agentendateien: Stakeholder, System, Software, ISO-29148-Orchestrator | | **V3** – Werkzeugzugriff | `custom` + MCP | Wie V2, zusätzlich externe Werkzeugserver | **Abgrenzung V1 gegen V1b.** Die Arbeit unterscheidet zwischen *Agentendateien* (V2) und den *werkzeugeigenen* Subagenten, die eine CLI von sich aus mitbringt. Letztere sind keine Konfigurationsartefakte und damit nach dem Wortlaut von V1 nicht ausgeschlossen – ihr Einsatz verändert die Ergebnisse jedoch erheblich. V1b trennt beide Fälle, sodass der Effekt der werkzeugeigenen Delegation getrennt vom Effekt der rollenspezialisierten Agentendateien messbar wird. **Bisherige Läufe.** Die 24 Läufe in `Versuche/Versuch_01/` verteilen sich auf V1 (`solo`) und V1b (`builtin`). Die Ordnerstruktur macht die Zuordnung unmittelbar sichtbar; die Zellen sind über `ls "///" | wc -l` abzählbar. Alle 24 liegen unter `Iteration 1`.