@@ -1,33 +1,28 @@
#import "@preview/cetz:0.4.2"
#set text ( lang : "de" )
#let __is_thesis = context { query ( < __thesis_document > ) . len ( ) > 0 }
#if __is_thesis = = false [
#set cite ( style : "apa" )
#hide ( bibliography ( "../literatur.bib" , style : "apa" ) )
]
#set terms ( separator : [ ] , hanging-indent : 0 pt , tight : false )
#show terms . item : it = > block ( below : 0.8 em , [
#strong ( it . term ) \
#it .description
] )
#show terms : it = > block ( below : 1.6 em , it )
#heading ( level : 1 ) [ Konzeption und methodisches Vorgehen (ca. 12 Seiten)]
Dieses Kapitel beschreibt die Methodik, mit der die in Kapitel 1 beschriebenen Ziele und Forschungsleitfragen beantwortet werden sollen. Ausgangspunkt ist das methodische Design. Aus diesem Design leiten sich alle weiteren methodischen Entscheidungen ab. Vorausgegangene Proof-of-Concept-Läufe haben einzelne Aspekte des Vorgehens informell erprobt und das hier dargestellte Vorgehen geprägt, sie sind aber nicht Gegenstand der Auswertung. Die eigentliche Untersuchung wird in den folgenden Abschnitten geplant und in den folgenden Kapiteln durchgeführt und bewertet.
#heading ( level : 2 ) [ Werkzeug-Grundlagen: Agentische CLIs, Agenten, MCP und lokale Inferenz]
Bevor das eigentliche Unt ersuchungsdesign beschrieben wird, werden die zentralen Werkzeug-Begriffe geklärt, an denen die spätere Versuchsreihe variiert. Sie sind nicht nur Hilfsmittel der Durchführung, sondern definieren genau die Stellschrauben, die in den Versuchen V1 bis V3 systematisch hinzugenommen werden. Die folgende Darstellung beschränkt sich auf das für diese Arbeit relevante Maß und ersetzt keine vollständige Werkzeugdokumentation. Das Zusammenspiel der vier Bausteine ist in @abb_werkzeug_grundlagen skizziert.
Bevor der eigentliche V ersuchsaufbau beschrieben wird, werden die zentralen Werkzeug-Begriffe geklärt, an denen die spätere Versuchsreihe variiert. Sie sind nicht nur Hilfsmittel der Durchführung, sondern definieren genau die Stellschrauben, die in den Versuchen V1 bis V3 systematisch hinzugenommen werden. Die folgende Darstellung beschränkt sich auf das für diese Arbeit relevante Maß und ersetzt keine vollständige Werkzeugdokumentation. Das Zusammenspiel der vier Bausteine ist in @abb_werkzeug_grundlagen skizziert.
* Agentische CLIs.* Eine agentische CLI ist ein Kommandozeilen-Werkzeug, in dem ein LLM nicht nur Text generiert, sondern selbständig Dateien liest, Befehle ausführt und Tools aufruft. Im Gegensatz zum klassischen Chat-Prompting b leibt der Anwender nicht der einzige Akteur; die CLI orchestr iert mehrere Modell aufrufe und Werkzeuginteraktionen in einer S chleife, bis ein vorgegebenes Ziel erreicht i st. Etablierte V ertreter sind Claude Co de von Anthropic @claudecode_quickstart_2026 , d ie Codex-CLI von OpenAI sowie die Qwen Code CLI von Alibaba. Für diese Arb eit ist die agentische CLI die operative Basis. S ie macht LLM-Läufe scriptbar, reproduzierbar und unabhängig von einer interaktiven Chat-Oberfläche .
/ Agentische CLIs: Eine LLM CLI ist ein Kommandozeilen-Werkzeug, das einem LLM den direkten Zugriff auf die lokale Arbeitsumgebung erlaubt. Es kann nicht nur online Artefakte erzeugen, sondern auch lokale Dateien lesen und bearbeiten sowie Shell-Befehle ausführen oder lokal install ierte Tools aufrufen. Innerhalb einer Ausführungss chleife entscheidet das LLM selb st, welches W erkzeug es auf dem lokalen Computer aufrufen möchte. D ie CLI stellt dafür lediglich die Laufzeitumgebung und den Zugriff auf die lokalen Werkzeuge ber eit. In dieser Arbeit kommen Claude Code , d ie Codex-CLI sowie die Qwen Code CLI zum Einsatz .
* Agenten und Agentendateien.* Agenten im hier verwendeten Sinne sind rollenspezialisierte Konfigurationen, die innerhalb einer agentischen CLI als Sub-Prozesse aufgerufen werden. Sie werden typischerweise als Markdown-Dateien mit YAML-Frontmatter abgelegt und enthalten drei Bestandteile: einen Auftrag (was tut der Agent), eine eigene Systemanweisung (wie tut er es) und ein begrenztes Toolset (womit darf er es tun). Die aufrufende CLI startet einen solchen Agenten mit eigenem Kontextfenster, sodass dessen Zwischenergebnisse den Hauptkontext nicht überfluten. In dieser Arbeit tragen Agenten Versuch V2, indem sie die Extraktion auf vier Rollen aufteilen: Stakeholder-Analyse, System-Requirements, Software-Requirements und einen ISO-29148-Orchestrator.
/ Agenten und Agentendateien: LLM Agenten sind rollenspezialisierte Konfigurationen (Prompts) , die innerhalb einer agentischen CLI als Sub-Prozesse aufgerufen werden. Sie werden typischerweise als Markdown-Dateien abgelegt und enthalten drei Bestandteile: einen Auftrag (was tut der Agent), eine eigene Systemanweisung (wie tut er es) und ein begrenztes Toolset (womit darf er es tun). Die aufrufende CLI startet einen solchen Agenten mit eigenem Kontextfenster, sodass dessen Zwischenergebnisse den Hauptkontext nicht überfluten.
* Model Context Protocol (MCP).* Das Model Context Protocol ist ein 2024 von Anthropic veröffentlichter offener Standard zur Anbindung externer Werkzeuge und Datenquellen an LLM-Clients @mcp_intro_2026 @ claudecode_mcp_2026 . Ein MCP-Server kapselt eine konkrete Fähigkeit, etwa Symbol-Navigation im Quellcode, lesenden Datenbankzugriff oder GUI-Beobachtung , hinter einer einheitlichen JSON-RPC- Schnittstelle. Ein MCP-Client wie Claude Code entdeckt die angebotenen Werkzeuge zur Laufzeit und ruft sie kontrolliert auf, anstatt dass da s LLM In halte aus Co de oder Datenbank frei rekonstru iert . Für diese Arbeit trägt MCP Versuch V3 und ist gleichzeitig die technische Grundlag e d er Belegpflicht: Eine extrahierte Anforderung lässt sich nur dann nachvoll zieh bar auf einen Codebeleg oder einen Datenbankbefund zurückführen, wenn der Zugriff darauf reproduzierbar erfolgt @mcp_servers_repo_2026 .
/ Model Context Protocol (MCP): Das Model Context Protocol ist ein 2024 von Anthropic veröffentlichter offener Standard zur Anbindung externer Werkzeuge und Datenquellen an LLM-Clients @claudecode_mcp_2026 . Ein MCP-Server kapselt konkrete Fähigkeiten , etwa Symbol-Navigation im Quellcode, Datenbankzugriff oder GUI-Manipulation , hinter einer einheitlichen Schnittstelle. Ein MCP-Client wie Claude Code entdeckt die angebotenen Werkzeuge zur Laufzeit und ruft sie kontrolliert auf, um ein deterministischer Ergebni s zu er halten, anstatt den Aufruf direkt durch das LLM zu gener ieren . So stellt etwa ein MCP-Server für lesenden Datenbankzugriff eine fest definierte SQL-Schnittstell e b ereit, über die das LLM Tabellenstrukturen und Datensätze reprodu zier bar abruft, anstatt sie aus dem allgemeinen Modellwissen zu rekonstruieren .
* Lokale Inferenz-Runtimes.* Eine lokale Inferenz-Runtime ist eine Software, die LLMs auf eigener Hardware ausführt und ihre Funktion über einen OpenAI-kompatiblen HTTP-Endpunkt bereitstellt. Stellvertretend wird i n dieser Arbeit LM Studio eingese tzt , das Modelle wie Qwen 3.5 Coder in verschiedenen Quantisierungsstufen ausführen kann. Für den hier untersuchten Kontext sind zwei Eigenschaften entscheidend. Erstens entfällt der Cloud-Versand, was bei der kundenbezogenen c-entron-Codebasis aus Datenschutzgründen relevant ist. Zweitens werden Quantisierungsstufe und Sampling-Parameter wie Temperatur, top\ _p oder repeat penalty zu reproduzierbarkeitsrelevanten Stellgrößen, die in Versuch V4 zusätzlich zur Modellwahl dokumentiert werden.
/ Lokale Inferenz-Runtimes: Eine lokale Inferenz-Runtime ist eine Software, die LLMs auf eigener Hardware ausführt und ihre Funktion über einen OpenAI-kompatiblen HTTP-Endpunkt bereitstellt. I n dieser Arbeit kommt LM Studio zum Einsa tz, das Modelle wie Qwen 3.5 Coder lokal ausführen kann.
#figure (
cetz . canvas ( {
@@ -49,24 +44,29 @@ Bevor das eigentliche Untersuchungsdesign beschrieben wird, werden die zentralen
let h-half = 0.4
let gap = 0.15
draw-box(0, 5, 2.6, 0.8, "Benutzer")
draw-box(0, 3, 7.4, 0.8, "Agentische CLI (Claude Code / Codex / Qwen)")
draw-box(-4.6, 1, 3.6, 0.8, "LLM (Cloud / LM Studio)")
draw-box(0, 1, 2.8, 0.8, "Agentendateien")
draw-box(4.6, 1, 3.6, 0.8, "MCP-Server")
draw-box(4.6, -1, 3.6, 0.8, "Codebasis / Datenbank")
draw-box( 0 , 5 , 2.6 , 0.8 , "Benutzer")
draw-box( 0 , 3.5 , 4.0 , 0.8 , "Agentische CLI" )
draw-box( 5 , 3.5 , 4.0 , 0.8 , "LLM (Cloud / LM Studio)")
draw-box( - 4 , 1 , 3.6 , 0.8 , "Agentendateien")
draw-box( 4 , 1 , 3.6 , 0.8 , "MCP-Server")
draw-box( 0 , - 1 , 3.6 , 0.8 , "Codebasis" )
draw-box ( 4 , - 1 , 3.6 , 0.8 , "Datenbank" )
draw-arrow((0, 5 - h-half - gap), (0, 3 + h-half + gap))
draw-arrow((0, 3 - h-half - gap), (-4.6, 1 + h-half + gap))
draw-arrow((0, 3 - h-half - gap), (0, 1 + h-half + gap))
draw-arrow((0, 3 - h-half - gap), (4.6, 1 + h-half + gap))
draw-arrow((4.6, 1 - h-half - gap), (4.6, -1 + h-half + gap))
draw-arrow( ( 0 , 5 - h-half - gap ) , ( 0 , 3.5 + h-half + gap ) )
line (
( 0 + 4.0 / 2 + gap , 3.5 ) ,
( 5 - 4.0 / 2 - gap , 3.5 ) ,
mark : ( start : ">" , end : ">" ) ,
stroke : black + 0.6 pt ,
)
draw-arrow ( ( 0 , 3.5 - h-half - gap ) , ( - 4 , 1 + h-half + gap ) )
draw-arrow ( ( 0 , 3.5 - h-half - gap ) , ( 4 , 1 + h-half + gap ) )
draw-arrow ( ( 0 , 3.5 - h-half - gap ) , ( 0 , - 1 + h-half + gap ) )
draw-arrow ( ( 4 , 1 - h-half - gap ) , ( 4 , - 1 + h-half + gap ) )
} ) ,
caption: [Zusammenspiel der vier Werkzeug-Bausteine. Die agentische CLI orchestriert das LLM, ruft rollenspezialisierte Agentendateien als Sub-Prozesse auf und steuert MCP-Server, die kontrolliert auf Codebasis und Datenbank zugr eif en.],
caption: [ Hierarchie der Werkzeuge. Der Anwender ruft die agentische CLI auf. Diese übergibt das initiale Prompt und das verfügbare Toolset an das LLM und erhält dessen Antworten samt Tool-Aufrufen zurück. Die CLI führt die vom LLM erbetenen Aufrufe aus. Die Codebasis ist direkt über die CLI zugänglich. Der Zugriff auf die Datenbank erfolgt ausschließlich über ein en MCP-Server.] ,
) <abb_werkzeug_grundlagen>
Damit sind die Bausteine benannt, an denen die spätere Versuchsreihe variiert. Versuch V1 nutzt ausschließlich die agentische CLI ohne weitere Bausteine, V2 ergänzt Agentendateien, V3 ergänzt MCP-Server, und V4 prüft die Übertragbarkeit auf alternative Modelle einschließlich lokaler Inferenz. Die Begriffe werden in den folgenden Abschnitten nicht erneut definiert.
#heading ( level : 2 ) [ Methodisches Design im Überblick]
Das Vorgehen ist entlang der vier Forschungsleitfragen aus Kapitel 1 strukturiert. Diese werden im Folgenden mit Frage 1 (Steuerung und Reproduzierbarkeit), Frage 2 (KI-Extraktion und Stakeholder-Input), Frage 3 (Qualitätsbewertung) und Frage 4 (Chancen, Grenzen und Risiken) bezeichnet. Aus jeder Leitfrage folgt unmittelbar eine Datenquelle und ein Auswertungsweg. Damit ist sichergestellt, dass die methodischen Bausteine nicht nachträglich auf die Fragen abgebildet werden, sondern aus ihnen hervorgehen.
@@ -129,7 +129,7 @@ Der untersuchte Prozess folgt einer durchgehenden Kette von der Codebasis bis zu
Aus diesem Ablauf ergeben sich drei methodische Module, die in den folgenden Abschnitten ausgearbeitet werden. Erstens der *kontrollierte Tooling-Vergleich* . Es ist eine Versuchsreihe vorgesehen, die auf derselben Codebasis und mit demselben Grundprompt arbeitet und sich gezielt nur in einzelnen Werkzeugkomponenten unterscheidet. Die konkrete Anzahl und Zuschnitt der Versuche werden im Untersuchungsdesign festgelegt. Zweitens die *strukturierte Stakeholder-Validierung* . Jede extrahierte Anforderung soll durch Domänenexperten geprüft, anhand einer Likert-Skala bewertet und durch halbstrukturierte Interviews ergänzt werden. Drittens die *RE-Qualitätsbewertung* . Die Bewertungskriterien werden vor der Durchführung definiert, sodass eine nachträgliche Kriterienwahl ausgeschlossen ist. Die Bewertung schließt neben der klassischen RE-Qualität auch die Migrations- und Konsolidierungsperspektive ein, also die Frage, ob eine extrahierte Anforderung im Zielsystem in dieser Form erhalten bleiben oder mit anderen zusammengeführt werden sollte.
#heading ( level : 2 ) [ Bezugsrahmen: Der RRE-Prozess als Untersuchungsgegenstand ]
#heading ( level : 2 ) [ Der RRE-Prozess als Rahmen ]
Das in dieser Arbeit untersuchte Vorgehen folgt der in Kapitel 2 hergeleiteten siebenstufigen Methodenkette für Reverse Requirements Engineering. Die Schritte bauen aufeinander auf und decken den Weg von der ersten Abgrenzung des Untersuchungsgegenstands bis zur Validierung der gewonnenen Anforderungen ab.
@@ -143,7 +143,7 @@ Das in dieser Arbeit untersuchte Vorgehen folgt der in Kapitel 2 hergeleiteten s
In dieser Arbeit werden lediglich Schritt 1 und Schritt 7 manuell durchgeführt. Die dazwischenliegenden Schritte 2 bis 6 sollen KI-gestützt automatisiert werden. Der Untersuchungsschwerpunkt liegt damit nicht nur auf der Anforderungsbeschreibung, sondern vor allem auch auf der zuverlässigen Erzeugung dieser Beschreibung durch ein LLM.
Damit das Vorgehen belastbar bleibt, sind in jeder Iteration drei Eigenschaften sicherzustellen:
Damit das Vorgehen belastbar bleibt, sind in jedem Versuchsdurchlauf drei Eigenschaften sicherzustellen:
/ Belegpflicht : Jede extrahierte Anforderung muss auf ein konkretes Artefakt wie eine Datei, ein Modul, ein Datenobjekt oder einen UI-Text zurückführbar sein.
/ Explizite Hypothesenmarkierung : Aussagen, die nicht eindeutig aus Artefakten ableitbar sind, werden als Hypothesen markiert und gesondert validiert.
@@ -151,7 +151,7 @@ Damit das Vorgehen belastbar bleibt, sind in jeder Iteration drei Eigenschaften
Mit der Festlegung der Schrittfolge, der Aufteilung zwischen Mensch und KI sowie den drei Pflicht-Eigenschaften ist der Bezugsrahmen geklärt, in dem die folgenden Abschnitte ihre Detailfragen verorten.
#heading ( level : 2 ) [ Werkzeugbasis: Auswahl des LLM]
#heading ( level : 2 ) [ Auswahl des LLM]
Die Wahl des konkret eingesetzten LLM bestimmt maßgeblich, welche Steuerungsmechanismen praktisch umgesetzt werden können und wie reproduzierbar die Ergebnisse erzeugt werden. Aus diesem Grund wird die Werkzeugauswahl nicht implizit vorausgesetzt, sondern entlang der fünf Kriterien aus der Zielsetzung begründet. Diese Kriterien sind Kontextfenster, Codeverständnis, Steuerbarkeit, Kosten und Datenschutz.
@@ -174,9 +174,9 @@ Zur Auswahl stehen vier aktuell verfügbare Optionen. Anthropic Claude wird übe
Für diese Arbeit fällt die Entscheidung auf Claude Code als primäres Werkzeug. Ausschlaggebend sind das große Kontextfenster, die native Unterstützung von Agenten und MCP-Servern sowie eine offen dokumentierte CLI für reproduzierbare Aufrufe. Die kostenseitigen und datenschutzrechtlichen Nachteile gegenüber lokalen Modellen werden durch gezielte Konfigurationsmaßnahmen adressiert. Qwen 3.5 Coder und DeepSeek R1 werden für einen optionalen LLM-Querschnitt offengehalten, sind aber nicht das primäre Werkzeug. Qwen 3.5 Coder wird dabei lokal über LM Studio als Inferenz-Runtime betrieben. Die Anbindung erfolgt über den OpenAI-kompatiblen HTTP-Endpunkt von LM Studio, an den die Qwen Code CLI und gegebenenfalls MCP-Clients adressiert werden. Damit bleibt der Versuchsaufbau ohne Cloud-Versand und ohne Übertragung kundenbezogener Codeausschnitte an externe Anbieter.
#heading ( level : 2 ) [ Unt ersuchungsdesign: Kontrollierter Tooling-Vergleich ]
#heading ( level : 2 ) [ V ersuchsaufbau ]
Das Unt ersuchungsdesign folgt einer schrittweise aufbauenden Vergleichslogik. Versuch 1 bis 3 bilden den Kern der Reihe und werden ausschließlich auf Claude Code durchgeführt. Ausgehend von einer Baseline werden in jedem weiteren Versuch zusätzliche Werkzeugkomponenten hinzugefügt, sodass der Effekt jeder Komponente isoliert beobachtbar ist. Alle drei Versuche arbeiten auf derselben Codebasis und mit demselben Grundprompt. Variiert wird ausschließlich die Werkzeugkonfiguration. Der optionale Versuch 4 kehrt die Logik um: Die in Versuch 1 bis 3 wirksamste Konfiguration wird fixiert und auf den drei alternativen Modellen wiederholt, um modellabhängige von werkzeugabhängigen Effekten trennen zu können.
Der V ersuchsaufbau folgt einer schrittweise aufbauenden Vergleichslogik. Versuch 1 bis 3 bilden den Kern der Reihe und werden ausschließlich auf Claude Code durchgeführt. Ausgehend von einer Baseline werden in jedem weiteren Versuch zusätzliche Werkzeugkomponenten hinzugefügt, sodass der Effekt jeder Komponente isoliert beobachtbar ist. Alle drei Versuche arbeiten auf derselben Codebasis und mit demselben Grundprompt. Variiert wird ausschließlich die Werkzeugkonfiguration. Der optionale Versuch 4 kehrt die Logik um. Die in Versuch 1 bis 3 wirksamste Konfiguration wird fixiert und auf den drei alternativen Modellen wiederholt, um modellabhängige von werkzeugabhängigen Effekten trennen zu können.
/ Versuch 1 (Baseline, Prompt-only) : Reine Prompt-Steuerung ohne Agentendateien und ohne externe Tools. Die Hypothese lautet, dass eine formal strukturierte Anforderungsmenge bereits ohne Spezialisierung erreichbar ist, allerdings mit begrenzter Discovery-Breite und ohne dynamische Code- oder Datenbeobachtung.
@@ -189,24 +189,145 @@ Das Untersuchungsdesign folgt einer schrittweise aufbauenden Vergleichslogik. Ve
#figure (
table (
columns : ( auto , 1 fr , 1.4 fr ) ,
align : ( left , left , left ) ,
align : ( left + top , left + top , left + top ) ,
stroke : 0.4 pt ,
[ *Versuch* ] , [ *Werkzeugkonfiguration* ] , [ *Hypothese* ] ,
[ V1 Baseline] , [ Prompt-only, ohne Agenten, ohne Tools] , [ Formal strukturierte Spezifikation erreichbar, Discovery-Breite begrenzt] ,
[ V2 Agenten] , [ Wie V1, ergänzt um rollenspezialisierte Agentendateien] , [ Höhere Strukturierungstiefe und Normkonformität bei vergleichbarer Breite] ,
[ V3 MCP-Tools] , [ Wie V2, ergänzt um MCP-Server für Code, Datenbank und o pti onal GUI] , [ Größere Discovery-Breite, höhere Steuerungskomplexität] ,
[ V4 (optional)] , [ Beste Konfiguration aus V1– V3, wiederholt auf GPT-5 (Codex), DeepSeek R1 (Cloud) und Qwen 3.5 Coder (lokal, LM Studio)] , [ Trennung modell- gegenüber werkzeugabhängiger Effekte] ,
[ V1 Baseline] ,
[
- Prom pt- only
- keine A gentendateien
- keine externen Tools
] ,
[
- Formal strukturierte Spezifikation erreichbar
- Discovery-Breite begrenzt
] ,
[ V2 Agenten] ,
[
- Wie V1
- rollenspezialisierte Agentendateien
] ,
[
- Höhere Strukturierungstiefe und Normkonformität
- Vergleichbare Discovery-Breite
] ,
[ V3 MCP-Tools] ,
[
- Wie V2
- MCP-Server für Code
- MCP-Server für Datenbank
- optional MCP-Server für GUI
] ,
[
- Größere Discovery-Breite
- Höhere Steuerungskomplexität
] ,
[ V4 (optional)] ,
[
- beste Konfiguration aus V1– V3
- GPT-5 über Codex-CLI
- DeepSeek R1 über Cloud-API
- Qwen 3.5 Coder lokal über LM Studio
] ,
[ Trennung modell- gegenüber werkzeugabhängiger Effekte] ,
) ,
caption : [ Übersicht der geplanten Versuche mit Werkzeugkonfiguration und Arbeitshypothese.] ,
) <tab_versuchsreihe>
Konstanten und Variablen sind in jedem Versuch klar dokumentiert. In Versuch 1 bis 3 umfassen die Konstanten Codebasis, Grundprompt, Modellfamilie, Validierungsstichprobe und Bewertungskriterien; variabel ist ausschließlich die Werkzeugkonfiguration. In Versuch 4 wird die Logik umgekehrt: Die Werkzeugkonfiguration ist die Konstante, das Modell die Variable. Damit lassen sich Unterschiede in Versuch 1 bis 3 ursächlich der Werkzeugvariation und in Versuch 4 ursächlich der Modellwahl zuordnen.
#heading ( level : 3 ) [ Iteratives Vorgehen innerhalb eines Versuchs]
Innerhalb jedes Versuchs läuft ein iterativer Loop ab, in dem der Prompt schrittweise verfeinert wird. Der Begriff Iteration bezeichnet in dieser Arbeit ausschließlich diesen inneren Loop. Der schrittweise Aufbau über V1, V2 und V3 wird hingegen als Versuchsreihe bezeichnet.
Der Ablauf folgt fünf Schritten. Ausgangspunkt ist ein Initial-Prompt. In Versuch 1 wird dieser zu Versuchsbeginn neu formuliert. In Versuch 2 und Versuch 3 wird stattdessen der finale Prompt des vorhergehenden Versuchs übernommen und vor dem ersten Lauf an die neu hinzukommende Werkzeugkomponente angepasst (Agentendateien beziehungsweise MCP-Server). Der Initial-Prompt wird gegen die Codebasis ausgeführt. Anschließend begutachtet der Autor die Ausgabe stichprobenartig auf offensichtliche Lücken, formale Probleme oder fehlende Belege. Auf Basis dieser Begutachtung wird der Prompt mit dokumentiertem Änderungsgrund angepasst und erneut ausgeführt. Der Loop wiederholt sich, bis der Autor das Ergebnis als ausreichend einstuft.
Diese innere Begutachtung ersetzt nicht die Stakeholder-Validierung. Die Stakeholder-Validierung greift erst, wenn der Autor den Versuch als abgeschlossen erklärt. Ihr Urteil bezieht sich ausschließlich auf das End-Set des Versuchs. Damit fließt der Validatoren-Aufwand nicht in jede Zwischenversion ein.
Jede Prompt-Version wird im Versuchsordner mit Zeitstempel und kurzer Notiz zum Änderungsgrund abgelegt, sodass die Iterations-Historie reproduzierbar bleibt und später als Lerneffekt diskutiert werden kann. Der Ablauf ist in @abb_versuchsablauf zusammengefasst.
#figure (
cetz . canvas ( {
import cetz . draw : *
let draw-box ( x , y , w , h , label , dashed : false ) = {
rect (
( x - w / 2 , y - h / 2 ) ,
( x + w / 2 , y + h / 2 ) ,
stroke : if dashed { ( dash : "dashed" , thickness : 0.6 pt , paint : black ) } else { black + 0.6 pt } ,
fill : luma ( 240 ) ,
)
content ( ( x , y ) , text ( size : 9 pt , weight : "bold" ) [ #label ] )
}
let draw-mini-box ( x , y , w , h , label ) = {
rect (
( x - w / 2 , y - h / 2 ) ,
( x + w / 2 , y + h / 2 ) ,
stroke : black + 0.4 pt ,
fill : luma ( 248 ) ,
)
content ( ( x , y ) , text ( size : 8 pt ) [ #label ] )
}
let draw-arrow ( from , to ) = {
line ( from , to , mark : ( end : ">" ) , stroke : black + 0.6 pt )
}
let h-half = 0.4
let mh-half = 0.25
let gap = 0.1
let top-y = 5
let versuche = (
( x : - 5 , label : "V1 Baseline" ) ,
( x : - 1.5 , label : "V2 Agenten" ) ,
( x : 2 , label : "V3 MCP-Tools" ) ,
)
for v in versuche {
draw-box ( v . x , top-y , 3.0 , 0.8 , v . label )
}
draw-box ( 5.5 , top-y , 3.0 , 0.8 , "V4 (optional)" , dashed : true )
draw-arrow ( ( - 5 + 1.5 , top-y ) , ( - 1.5 - 1.5 , top-y ) )
draw-arrow ( ( - 1.5 + 1.5 , top-y ) , ( 2 - 1.5 , top-y ) )
line (
( 2 + 1.5 , top-y ) , ( 5.5 - 1.5 , top-y ) ,
mark : ( end : ">" ) ,
stroke : ( dash : "dashed" , thickness : 0.6 pt , paint : black ) ,
)
for v in versuche {
let cx = v . x
let py = 3.5
let ly = 2.5
let by = 1.5
draw-mini-box ( cx , py , 1.7 , 0.5 , "Prompt" )
draw-mini-box ( cx , ly , 1.7 , 0.5 , "Lauf" )
draw-mini-box ( cx , by , 1.9 , 0.5 , "Begutachtung" )
draw-arrow ( ( cx , top-y - h-half - gap ) , ( cx , py + mh-half + gap ) )
draw-arrow ( ( cx , py - mh-half - gap ) , ( cx , ly + mh-half + gap ) )
draw-arrow ( ( cx , ly - mh-half - gap ) , ( cx , by + mh-half + gap ) )
let lx = cx + 1.25
line ( ( cx + 0.95 , by ) , ( lx , by ) , stroke : black + 0.6 pt )
line ( ( lx , by ) , ( lx , py ) , stroke : black + 0.6 pt )
line ( ( lx , py ) , ( cx + 0.85 , py ) ,
mark : ( end : ">" ) , stroke : black + 0.6 pt )
content ( ( lx + 0.25 , ( py + by ) / 2 ) , text ( size : 7 pt , fill : luma ( 80 ) ) [ nein] )
}
} ) ,
caption : [ Zustandsgraph des Versuchsablaufs. Die Versuche bauen schrittweise aufeinander auf, V4 ist optional. Der finale Prompt eines Versuchs wird zu Beginn des Folgeversuchs an die neu hinzukommende Werkzeugkomponente angepasst und dient dann als Startprompt. Innerhalb jedes Versuchs verfeinert ein Iterations-Loop den Prompt: Lauf → Begutachtung durch den Autor → bei „nein" Prompt-Anpassung, bei „ja" Übergang zum nächsten Versuch.] ,
) <abb_versuchsablauf>
Konstanten und Variablen sind in jedem Versuch klar dokumentiert. In Versuch 1 bis 3 umfassen die Konstanten Codebasis, Iterations-Vorgehen, Modellfamilie, Validierungsstichprobe und Bewertungskriterien. Variabel sind die Werkzeugkonfiguration und der Startprompt jedes Versuchs. Versuch 1 startet mit einem zu Versuchsbeginn neu formulierten Prompt. Versuch 2 und Versuch 3 übernehmen jeweils den finalen Prompt des vorhergehenden Versuchs und passen ihn zu Beginn an die neu hinzukommende Werkzeugkomponente an (Agentendateien in Versuch 2, MCP-Server in Versuch 3). Erst dieser angepasste Prompt bildet den Ausgangspunkt für den Iterations-Loop des Folgeversuchs. In Versuch 4 wird die Logik umgekehrt. Die Werkzeugkonfiguration ist die Konstante, das Modell die Variable. Damit lassen sich Unterschiede in Versuch 1 bis 3 ursächlich der Werkzeugvariation und in Versuch 4 ursächlich der Modellwahl zuordnen.
#heading ( level : 2 ) [ Stakeholder-Validierung als Verifikationsverfahren]
Die Stakeholder-Validierung ist das zentrale Verifikationsverfahren dieser Arbeit. Sie ist nicht als nachgelagerter Schritt gedacht, sondern bildet das Maß, an dem die KI-Ergebnisse gemessen werden. Plausibel formulierte LLM-Ausgaben sind nicht hinreichend. Eine Anforderung gilt erst dann als belastbar, wenn sie durch einen Domänenexperten geprüft und bestätigt wurde.
Vorgesehen sind bis zu drei Validatoren mit jeweils mehrjähriger Erfahrung in der c-entron-Codebasis und in den fachlich abgedeckten Geschäftsprozessen. Da im Unternehmen nicht mehr für jeden Fachbereich ein dedizierter Experte verfügbar ist, kann eine vollständige modulweise Abdeckung durch bereichsspezifische Validatoren nicht garantiert werden. Die Validatorengruppe deckt die Codebasis stattdessen in Summe ab. Die Teilnehmer sind bereits identifiziert; d er Interview-Leitfaden ist im Anhang dokumentiert.
Vorgesehen sind bis zu drei Validatoren mit jeweils mehrjähriger Erfahrung in der c-entron-Codebasis und in den fachlich abgedeckten Geschäftsprozessen. Da im Unternehmen nicht mehr für jeden Fachbereich ein dedizierter Experte verfügbar ist, kann eine vollständige modulweise Abdeckung durch bereichsspezifische Validatoren nicht garantiert werden. Die Validatorengruppe deckt die Codebasis stattdessen in Summe ab. Die Teilnehmer sind bereits identifiziert. D er Interview-Leitfaden ist in @anh_interview_validierung im Anhang dokumentiert.
Für die Validierung wird pro Versuchslauf eine Zufallsstichprobe aus den extrahierten Anforderungen gezogen und auf die bis zu drei Teilnehmer verteilt. Die Stichprobengröße wird vor Versuchsbeginn festgelegt und im Versuchsprotokoll dokumentiert. Eine bereichs- oder risikoklassenspezifische Stratifizierung ist nicht vorgesehen, da die personelle Verfügbarkeit der Fachexperten eine flächendeckende Modulabdeckung nicht zulässt.
@@ -219,36 +340,36 @@ Jede Anforderung wird entlang von sechs Dimensionen bewertet:
/ Übernahmewürdigkeit : Soll die Anforderung im Zielsystem in ihrer Funktion erhalten bleiben, oder ist sie ein historisch gewachsener Workaround, ein Sonderfall oder eine veraltete Logik, die im Zuge der Neuimplementierung entfallen sollte?
/ Konsolidierungsbedarf : Bestehen andere Anforderungen, die dieselbe fachliche Funktion abbilden und im Zielsystem zu einer gemeinsamen Anforderung zusammengeführt werden sollten? Ein typisches Beispiel sind die in der bestehenden c-entron-Codebasis getrennt geführten Datensätze für Drucker („Stammblätter") und sonstige Hardware („Assets"), die im Zielsystem zu einem konsolidierten Asset-Konzept zusammengeführt werden sollen.
Die Bewertung erfolgt auf einer fünfstufigen Likert-Skala mit definierten Ankern an den Polen, wobei 1 für „trifft nicht zu" und 5 für „trifft voll zu" steht. Bei migrationskritischen Anforderungen ist eine doppelte Bewertung durch zwei Validatoren vorgesehen, um die Inter-Rater-Reliabilität abschätzen zu können.
Die Bewertung erfolgt auf einer fünfstufigen Likert-Skala mit definierten Ankern an den Polen, wobei 1 für „trifft nicht zu" und 5 für „trifft voll zu" steht.
Ergänzend zur itemweisen Bewertung werden mit den Validatoren halbstrukturierte Interviews geführt. Themenblöcke sind d ie Erkennung impliziter Regeln, fehlende Stakeholder-Sichten, migrationsspezifische Risiken, der Konsolidierungsbedarf gegenüber der Zielarchitektur einschließlich der Identifikation historisch gewachsener Workarounds und Doublettenstrukturen sowie die Nützlichkeit der KI-Ergebnisse im Vergleich zu einer hypothetischen manuellen Analyse. Die Auswertung erfolgt über thematische Codierung und wird mit den itemweisen Bewertungen trianguliert.
Ergänzend zur itemweisen Bewertung werden mit den Validatoren halbstrukturierte Interviews geführt. Themen sind h ierbei vor allem migrationsspezifische Risiken, der Konsolidierungsbedarf gegenüber der Zielarchitektur und die Nützlichkeit der KI-Ergebnisse im Vergleich zu einer hypothetischen manuellen Analyse.
Eine Anforderung gilt im Sinne dieser Arbeit als belastbar, wenn drei Quellen sie stützen: ein konkreter Code-Beleg, eine KI-Ausgabe und eine Expertenbestätigung. Diese Triangulation reduziert das Risiko, dass eine plausibel formulierte aber inhaltlich falsche LLM-Ausgabe ungeprüft in die Spezifikation übernommen wird.
Eine Requirement gilt im Sinne dieser Arbeit als belastbar, wenn drei Quellen sie stützen: ein KI generiertes Requirement, ein konkreter Artefakt-Beleg und e ine Expertenbestätigung.
#heading ( level : 2 ) [ Evaluationsrahmen]
Der Evaluationsrahmen wird vor der Durchführung der Versuche definiert. Damit wird eine nachträgliche Anpassung der Kriterien an die Ergebnisse ausgeschlossen. Die Bewertung orientiert sich an den drei Qualitätsdimensionen, die in den theoretischen Grundlagen als Standard-Kriterien für Requirements-Sätze hergeleitet wurd en.
Der Evaluationsrahmen wird vor der Durchführung der Versuche definiert. Damit wird eine nachträgliche Anpassung der Kriterien an die Ergebnisse ausgeschlossen. Die Bewertung orientiert sich an den drei in @sec_re_qualitaet hergeleiteten Qualitätsdimension en.
* Statement-Qualität.* Pro einzelner Anforderung wird gemessen, ob sie eindeutig formuliert, vollständig im Satzbau, frei von unbelegten Annahmen und mit Akzeptanzkriterium oder Prüfidee versehen ist. Die Messung erfolgt über die zuvor beschriebene Likert-Skala.
/ Statement-Qualität: Pro einzelner Anforderung wird gemessen, ob sie eindeutig formuliert, vollständig im Satzbau, frei von unbelegten Annahmen und mit Akzeptanzkriterium oder Prüfidee versehen ist. Die Messung erfolgt über die zuvor beschriebene Likert-Skala.
* Set-Qualität.* Pro Spezifikations-Set, also Stakeholder-, System- und Software-Requirements, wird gemessen, ob die Menge konsistent, nicht redundant und ausreichend breit ist, ohne sich in Detailfällen zu verlieren. D abei wird zwischen output-interner Redundanzfreiheit, also dem Fehlen von Doubletten in der vo m LLM erzeugten Spezifikation, und migrationsbezogenem Konsolidierungsbedarf, also legacy-bedingt getrennt geführten Strukturen mit derselben fachlichen Funktion, unterschiede n. Die Mess ung erfolgt qualitativ durch Expertenbewertung und ergänzend durch maschinelle Konsistenzprüfungen wie doppelte IDs oder fehlende Belege.
/ Set-Qualität: Pro Versuch wird die gesamte erzeugte Anforderungsmenge als ein Set bewertet. Gemessen wird, ob sie die relevanten Prozesse und Varianten vollständig abdeckt, in sich konsistent ist und keine Doubletten enthält. I m Vordergrund steht dabei die Vollständigkeit, weil ein fehlendes Requirement im Migrationskontext zu Funktionsverlust führen kan n. Die Bewert ung erfolgt qualitativ durch Expertenbewertung und ergänzend durch maschinelle Konsistenzprüfungen wie doppelte IDs oder fehlende Belege.
* Traceability-Qualität.* Pro Beleg-Verknüpfung wird gemessen, ob der Beleg reproduzierbar auffindbar ist, etwa über Dateipfad, Methode oder SQL-Query, und ob die Ableitung vom Beleg zur Anforderung nachvollziehbar bleibt.
/ Traceability-Qualität: Pro Beleg-Verknüpfung wird gemessen, ob der Beleg reproduzierbar auffindbar ist, etwa über Dateipfad, Methode oder SQL-Query, und ob die Ableitung vom Beleg zur Anforderung nachvollziehbar bleibt.\ \
Ergänzend zur Qualitätsbewertung wird eine Aufwands-Kennzahl in hybrider Form erhoben. Sie kombiniert quantitative Indikatoren mit einer grob en Stundenschätzung als Plausibilitätsprüfung. Indikatoren sind unter anderem Tokenkosten, Bearbeitungsdauer pro Modul und Anzahl der Validierungs-Iterationen. Die Stundenschätzung erfolgt als grobe Vergleichsangabe gegen ein hypothetisches manuelles Vorgehen, in dem ein erfahrener Analyst die gleich en Module ohne KI-Unterstützung dokumentier t hätte. Sie liefert keinen exakten Effizienzfaktor, sondern eine Größenordnung .
Ergänzend zur Qualitätsbewertung wird der Aufwand erhoben. Dazu werden währ end der KI-Läufe Indikatoren wie Tokenkosten un Bearbeitungsdauer protokolliert. Parallel wird grob abgeschätzt, wie viele Stun den ein erfahrener Analyst für dieselb en Module ohne KI-Unterstützung gebrauch t hätte. Beide Größen zusammen erlauben einen Vergleich der Größenordnung, nicht jedoch einen exakten Effizienzfaktor .
#heading ( level : 2 ) [ Reproduzierbarkeit und Risikomanagement]
Reproduzierbarkeit und Risikomanagement sind als querschnittliche Aspekte angelegt. Sie betreffen alle Versuchsdurchläufe gleichermaßen und werden hier zusammengefasst.
Alle steuerungsrelevanten Artefakte werden versioniert vorgehalten. Hierzu zählen die verwendeten Prompts in ihrer Textfassung, die Agentendateien mit ihren Rollenbeschreibungen, die MCP-Server-Konfigurationen sowie die Angaben zu Modellversion, Temperatur und Kontextfenstergröße. Für lokal betriebene Modelle werden zusätzlich die Inferenz-Runtime mit Version (LM Studio), die Quantisierungsstufe des verwendeten Modell-Builds sowie weitere Sampling-Parameter wie top\ _p und repeat penalty dokumentiert, da diese Stellgrößen die Reproduzierbarkeit der Ausgaben spürbar beeinflussen. Jeder Versuchsordner enthält die vollständige Konfiguration als Single Source. Wo möglich, werden deterministische Einstellungen gewählt.
Alle steuerungsrelevanten Artefakte werden versioniert vorgehalten. Hierzu zählen die verwendeten Prompts in ihrer Textfassung inklusive aller Iterationsversionen mit Zeitstempel und Änderungsgrund , die Agentendateien mit ihren Rollenbeschreibungen, die MCP-Server-Konfigurationen sowie die Angaben zu Modellversion und Kontextfenstergröße. Für lokal betriebene Modelle werden zusätzlich die Inferenz-Runtime mit Version (LM Studio), die Quantisierungsstufe des verwendeten Modell-Builds sowie weitere Sampling-Parameter dokumentiert, da diese Stellgrößen die Reproduzierbarkeit der Ausgaben spürbar beeinflussen. Jeder Versuchsordner enthält die vollständige Konfiguration als Single Source. Wo möglich, werden deterministische Einstellungen gewählt.
Da die Codebasis kundenbezogene Strukturen enthält, werden datenschutzkritische Werkzeuge bewusst eingegrenzt. MCP-Server für Datenbank-Inspektion und Symbol-Navigation werden lokal betrieben. An externe LLM-Anbieter werden nur diejenigen Codeausschnitte gesendet, die für den jeweiligen Analyseschritt notwendig sind. Personenbezogene Daten oder vollständige Datenexporte sind ausgeschlossen.
Die folgenden vier Risikokategorien werden adressiert:
/ Halluzinationen : Begegnet durch Belegpflicht und Stakeholder-Validierung. Jede Anforderung ohne nachvollziehbaren Beleg wird als Hypothese markiert.
/ Reproduzierbarkeitsverlust: Begegnet durch versionierte Prompts und deterministische Einstellungen, soweit das Modell sie unterstützt.
/ Reproduzierbarkeitsverlust: Begegnet durch versionierte Prompts und deterministische Einstellungen, soweit das Modell sie unterstützt. Da die innere Iteration zudem die Gefahr eines Autoren-Bias birgt, etwa eines unbewussten Hinsteuerns auf bestimmte Module, werden die Prompt-Änderungen pro Iteration mit Änderungsgrund dokumentiert und sind im Versuchsordner nachvollziehbar.
/ Domänen- und Datenbias : Begegnet durch eine Stichprobenwahl, die alle relevanten Module abdeckt und nicht nur die in der KI-Ausgabe häufig auftauchenden.
/ Datenschutzverletzungen : Begegnet durch On-Premise-MCP, kontrollierten Versand und Logging der externen Aufrufe.
@@ -265,14 +386,15 @@ Dieser Abschnitt konkretisiert die zuvor beschriebene Versuchsreihe auf Konfigur
[ Modell] , [ Claude (Claude Code)] , [ Claude (Claude Code)] , [ Claude (Claude Code)] ,
[ Grundprompt] , [ Standard-Extraktionsprompt] , [ Standard-Extraktionsprompt] , [ Standard-Extraktionsprompt] ,
[ Agentendateien] , [ keine] , [ Stakeholder, System, Software, ISO-29148-Orchestrator] , [ Wie V2, ergänzt um codebasis-spezifische Reviewer] ,
[ MCP-Server], [keine], [keine], [ Symbol-Navigation, Datenbank-Inspektion, optional GUI-Beobachtung],
[ MCP-Server] , [ keine] , [ keine] , [ Symbol-Navigation, Datenbank-Inspektion, optional GUI-Interaktion] ,
[ Validierungsstichprobe] , [ Stratifiziert] , [ Stratifiziert] , [ Stratifiziert] ,
) ,
caption : [ Detail-Konfiguration der drei Kernversuche.] ,
) <tab_versuchskonfiguration>
Die Versuchsordner-Struktur folgt einer einheitlichen Konvention. Pro Versuch existiert ein Unterordner mit den Konfigurationsartefakten, ein Eingangsprotokoll mit Modell- und Werkzeugangaben, ein Ergebnis-Unterordner sowie eine Verlaufsdokumentation für die Validierungsschritte. Damit ist jeder Versuch eigenständig reproduzierbar.
/*
#heading(level: 2)[Überleitung]
Mit der vorangegangenen Methodikbeschreibung ist das Untersuchungsdesign vollständig dokumentiert. Das folgende Kapitel beschreibt die Durchführung der geplanten Versuche und stellt die erzeugten Ergebnisartefakte vor. Daran schließt sich die Anwendung des hier definierten Evaluationsrahmens auf die Ergebnisse an. Den Abschluss bildet die Diskussion der gewonnenen Erkenntnisse im Hinblick auf die vier Forschungsleitfragen.
*/