Muss ein Mensch jede Änderung prüfen, die ein KI-Agent erzeugt? Oder sollte gar kein Mensch mehr Code lesen? In der Diskussion um AI Software Factories wird diese Frage oft wie ein Dogma beantwortet: immer oder nie. Dieser Artikel stellt beide Positionen vor und schlägt einen dritten Weg vor, bei dem das Risiko jeder einzelnen Änderung entscheidet.
Was ist eine AI Software Factory?#
Der Begriff Software Factory ist keineswegs neu. Bereits 1968 beschäftigte sich Bob Bemer mit der Idee, Softwareentwicklung von einer individuellen handwerklichen Tätigkeit in einen systematischen, wiederholbaren Produktionsprozess zu verwandeln.
Mit dem Aufkommen von Large Language Models und autonomen KI-Agenten erlebt diese Idee eine Renaissance. Allerdings gibt es bislang keine allgemein anerkannte Definition einer AI Software Factory. Drei unterschiedliche Perspektiven prägen die aktuelle Diskussion.
1. Software Factory als organisatorisches Produktionssystem#
Ganesh Datta, CTO von Cortex (Juni 2026) beschreibt eine AI Software Factory als ein organisatorisches System, das Kundenanforderungen in zuverlässige, produktiv nutzbare Software verwandelt. KI-Agenten übernehmen die Entwicklungsarbeit, während Software-Entwickler zunehmend das Produktionssystem selbst entwerfen, betreiben und verbessern.
Der Schwerpunkt liegt auf dem Wandel der menschlichen Rolle: vom Softwareentwickler zum Gestalter der Softwareproduktion.
2. Software Factory als automatisierter Entwicklungsprozess#
Zach Lloyd, CEO von Warp (Juli 2026) definiert eine Cloud Software Factory als einen automatisierten Kreislauf um den gesamten Software Development Lifecycle: von der Triage eingehender Anforderungen und Fehlermeldungen über Spezifikation, Implementierung, Review und Verifikation bis zu Auslieferung und Monitoring.
Der Schwerpunkt liegt auf einem wiederholbaren Prozess, in dem spezialisierte Agenten und Menschen zusammenarbeiten und dessen Qualität kontinuierlich verbessert werden kann.
3. Software Factory als autonome Softwareproduktion#
Justin McCarthy, CTO von StrongDM AI (Februar 2026) beschreibt einen deutlich radikaleren Ansatz. Spezifikationen und überprüfbare Szenarien steuern die KI-Agenten. Diese implementieren die Software, testen sie und korrigieren Fehler eigenständig. Menschen schreiben und reviewen keinen Code mehr.
Der gemeinsame Nenner: Eine AI Software Factory ist mehr als ein Coding-Agent. Sie ist ein reproduzierbares Produktionssystem, in dem KI-Agenten wesentliche Aufgaben der Softwareentwicklung übernehmen, während definierte Prozesse, Werkzeuge und Qualitätskontrollen die Ergebnisse absichern.
Light und Dark Software Factories#
In seinem Artikel Software Factories, Light and Dark (Juli 2026) unterscheidet Addy Osmani zwei grundsätzliche Ansätze.
Light Software Factory – Human-in-the-Loop#
In einer Light Factory übernehmen KI-Agenten einen großen Teil der operativen Entwicklungsarbeit. Menschen bleiben jedoch aktiv in den Entwicklungs- und Freigabeprozess eingebunden.
Sie treffen wesentliche Architekturentscheidungen, beurteilen technische Lösungen und überprüfen die Ergebnisse der Agenten. Automatisierte Tests und Qualitätsprüfungen unterstützen diese Arbeit, ersetzen das menschliche Urteil jedoch nicht grundsätzlich.
Das bietet Kontrolle, hat aber einen Preis: Während Agenten nahezu beliebig viele Änderungen parallel erzeugen können, bleibt menschliche Aufmerksamkeit eine knappe Ressource.
Die Geschwindigkeit der Softwareproduktion wird zunehmend durch menschliche Reviews begrenzt, nicht durch die Codegenerierung.
Dark Software Factory – Lights Out#
Die Dark Factory verfolgt den entgegengesetzten Ansatz. Hier produzieren und verifizieren KI-Agenten Software, ohne dass Menschen die einzelnen Änderungen lesen oder freigeben müssen.
Menschen definieren weiterhin Ziele, Anforderungen und Rahmenbedingungen. Die operative Umsetzung und deren Überprüfung erfolgen jedoch vollständig automatisiert.
Das verspricht einen enormen Durchsatz. Gleichzeitig entstehen neue Risiken.
Osmani warnt insbesondere vor Comprehension Debt: Die Menge produzierter Software wächst schneller als das menschliche Verständnis ihrer inneren Zusammenhänge. Kurzfristig können alle Tests erfolgreich sein, während langfristig Architekturqualität und Wartbarkeit leiden.
Die entscheidende Frage ist deshalb nicht, ob Agenten Software autonom entwickeln können, sondern ob ihre Ergebnisse ohne menschliches Eingreifen ausreichend zuverlässig überprüft werden können.
Gray Software Factory – Human-on-Demand#
Müssen wir uns wirklich zwischen Light und Dark entscheiden?
Eine Light Factory verlangt regelmäßig menschliche Aufmerksamkeit, selbst für Änderungen, deren Risiken möglicherweise vollständig automatisiert beurteilt werden können.
Eine Dark Factory verzichtet dagegen auf die menschliche Einzelfallprüfung, auch wenn bestimmte Änderungen Risiken bergen, die automatisierte Prüfungen nicht zuverlässig erfassen.
Was wäre, wenn die Entscheidung über menschliche Beteiligung selbst Teil des automatisierten Produktionsprozesses wäre?
Hier setzt die Idee einer Gray Software Factory an.
Eine Gray Factory arbeitet grundsätzlich autonom. Menschliche Beteiligung wird aber nicht pauschal abgeschafft, sondern anhand einer automatisierten Risiko- und Qualitätsklassifikation gezielt eingefordert.
Jede Änderung durchläuft automatisierte Prüfungen. Auf deren Grundlage wird bewertet, ob die vorhandenen Nachweise für eine automatische Freigabe ausreichen oder ob menschliches Urteil erforderlich ist.
Bei risikoarmen, ausreichend verifizierten Änderungen kann die Factory selbstständig fortfahren. Bei erhöhtem Risiko, Unsicherheit oder nicht zuverlässig überprüfbaren Entscheidungen wird ein Mensch einbezogen.
Dabei geht es nicht nur um technische Fehler. Auch potenzielle Sicherheitsprobleme, weitreichende Architekturentscheidungen oder schwer abschätzbare Auswirkungen auf bestehende Funktionalität können Gründe für eine menschliche Entscheidung sein.
Entscheidend ist, dass die Factory ihre eigenen Grenzen erkennt. Wenn eine zuverlässige Bewertung nicht möglich ist, darf Unsicherheit nicht mit geringem Risiko verwechselt werden.
Nicht jede Änderung benötigt ein menschliches Review. Aber jede Änderung benötigt eine begründbare Entscheidung darüber, ob ein menschliches Review erforderlich ist.
Nicht einfach halb Light, halb Dark#
Der Begriff Gray Factory wurde bereits verwendet. Beispielsweise beschreibt Victor Rentea auf der Devoxx Belgium 2026 damit die schrittweise Reduzierung menschlicher Code-Reviews, sobald das Vertrauen in die automatisierte Produktion wächst.
Der hier vorgeschlagene Ansatz setzt einen leicht anderen Schwerpunkt: Nicht der allgemeine Automatisierungsgrad einer Factory entscheidet über menschliche Beteiligung, sondern die individuelle Bewertung der jeweiligen Änderung.
Eine Gray Factory ist damit nicht notwendigerweise ein Übergangszustand auf dem Weg zur Dark Factory. Sie kann ein dauerhaftes Betriebsmodell sein.
Der Mensch bleibt verantwortlich für die Regeln, Qualitätsanforderungen und Grenzen des Produktionssystems. Er muss aber nicht mehr jede einzelne Änderung persönlich kontrollieren.
Fazit: Autonomie muss verdient werden#
Die interessante Frage der nächsten Jahre dürfte nicht sein, ob eine Software Factory Menschen einbezieht oder vollständig autonom arbeitet.
Entscheidend wird sein, wie zuverlässig ein Produktionssystem beurteilen kann, wann es autonom handeln darf und wann menschliche Expertise notwendig ist.
Eine Gray Software Factory versucht, diese Entscheidung systematisch zu treffen und damit den scheinbaren Widerspruch zwischen Geschwindigkeit und Kontrolle aufzulösen.
Ihr Ziel ist nicht maximale Automatisierung um jeden Preis, sondern maximale verantwortbare Automatisierung.
An die Stelle eines Dogmas – immer Mensch oder nie Mensch – tritt eine Abwägung, die für jede Änderung neu getroffen wird.
Genau genommen trifft das Bild vom Grau es aber nur zur Hälfte. Licht, in dem alle Farben enthalten sind, ist weiß; fehlt jede Farbe, ist es schwarz. Eine Gray Factory dimmt jedoch nicht einfach alles gleichmäßig herunter. Sie zerlegt eine Änderung wie ein Prisma in ihre einzelnen Aspekte, etwa Sicherheit, Architektur oder Auswirkungen auf bestehende Funktionalität, und entscheidet für jeden dieser Anteile, ob menschliches Urteil sinnvoll ist. Was von außen als Grauton erscheint, ist bei genauerem Hinsehen ein Spektrum einzelner Entscheidungen.
Das Risiko entscheidet: so viel Automatisierung wie vertretbar, so viel Mensch wie nötig.
Dieser Artikel ist mit Unterstützung von KI entstanden.