Der rzfz.ai Stack: local matters
Fünf Einsatzbeispiele, wie lokale KI Entwicklung und Testing verändert
Die Renaissance der lokalen Intelligenz
Wir leben in einem Spannungsfeld: Generative KI wird größer, schneller und fähiger — der EU AI Act zieht das regulatorische Netz gleichzeitig enger. Für Unternehmen heißt das: Es geht nicht mehr nur darum, was technisch geht, sondern was rechtlich zulässig, ethisch vertretbar und ökonomisch sinnvoll ist. Mit dem rzfz.ai Stack verfolgen wir genau diese Antwort — die Intelligenz muss zu den Daten kommen, nicht umgekehrt.
Das technische Fundament: Unified Memory
Klassische Workstations trennen Arbeitsspeicher und Grafikspeicher strikt; Modelle stoßen dadurch schnell an die Grenzen der Grafikkarte. Die rzfz.ai Box setzt stattdessen auf AMD Strix Halo mit 128 GB Unified Memory, wovon rund 96 GB für Modelle nutzbar sind (erweiterbar auf 110 GB) — CPU und GPU teilen sich denselben Speicherpool. Das erlaubt den Betrieb von Modellen, die auf klassischen Desktop-Grafikkarten keinen Platz finden, bei einem Stromverbrauch von 30 bis 300 Watt — leise genug für ein normales Büro, ganz ohne dedizierten Serverraum.
Darüber orchestriert der Stack die Inferenz über GPUStack mit llama.cpp, hält Wissen in PostgreSQL mit pgvector vektorisiert und stellt mit Open WebUI eine zentrale Oberfläche für alle Nutzer:innen bereit. Dify übernimmt die Workflow-Automatisierung — das Bindeglied, das Modelle mit Werkzeugen wie Gitea oder dem eigenen Ticketsystem verbindet.
Fünf Einsatzbeispiele für Entwicklung und Testing
Reasoning-fähige Modelle wie unser Standardmodell qwen3.6 verändern nicht nur den Chat — sie verändern, wie wir Software bauen und prüfen:
- Requirements-Architekt — Ein Lastenheft als PDF oder Text landet in Open WebUI, ein Dify-Workflow übergibt es an das Modell mit dem Auftrag, Akteure, Use Cases und Lücken zu identifizieren. Das Ergebnis ist ein Diagramm plus eine Liste offener Fragen — bevor die erste Zeile Code entsteht.
- Gnadenloser Test-Designer — Statt nur den Happy Path zu prüfen, wendet das Modell Äquivalenzklassenbildung und Grenzwertanalyse formal an, erzeugt Testdaten für Randfälle und liefert eine Testmatrix, die sich in Ihr bestehendes Testmanagement-Tool exportieren lässt.
- Legacy-Code-Refactoring — OpenHands (aktuell ein experimentelles Modul des Stacks), unser autonomer Coding-Agent, liest alte Komponenten aus Gitea, erklärt die enthaltene Business-Logik, schreibt zuerst Regressionstests für den bestehenden Code und schlägt erst danach ein Refactoring vor. Das Wissen im Legacy-Code verlässt dabei nie das lokale Netzwerk.
- Autonomer Bug-Hunter — Bei jedem Push analysiert OpenHands (experimentell, aber bereits bei Kunden im Praxiseinsatz) den Diff, sucht nach logischen Fehlern statt bloßen Syntaxfehlern und kommentiert verdächtige Stellen direkt im Merge Request — ein Pair Programmer, der nie schläft.
- Lebende Dokumentation — Regelmäßig gleicht der Agent Code und Dokumentation ab und reicht Aktualisierungen als Pull Request ein. Das Onboarding neuer Teammitglieder wird dadurch spürbar kürzer.
Wirtschaftlich gedacht
Der Reflex „Cloud ist billiger, ich zahle nur, was ich nutze” greift zu kurz — gerade bei Reasoning-Modellen, die für jede Iteration interne Gedanken-Tokens produzieren, die in der Cloud pro Anfrage abgerechnet werden. Die Box ist dagegen eine Einmalinvestition: Ob ein Modell zehnmal oder zehntausendmal am Tag gefragt wird, ändert an den laufenden Kosten wenig. Was das für Ihr Unternehmen konkret bedeutet, rechnet der Konfigurator vor.
Fazit: local matters
„Local matters” ist bei uns keine Floskel, sondern Programm: Compliance ist kein Innovationshemmnis, sondern die Voraussetzung dafür, Freiheiten zurückzugewinnen, die man in der Cloud längst aufgegeben hatte. Passend dazu wurde das gemeinsame Projekt mit unserem Kunden PSA auf dem rzfz.ai Stack mit dem Constantinus Award 2026 ausgezeichnet — 1. Platz, Kategorie Standardsoftware und Cloud Services.
Zuerst erschienen in den SEQIS QualityNews H2/2025.