Was ist verifizierte KI-Entwicklung?

Verifizierte KI-Entwicklung ist Softwareentwicklung, bei der eine KI baut und ein vom bauenden Modell unabhängiger Prüfapparat jeden Schritt gegen feste Regeln kontrolliert, das Ergebnis nachvollziehbar belegt und den geprüften Stand kryptografisch überprüfbar kennzeichnet. Sie unterscheidet sich von Vibe Coding und KI-Baukästen dadurch, dass nicht die KI behauptet, fertig zu sein, sondern eine getrennte Prüfung es nachweist.

Vier Kennzeichen machen sie erkennbar. Erstens: Die Prüfung ist unabhängig vom bauenden Modell — nicht dasselbe System, das sich selbst bewertet. Zweitens: Es gibt eine Belegkette, also einen einsehbaren Nachweis über jeden Schritt, nicht nur ein Endergebnis. Drittens: Der geprüfte Stand trägt ein Prüfsiegel, an dem sich nachträgliche Änderungen erkennen lassen. Viertens: Die kundenspezifischen Komponenten gehören dem Kunden; das Baldux-Framework bleibt beim Anbieter und ist für die Anwendung dauerhaft lizenziert — Sie hängen an keinem fremden Konto.

Der Begriff ist eine Kategorie, kein Produktname. Er beschreibt ein Verfahren, das jeder Anbieter erfüllen oder verfehlen kann. Bei MCP Baldux ist das Werkzeug, das dieses Verfahren erzwingt, die KI-Engine mit ihren vier Prüfrollen: Ein Modell baut, vier unabhängige Prüfrollen — Architektur, Sicherheit, Vollständigkeit, Integration — prüfen jeden Plan aus vier Richtungen, die Sicherheitsrolle hat ein Veto, und erst wenn alle vier tragen, entsteht eine Freigabe.

Warum dieser Aufwand? Weil ungeprüfter KI-Code messbar Probleme mitbringt. Veracode testete 2025 über 100 KI-Sprachmodelle: 45 % der generierten Code-Beispiele enthielten OWASP-Top-10-Schwachstellen, bei Java lag die Quote bei 72 %. Im Stack Overflow Developer Survey 2025 misstrauten mehr Entwickler der Genauigkeit von KI-Tools (46 %) als ihr vertrauten (33 %). Und eine METR-Studie vom Juli 2025 zeigte, dass erfahrene Open-Source-Entwickler mit KI-Tools 19 % länger brauchten — obwohl sie 24 % Beschleunigung erwartet hatten. Tempo allein schafft also kein Vertrauen; es verschiebt die Arbeit nur nach hinten.

Abzugrenzen ist verifizierte KI-Entwicklung von drei benachbarten Dingen. Vom Vibe Coding: Dort entscheidet die bauende KI selbst, wann etwas fertig ist. Von einem KI-Code-Review: Das ist ein einzelner Prüfschritt, meist am Ende und meist optional — hier ist die Prüfung Teil des Ablaufs und nicht abschaltbar. Von einer Zertifizierung: Ein Zertifikat bescheinigt einer Organisation ein Verfahren, verifizierte KI-Entwicklung erzeugt den Nachweis am einzelnen Arbeitsergebnis. Beides schließt sich nicht aus, ersetzt sich aber auch nicht.

Ein Beispiel aus der Praxis: Ein Betrieb lässt eine Auftragsübersicht bauen, in der jeder Kunde nur seine eigenen Aufträge sehen darf. Ein Modell schreibt die Abfrage — sie funktioniert, die Seite lädt, die Daten stimmen. Die Sicherheitsrolle prüft dieselbe Stelle mit einer anderen Frage: Was passiert, wenn jemand die Auftragsnummer in der Adresszeile ändert? Fehlt der Filter auf das eigene Konto, legt sie ihr Veto ein, der Plan geht zurück in die Nachbesserung, und erst die überarbeitete Fassung wird freigegeben. Der Unterschied liegt nicht im Tempo, sondern darin, dass diese zweite Frage überhaupt gestellt wird.

Wo der Begriff vorkommt

• Verifizierte KI-Entwicklung: Kann man KI-Code vertrauen?
• So funktioniert der Ablauf im Ganzen
• Vibe Coding vs. verifizierte KI-Entwicklung

Quellen

• Veracode (Anbieter für Anwendungssicherheit), GenAI Code Security Report, 2025
• Stack Overflow Developer Survey 2025, Abschnitt AI
• METR, Studie zu KI-Werkzeugen bei erfahrenen Entwicklern, 2025

Verwandte Begriffe

• Council
• Belegkette
• Prüfsiegel
• Vibe Coding