– Projekt MISSION KI stellt Qualitätsstandard für Niedrigrisiko-KI-Systeme vor
– Standard operationalisiert Prinzipien vertrauenswürdiger KI in sechs Dimensionen
– Digitales Prüfportal erleichtert Unternehmen die strukturierte Bewertung
KI-Qualität messbar machen: Neuer Standard für vertrauenswürdige KI
Das Projekt MISSION KI hat beim AI Quality & Governance Day in Berlin einen freiwilligen Qualitätsstandard für Niedrigrisiko-KI-Systeme vorgestellt*. Ergänzend steht ein digitales Prüfportal bereit, das Unternehmen die praktische Anwendung erleichtert. Die Initiative bietet damit erstmals einen strukturierten Rahmen, um KI-Qualität konkret zu überprüfen und nachzuweisen – besonders wertvoll für Start-ups und kleine Unternehmen mit begrenzten Ressourcen.
„Gerade Start-ups und KMU haben aufgrund ihrer begrenzten personellen und finanziellen Ressourcen keine unbegrenzten Möglichkeiten, ihre KI-Systeme auf den Markt zu bringen. Ihnen hilft der freiwillige Qualitätsstandard sowohl bei der Entwicklung als auch der Vermarktung besonders. Praktische Hilfen und klare Vorgaben zeigen auf, wo zielgerichteten Verbesserungsmöglichkeiten für das eigene KI-System liegen. Mit den im Standard adressierten Prinzipien vertrauenswürdiger KI wird die Qualität Ihrer KI-Systeme prüf- und darstellbar. Vertrauenswürdige KI wird mit dem Qualitätsstandard nachweisbar.“
Der neue Standard fasst zentrale Prinzipien vertrauenswürdiger KI – darunter Transparenz, Nicht-Diskriminierung und Verlässlichkeit – in Qualitätsdimensionen zusammen*. Diese bieten Unternehmen einen klaren Leitfaden, um ihre KI-Systeme systematisch zu bewerten und zu verbessern. Für KI-Systeme mit begrenztem Risiko gibt es aktuell lediglich Transparenzpflichten nach EU AI Act*.
Qualitätsstandard und Prüfportal:
*
EU-Recht: Was bedeutet "Niedrigrisiko-KI" eigentlich?
Der EU AI Act unterteilt KI-Systeme in vier Risikostufen, wobei Niedrigrisiko-KI-Systeme als begrenztes Risiko mit geringeren Pflichten eingestuft werden (Quelle: DIN). Diese Kategorie bildet gewissermaßen die Restmenge aller KI-Anwendungen, die weder verboten noch als Hochrisiko eingestuft sind – laut EU AI Act (Stand März 2024) werden Niedrigrisiko-KI-Systeme genau als diese Restkategorie definiert (Quelle: AppliedAI).
EU AI Act: Was bedeutet "Niedrigrisiko"?
Die Einstufung als Niedrigrisiko bringt erhebliche regulatorische Erleichterungen mit sich. Für Niedrigrisiko-KI-Systeme bestehen seit Februar 2025 keine konkreten regulatorischen Pflichten wie Qualitätsmanagement oder Risikoanalyse, im Gegensatz zu Hochrisiko-KI-Systemen (Quelle: IHK München)*. Statt umfangreicher Compliance-Anforderungen genügt bei begrenztem Risiko die Erfüllung von Transparenzpflichten.
Regulatorischer Status — Chronologie
Der aktuelle Stand zeigt den vergleichsweise geringen Regulierungsaufwand für diese KI-Systeme.
Diese rechtliche Einordnung macht deutlich, warum freiwillige Qualitätsstandards wie der von MISSION KI entwickelte Standard an Bedeutung gewinnen. Ohne verbindliche Prüfpflichten bieten solche Initiativen Unternehmen die Möglichkeit, Vertrauenswürdigkeit und Qualität ihrer KI-Systeme dennoch nachweisbar zu machen.
Freiwillige KI-Prüfungen: Start-ups und KMU zeigen Interesse, zögern bei Zertifizierung
Die Praxis zeigt ein differenziertes Bild: Während sich viele kleinere Unternehmen mit freiwilligen KI-Prüfungen auseinandersetzen, bleibt die formale Zertifizierung die Ausnahme. Laut einer Bitkom-Umfrage haben ca. 25 % der Start-ups und KMU sich mit freiwilligen KI-Prüfungen beschäftigt (Stand: Januar 2025)*. Diese Diskrepanz zwischen theoretischem Interesse und praktischer Umsetzung verdeutlicht die Herausforderungen, vor denen kleine und mittlere Unternehmen stehen.
Bereits 2024 etablierte der MISSION KI Mindeststandard überprüfbare Anforderungen an vertrauenswürdige Niedrigrisiko-KI und unterstützt Qualitätssicherung. Trotz solcher Initiativen blieb die Situation Ende 2024 weitgehend unverändert*.
Typische Hürden für kleinere Unternehmen
Drei Hauptgründe erklären die Zurückhaltung bei formalen Zertifizierungen:
- Begrenzte Ressourcen in Personal und Budget erschweren aufwändige Zertifizierungsprozesse
- Unsicherheit über Nutzen versus Kosten freiwilliger Prüfungen führt zu Abwarten
- Geringe Verbreitung formaler Zertifikate (laut Bitkom-Umfrage – Stand: Januar 2025)* verringert den Wettbewerbsdruck
Die Zahlen belegen: Das Interesse an Qualitätssicherung ist bei Start-ups und KMU vorhanden, doch die Umsetzung formaler Zertifizierungsprozesse scheitert oft an praktischen Hindernissen. Initiativen wie der MISSION KI-Standard versuchen hier Brücken zu bauen, indem sie niedrigschwellige Einstiege in strukturierte Qualitätsprüfungen bieten.
Vertrauen durch Standards: Warum KI-Qualität gesellschaftlich zählt
Für KI-Systeme mit begrenztem Risiko sieht der EU AI Act Stand: Februar 2025 lediglich Transparenzpflichten vor*. Dieser regulatorische Rahmen bietet zwar erste Orientierung, lässt jedoch entscheidende Fragen offen: Wie können Nutzer zwischen vertrauenswürdigen und weniger zuverlässigen KI-Anwendungen unterscheiden? Und woran sollen sich öffentliche Beschaffer halten, wenn sie KI-Lösungen ausschreiben? Genau hier setzt der freiwillige Qualitätsstandard von MISSION KI an, der bereits Stand: 2024 als Orientierungsangebot verfügbar ist*.
Die gesellschaftliche Relevanz solcher Standards zeigt sich besonders bei der Nutzerakzeptanz. Unternehmen erhalten durch strukturierte Prüfverfahren die Möglichkeit, Vertrauenswürdigkeit konkret nachzuweisen – ein entscheidender Faktor in Zeiten, in denen Skepsis gegenüber KI-Anwendungen wächst. Der Qualitätsstandard übersetzt abstrakte Prinzipien wie Transparenz, Nicht-Diskriminierung und Verlässlichkeit in praktisch überprüfbare Kriterien. Dieser Nachweis wird zur wichtigen Grundlage für den Dialog mit Kunden und Investoren.
Für öffentliche Auftraggeber entstehen durch einheitliche Bewertungskriterien ganz neue Möglichkeiten. Beschaffungsstellen stehen häufig vor der Herausforderung, unterschiedliche KI-Lösungen vergleichbar zu machen. Der Standard bietet hier eine strukturierte Basis für Ausschreibungsverfahren und unterstützt bei der Auswahl geeigneter Anbieter. Besonders Start-ups und KMU profitieren von der Möglichkeit, ihre Qualitätsmaßnahmen systematisch zu dokumentieren und in Vergabeverfahren nachzuweisen.
Allerdings zeigt die Praxis, dass freiwillige Standards allein nicht ausreichen: Die Verbreitung formaler Zertifikate für KI-Systeme blieb Stand: Ende 2024 / Januar 2025 noch gering. Diese Lücke zwischen theoretischen Angeboten und praktischer Umsetzung verdeutlicht, wie wichtig sowohl die Verfügbarkeit von Prüfverfahren als auch deren tatsächliche Nutzung sind. Der MISSION KI-Standard stellt hier einen wichtigen Schritt dar, muss sich aber in der Breite noch bewähren.
Freiwilligkeit versus internationale Standards
Der deutsche Qualitätsstandard für Niedrigrisiko-KI positioniert sich in einem internationalen Umfeld, in dem unterschiedliche Ansätze zur KI-Governance verfolgt werden.*
Die Entwicklung zeigt zwei grundsätzliche Wege auf: Einerseits flexible Rahmenwerke zur eigenverantwortlichen Risikobewertung, andererseits konkrete Operationalisierungen mit klaren Qualitätskriterien. Für deutsche Unternehmen bedeutet dies eine doppelte Herausforderung: Sie müssen sowohl die Anforderungen des EU AI Act im Blick behalten als auch die internationale Wettbewerbsfähigkeit ihrer KI-Systeme sichern. Der MISSION KI-Standard könnte hier eine Brückenfunktion übernehmen, indem er europäische Regulierung mit praktischer Anwendbarkeit verbindet.*
Offene Fragen bleiben insbesondere zur langfristigen Akzeptanz des freiwilligen Standards: Wird sich die Zertifizierung als Wettbewerbsvorteil im Beschaffungswesen etablieren? Können kleine Unternehmen den zusätzlichen Prüfaufwand stemmen? Und wie entwickeln sich die Anforderungen an Messbarkeit und Nachweisbarkeit von KI-Qualität weiter?
Für eine vertiefte Einschätzung wären zwei Perspektiven besonders aufschlussreich: Wie bewerten die Verantwortlichen von VDE/MISSION KI die internationale Anschlussfähigkeit ihres Standards? Und welche Erfahrungen machen Start-ups und KMU konkret mit der praktischen Umsetzung?
Die nachfolgenden Informationen und Zitate stammen aus einer Pressemitteilung des VDE Verband der Elektrotechnik Elektronik Informationstechnik e. V.
Weiterführende Quellen:
- „Laut EU AI Act (Stand März 2024) werden Niedrigrisiko-KI-Systeme als Restkategorie definiert, die weder verboten noch Hochrisiko sind.“ – Quelle: https://www.appliedai.de/assets/files/AIAct_WhitePaper_DE-1_2024-03-04-123021_uwgf.pdf
- „Der EU AI Act kategorisiert KI-Systeme seit 2025 in vier Risikostufen, wobei Niedrigrisiko-KI-Systeme als begrenztes Risiko mit geringeren Pflichten eingestuft werden.“ – Quelle: https://www.din.de/de/forschung-und-innovation/themen/kuenstliche-intelligenz/ai-act/der-ai-act-und-dessen-risikostufen
- „Für Niedrigrisiko-KI-Systeme bestehen seit Februar 2025 keine konkreten regulatorischen Pflichten wie Qualitätsmanagement oder Risikoanalyse, im Gegensatz zu Hochrisiko-KI-Systemen.“ – Quelle: https://www.ihk-muenchen.de/ratgeber/digitalisierung/kuenstliche-intelligenz/ai-act/
- „Der 2024 eingeführte MISSION KI Mindeststandard bietet Start-ups und KMU überprüfbare Anforderungen an vertrauenswürdige Niedrigrisiko-KI und unterstützt Qualitätssicherung.“ – Quelle: https://mission-ki.de/de/deutschlands-weg-zu-vertrauenswuerdiger-ki
- „Ende 2024 sind freiwillige Zertifizierungen von Niedrigrisiko-KI-Systemen in Deutschland/EU selten und meist auf Pilotprojekte beschränkt.“ – Quelle: https://www.ey.com/de_de/insights/consulting/was-der-eu-ai-act-fuer-unternehmen-bedeutet
- „Das US-amerikanische NIST AI Risk Management Framework (Stand Januar 2023) dient international als freiwilliger Selbsteinschätzungsrahmen, verzichtet jedoch auf konkrete Zertifizierungssysteme für Niedrigrisiko-KI.“ – Quelle: https://de.wikipedia.org/wiki/NIST_AI_Risk_Management_Framework
- „Eine Bitkom-Umfrage aus Januar 2025 zeigt, dass ca. 25 % der Start-ups und KMU sich mit freiwilligen KI-Prüfungen beschäftigt haben, jedoch weniger als 5 % eine Zertifizierung angestoßen haben.“ – Quelle: https://www.bitkom.org/Presse/Presseinformation/KI-Standards-Startups-KMU-2025
10 Antworten
Brausch
Es wäre hilfreich wenn mehr Informationen über den Nutzen dieser Standards veröffentlicht werden könnten! Welche konkreten Vorteile haben wir als Gesellschaft durch solche Initiativen?
Margarete25
„Vertrauenswürdige KI“ klingt gut, aber was bedeutet das konkret? Wie können wir sicherstellen, dass diese Standards auch tatsächlich eingehalten werden? Gibt es Kontrollen?
Der freiwillige Qualitätsstandard könnte vielen kleinen Firmen helfen. Ich habe gehört, dass viele zögern bei der Zertifizierung. Was denkt ihr darüber? Ist es wirklich so kompliziert?
Ja, das Thema Zertifizierung ist echt schwierig! Viele Firmen haben nicht die Ressourcen dafür. Gibt es Möglichkeiten für Unterstützung bei den Kosten?
Ich stimme zu! Wenn mehr Hilfe angeboten wird, würden sicher mehr Unternehmen mitmachen und das Vertrauen in KI könnte wachsen.
Ich finde den neuen Standard für Niedrigrisiko-KI-Systeme echt interessant. Es ist wichtig, dass kleine Unternehmen auch mit KI arbeiten können, ohne zu viel Geld auszugeben. Wie genau funktioniert das digitale Prüfportal?
Das digitale Prüfportal klingt super! Ich hoffe, dass es wirklich einfach zu nutzen ist. Was sind die ersten Schritte, die ein Start-up machen sollte, um diesen Standard zu nutzen?
Ich frage mich, ob dieser Standard tatsächlich eine Verbesserung für die Qualität der KI-Systeme bringt. Gibt es schon Beispiele von Unternehmen, die davon profitiert haben?