Begriffe und Verwendung auf der Website
Dieses Glossar fasst zentrale Begriffe aus EU AI Act, ISO/IEC 42001 und KI-Governance zusammen. Die dritte Spalte zeigt, wo der Begriff im Kontext der neuen Seiten besonders relevant ist.
| Begriff | Definition | Verwendung auf der Website |
|---|---|---|
| AI Management System (KIMS) | Systematisches Managementrahmenwerk zur verantwortungsvollen Entwicklung, Implementierung und Nutzung von KI in einer Organisation. Basiert auf der High-Level-Structure wie ISO 9001 und ISO 27001. | |
| Annex A Controls (ISO/IEC 42001) | 38 Kontrollziele in 9 Kontrollbereichen, die operative KI-Governance-Anforderungen spezifizieren. Die Anwendung wird risikobasiert im Statement of Applicability begründet. | |
| Annex III (EU AI Act) | Liste der standalone Hochrisiko-KI-Kategorien. Für Finanzinstitute besonders relevant: Kreditwürdigkeit natürlicher Personen, Life/Health Underwriting und HR-Entscheidungen. | |
| Automation Bias | Kognitive Verzerrung: Tendenz, automatisierte System-Outputs unkritisch zu übernehmen. Das kann Human Oversight schwächen und muss durch Schulung, Stichproben und klare Übersteuerungsrechte adressiert werden. | |
| Betreiber (Deployer) | Unternehmen, das ein KI-System unter eigener Verantwortung einsetzt. Betreiber unterscheiden sich von Anbietern und tragen eigenständige Compliance-Pflichten nach Art. 26 EU AI Act. | |
| CEN/CENELEC | Europäische Normungsorganisationen, die harmonisierte Normen auf EU-Mandat entwickeln. Im KI-Kontext relevant für europäische Normen unter dem EU AI Act. | |
| Conformity Assessment (Konformitätsbewertung) | Verfahren zum Nachweis, dass ein Hochrisiko-KI-System die EU AI Act-Anforderungen erfüllt. Je nach System als Selbstbewertung oder mit notifizierter Stelle. | |
| Digital Omnibus (Mai 2026) | Politische Einigung vom 7. Mai 2026 zur Vereinfachung des AI Act. Teile der Hochrisiko-Fristen könnten verschoben werden; Art. 5 und Art. 4 sind davon nicht betroffen. Formale Rechtskraft bleibt zu prüfen. | |
| CSRD / ESRS Bias-Relevanz | KI-bedingte Diskriminierungs- oder Menschenrechtsrisiken können neben dem EU AI Act auch für Nachhaltigkeitsberichterstattung relevant werden, wenn sie soziale Auswirkungen, Governance, Due Diligence, Risikomanagement oder prüfbare Kennzahlen betreffen. | |
| FRIA (Art. 27 EU AI Act) | Fundamental Rights Impact Assessment: Folgenabschätzung für bestimmte Betreiber von Hochrisiko-KI, insbesondere Kreditwürdigkeitsbewertung und Life/Health-Insurance-Risikobewertung, vor dem Einsatz. | |
| Gap-Analyse | Strukturierter Vergleich des Ist-Zustands mit Anforderungen einer Norm oder Regulierung. Ergebnis ist eine priorisierte Liste von Lücken und Maßnahmen. | |
| Harmonisierte Norm | Norm von CEN/CENELEC, die im EU-Amtsblatt veröffentlicht wird und für bestimmte Anforderungen eine Konformitätsvermutung auslösen kann. | |
| High-Level-Structure (HLS) | Einheitlicher Kapitelaufbau moderner ISO-Managementsystemnormen. Er erleichtert die Integration von ISO 9001, ISO 27001 und ISO/IEC 42001 in ein gemeinsames Managementsystem. | |
| Konformitätsvermutung | Rechtliche Vermutung, dass Anforderungen erfüllt sind, wenn eine harmonisierte Norm angewandt wird. Die konkrete Wirkung hängt von der jeweiligen Norm und Veröffentlichung ab. | |
| New Legislative Framework (NLF) | EU-Regulierungsmodell: Das Gesetz legt Anforderungen fest, harmonisierte Normen konkretisieren deren praktische Umsetzung. Grundlage für CE-Kennzeichnung und Konformitätsbewertung. | |
| prEN 18286 | Europäische Norm in Entwicklung für AI Quality Management Systems im Kontext des EU AI Act. Relevant als mögliche künftige harmonisierte Norm. | |
| Statement of Applicability (SoA) | Dokument, das alle ISO/IEC 42001 Annex-A-Controls auflistet und je Control begründet, ob und wie es angewendet oder ausgeschlossen wird. | |
| Vendor-KI / Shadow AI | KI-Komponenten in eingekaufter Software oder nicht genehmigten Tools, die nicht explizit als KI erkannt, klassifiziert oder freigegeben wurden. Eine zentrale Quelle für Shadow-KI-Risiken. | |
| WEIRD-Bias | Systematische Verzerrung in ML-Modellen durch Trainingsdaten aus Western, Educated, Industrialized, Rich, Democratic-Kontexten. Kann zu strukturellen Benachteiligungen führen. |
Hinweis zur Nutzung
Das Glossar ist als Orientierung gedacht. Für die konkrete Einordnung eines Systems bleiben Zweck, tatsächliche Nutzung, Anbieterunterlagen, Rollenverteilung und Fachprozess entscheidend.