Vendor-KI: Wer verantwortet KI, die man nicht eingekauft hat?

Was ist Vendor-KI?

Vendor-KI ist KI in Systemen externer Anbieter, die auch ohne eigene Modellentwicklung Betreiberpflichten auslösen kann. Wenn Finanzinstitute über Künstliche Intelligenz nachdenken, denken sie meist an bewusste Entscheidungen: ein neues KI-Tool anschaffen, ein Pilotprojekt starten, ein Budget freigeben. Die Realität ist oft anders. KI kann bereits in der bestehenden Softwarelandschaft enthalten sein.

Das ist Vendor-KI: KI-Funktionalität in Systemen externer Anbieter. Für Banken und Versicherungen ist sie deshalb kritisch, weil Betreiberpflichten auch dann entstehen können, wenn das Institut das Modell nicht selbst entwickelt hat.

Welche Systeme enthalten typischerweise Vendor-KI?

Sechs Bereiche von Kernbanking bis Chatbots; bei Kreditentscheidungen kann Annex III Nr. 5(b) greifen, Fraud Detection ist davon ausgenommen.

Die genannten Anbieter sind illustrative Beispiele für typische Produktkategorien. Ob und welche KI-Funktionen in der konkret eingesetzten Produktversion aktiv sind, ergibt sich nur aus der Produktdokumentation des Herstellers; aus dem Anbieternamen allein folgt weder ein KI-Einsatz noch eine Hochrisiko-Einstufung. Für die IKT-Risiken eingekaufter KI-Dienste gilt daneben die DORA-Drittanbietersteuerung; die gemeinsame Erklärung von EBA, EIOPA und ESMA vom 31. Juli 2026 zu Frontier-KI-Modellen ist dafür eine aktuelle aufsichtsbezogene Orientierung.

Rollenverschiebung nach Art. 25: Wann wird ein Betreiber zum Anbieter?

Art. 25 Abs. 1 EU AI Act regelt, wann ein Betreiber, Händler oder Einführer für ein Hochrisiko-KI-System als Anbieter gilt und dessen Pflichten übernimmt. Das betrifft drei Fälle, jeweils mit Hochrisiko-Bezug:

• Name oder Marke: Das Institut versieht ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit eigenem Namen oder eigener Marke.
• Wesentliche Veränderung: Das Institut verändert ein Hochrisiko-KI-System wesentlich, und es bleibt ein Hochrisiko-System.
• Zweckänderung mit Hochrisiko-Folge: Das Institut ändert die Zweckbestimmung eines KI-Systems (auch eines GPAI-Systems) so, dass es zum Hochrisiko-System wird.

Die bloße Nutzung einer eingekauften Anwendung im eigenen Haus ist kein Rebranding des KI-Systems und löst diesen Rollenwechsel nicht aus. Davon zu unterscheiden sind die allgemeine Anbieterdefinition nach Art. 3 Nr. 3 (Entwicklung oder Entwicklenlassen und Inverkehrbringen unter eigenem Namen) sowie die gesonderte Rolle des GPAI-Modellanbieters. Die Bewertung ist einzelfallabhängig. Eine falsche Annahme, nur Betreiber zu sein, kann zu erheblichen Lücken bei Dokumentation, Konformität und Lieferantensteuerung führen.

CSRD/ESRS: Ist Vendor-KI Teil der Wertschöpfungskette?

Ja, Vendor-KI kann auch eine CSRD-/ESRS-Relevanz haben. Die CSRD verlangt Berichterstattung über eigene Tätigkeiten und, soweit anwendbar, Wertschöpfungsketten, Produkte, Dienstleistungen und Geschäftsbeziehungen. Wenn eingekaufte KI-Systeme Diskriminierungsrisiken oder Menschenrechtsauswirkungen verursachen, müssen Beschaffung, Lieferantenmanagement und Governance darauf vorbereitet sein. Voraussetzung ist, dass das Institut überhaupt berichtspflichtig ist: Die Richtlinie (EU) 2026/470 hat den CSRD-Anwendungsbereich auf EU-Unternehmen mit mehr als 1.000 Beschäftigten und mehr als 450 Mio. Euro Nettoumsatz eingeschränkt; nationale Umsetzung, Übergangsjahre und Konzernbetrachtung sind zusätzlich zu prüfen. Zudem muss die Auswirkung oder das Risiko wesentlich sein – nicht jeder Bias-Vorfall führt zu einer ESRS-Angabe.