Niemcy: nadzór nad AI w sektorze finansowym
Stan na dziś
Podstawą jest niemiecka ustawa wykonawcza do AI Act (Gesetz zur Durchführung der europäischen Verordnung über Künstliche Intelligenz); jej częścią jest KI-MIG, czyli ustawa o nadzorze rynku AI i wspieraniu innowacji, rozstrzygająca podział kompetencji między oba organy. Federalny Urząd Nadzoru Usług Finansowych (BaFin) objął nadzorem banki, ubezpieczycieli i pozostałe nadzorowane instytucje finansowe w zakresie systemów AI wykorzystywanych bezpośrednio w regulowanej działalności — wprost wymieniane przykłady to ocena zdolności kredytowej w bankach oraz ocena ryzyka w ubezpieczeniach na życie i zdrowotnych (oba przypadki należą do systemów wysokiego ryzyka z Załącznika III), a także obowiązki przejrzystości wobec systemów, z którymi klient wchodzi w bezpośrednią interakcję, czyli w praktyce chatboty obsługi klienta. BaFin przejął również nadzór nad przestrzeganiem zakazanych praktyk z Art. 5 i ma prawo nakładać kary pieniężne za naruszenia AI Act. Rozgraniczenie jest przy tym funkcjonalne, a nie podmiotowe: system AI używany przez bank do rekrutacji lub obsługi kadr nie jest „w bezpośrednim związku z regulowaną działalnością finansową" i podlega Bundesnetzagentur, mimo że użytkownikiem jest instytucja nadzorowana przez BaFin. Dla dostawców oprogramowania sprzedających do niemieckich klientów oznacza to konkretną konsekwencję praktyczną — przy tym samym produkcie organ właściwy może być inny w zależności od procesu, w którym klient go osadzi, więc ocena AISIA powinna ustalać nie tylko klasyfikację systemu, ale i to, kto po stronie niemieckiej będzie ten system kontrolował
Oś czasu — 1 wpis
Podstawą jest niemiecka ustawa wykonawcza do AI Act (Gesetz zur Durchführung der europäischen Verordnung über Künstliche Intelligenz); jej częścią jest KI-MIG, czyli ustawa o nadzorze rynku AI i wspieraniu innowacji, rozstrzygająca podział kompetencji między oba organy. Federalny Urząd Nadzoru Usług Finansowych (BaFin) objął nadzorem banki, ubezpieczycieli i pozostałe nadzorowane instytucje finansowe w zakresie systemów AI wykorzystywanych bezpośrednio w regulowanej działalności — wprost wymieniane przykłady to ocena zdolności kredytowej w bankach oraz ocena ryzyka w ubezpieczeniach na życie i zdrowotnych (oba przypadki należą do systemów wysokiego ryzyka z Załącznika III), a także obowiązki przejrzystości wobec systemów, z którymi klient wchodzi w bezpośrednią interakcję, czyli w praktyce chatboty obsługi klienta. BaFin przejął również nadzór nad przestrzeganiem zakazanych praktyk z Art. 5 i ma prawo nakładać kary pieniężne za naruszenia AI Act. Rozgraniczenie jest przy tym funkcjonalne, a nie podmiotowe: system AI używany przez bank do rekrutacji lub obsługi kadr nie jest „w bezpośrednim związku z regulowaną działalnością finansową" i podlega Bundesnetzagentur, mimo że użytkownikiem jest instytucja nadzorowana przez BaFin. Dla dostawców oprogramowania sprzedających do niemieckich klientów oznacza to konkretną konsekwencję praktyczną — przy tym samym produkcie organ właściwy może być inny w zależności od procesu, w którym klient go osadzi, więc ocena AISIA powinna ustalać nie tylko klasyfikację systemu, ale i to, kto po stronie niemieckiej będzie ten system kontrolował