ISO/IEC 23894:2023

Standard zawierający wytyczne dotyczące identyfikowania, analizowania, oceniania i traktowania ryzyka wynikającego z wykorzystywania sztucznej inteligencji.

Może być wykorzystywany zarówno przez organizacje tworzące systemy AI, jak i przez podmioty, które je kupują, wdrażają lub wykorzystują.

W praktyce wspiera analizę takich zagadnień jak:

• możliwe źródła ryzyka związanego z systemem AI;
• skutki błędnych lub nieoczekiwanych wyników działania AI;
• jakość i ograniczenia danych;
• niepewność i ograniczenia modeli;
• podatność rozwiązania na zmiany warunków, w których jest stosowane;
• bezpieczeństwo i odporność systemu;
• możliwe konsekwencje dla osób, organizacji i innych zainteresowanych stron;
• zależności od dostawców modeli, danych i technologii;
• ryzyka pojawiające się na różnych etapach cyklu życia rozwiązania;
• sposób monitorowania zmian poziomu ryzyka po wdrożeniu systemu.

Standard można traktować jako metodyczne wsparcie procesu zarządzania ryzykiem AI. Nie ustanawia samodzielnego systemu zarządzania organizacją takiego jak ISO/IEC 42001, lecz pomaga wbudować zarządzanie ryzykiem AI w istniejące procesy i struktury.