Amerykański instytut federalny opracowujący standardy, frameworki, wytyczne i metody oceny AI —
m.in. w obszarze zarządzania ryzykiem, bezpieczeństwa i wiarygodności systemów.
20 dokumentów w pięciu grupach tematycznych.
NIST AI 600-1 (GenAI Profile), NIST AI RMF Playbook (AI RMF), ISO/IEC 23894:2023
ZastosowanieZarządzanie ryzykiem AI w całym lifecycle
Powiązania
NIST AI 600-1 (GenAI Profile), NIST AI RMF Playbook (AI RMF), ISO/IEC 23894:2023
controlsgovernancerisk management
AI RMF Playbook
NIST AI RMF Playbook
Data publikacji
30.03.2023
Typ
Implementation guidance
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowaniePraktyczny przewodnik do AI RMF 1.0: dla każdej z czterech funkcji (Govern, Map, Measure, Manage) podaje sugerowane działania i odniesienia. NIST aktualizuje go na bieżąco.
Powiązania
NIST AI 100-1 (AI RMF)
controlsgovernance
NIST AI 600-1
Artificial Intelligence Risk Management Framework: Generative AI Profile
Data publikacji
26.07.2024
Typ
AI RMF Profile
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieRyzyka i działania kontrolne dla GenAI
Powiązania
NIST AI 100-1 (AI RMF)
gen-airisk managementsafety
NIST AI 100-4
Reducing Risks Posed by Synthetic Content
Data publikacji
20.11.2024
Typ
Technical guidance
Powiązania
C2PA Specification, NIST AI 600-1 (GenAI Profile)
ZastosowanieWatermarking, provenance, detection i oznaczanie treści syntetycznych
Powiązania
C2PA Specification, NIST AI 600-1 (GenAI Profile)
gen-aitransparency
NIST AI 200-1
AI Use Taxonomy: A Human-Centered Approach
Data publikacji
26.03.2024
Typ
Taxonomy / guide
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieKlasyfikowanie sposobów użycia AI i interakcji człowiek–AI
Powiązania
NIST AI 100-1 (AI RMF)
human factors
NIST AI 100-3
The Language of Trustworthy AI
Data publikacji
29.03.2023
Typ
Glossary / terminology
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieSłownik pojęć trustworthy/responsible AI
Powiązania
NIST AI 100-1 (AI RMF)
governance
SP 1270
Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
Data publikacji
15.03.2022
Typ
Special Publication
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowaniePublikacja NIST o identyfikowaniu i ograniczaniu stronniczości w systemach AI: opisuje stronniczość systemową, statystyczną i ludzką oraz podejście socjotechniczne, wykraczające poza same dane i algorytmy.
Powiązania
NIST AI 100-1 (AI RMF)
fairness
NISTIR 8312
Four Principles of Explainable Artificial Intelligence
Data publikacji
29.09.2021
Typ
Research guidance
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieZasady explainable AI
Powiązania
NIST AI 100-1 (AI RMF)
explainability
NISTIR 8367
Psychological Foundations of Explainability and Interpretability of AI
Data publikacji
12.04.2021
Typ
Research report
Powiązania
ISO/IEC 23894:2023, NIST AI 100-1 (AI RMF)
ZastosowaniePodstawy interpretowalności i rozumienia wyjaśnień AI
Powiązania
ISO/IEC 23894:2023, NIST AI 100-1 (AI RMF)
explainabilityhuman factors
NIST AI 100-2e2025
Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations
Data publikacji
24.03.2025
Typ
Security taxonomy / guidance
Powiązania
NIST AI 100-1 (AI RMF), NIST SP 800-218A
ZastosowanieKlasyfikacja ataków na AI i sposobów ograniczania ryzyka
Powiązania
NIST AI 100-1 (AI RMF), NIST SP 800-218A
risk managementsecurity
NIST AI 800-1 Draft
Managing Misuse Risk for Dual-Use Foundation Models
Data publikacji
15.01.2025
Typ
Risk guidance
Powiązania
NIST AI 600-1 (GenAI Profile)
ZastosowanieOcena i ograniczanie ryzyka nadużyć foundation models
Powiązania
NIST AI 600-1 (GenAI Profile)
risk managementsafetysecurity
SP 800-218A
Secure Software Development Practices for Generative AI and Dual-Use Foundation Models
Data publikacji
26.07.2024
Typ
Security guidance
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieSecure development lifecycle dla modeli AI
Powiązania
NIST AI 100-1 (AI RMF)
gen-aisecurity
NIST AI 200-2 Draft
The TEVV-Athlon Framework for Evaluating AI Systems
Data publikacji
07.08.2026
Typ
Evaluation framework
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieProjektowanie testów, evaluation, verification i validation systemów AI
Powiązania
NIST AI 100-1 (AI RMF)
evaluation
NIST AI 800-4
Challenges to the Monitoring of Deployed AI Systems
Data publikacji
06.03.2026
Typ
Monitoring framework/report
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieMonitoring systemów AI po wdrożeniu
Powiązania
NIST AI 100-1 (AI RMF)
monitoringsecurity
NIST AI 800-3
Expanding the AI Evaluation Toolbox with Statistical Models
Data publikacji
17.02.2026
Typ
Evaluation methodology
Powiązania
NIST AI 800-2
ZastosowanieStatystyczna ocena wyników benchmarków AI
Powiązania
NIST AI 800-2
evaluation
NIST AI 800-2 Draft
Practices for Automated Benchmark Evaluations of Language Models
Data publikacji
30.01.2026
Typ
Evaluation guidance
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieDobre praktyki benchmarkowania LLM i agentów
Powiązania
NIST AI 100-1 (AI RMF)
evaluation
NIST AI 700-2
Assessing Risks and Impacts of AI (ARIA): Pilot Evaluation Report
Data publikacji
13.11.2025
Typ
Evaluation methodology/report
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieModel testing, red teaming i field testing AI
Powiązania
NIST AI 100-1 (AI RMF)
evaluationimpact assessment
NIST AI 700-1
NIST GenAI Pilot Evaluation Report — Text-to-Text Evaluation
Data publikacji
25.06.2025
Typ
Evaluation report
Powiązania
NIST AI 100-1 (AI RMF), NIST AI 600-1 (GenAI Profile)
ZastosowanieOcena generowania tekstu i detekcji treści AI
Powiązania
NIST AI 100-1 (AI RMF), NIST AI 600-1 (GenAI Profile)
evaluationgen-ai
NIST AI 300-1 Draft
Guidance and Templates for Public-Facing Documentation of AI Datasets and Models
Data publikacji
30.07.2026
Typ
Zero Draft / guidance
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieWstępny projekt NIST („zero draft”) wytycznych i szablonów publicznej dokumentacji zbiorów danych i modeli AI — z listą pól, które taka dokumentacja powinna albo może zawierać.
Powiązania
NIST AI 100-1 (AI RMF)
documentationtransparency
NIST AI 100-5
A Plan for Global Engagement on AI Standards
Data publikacji
29.04.2025
Typ
Standards strategy
Powiązania
NIST AI 100-1 (AI RMF)
ZastosowanieKierunki rozwoju i współpracy w zakresie standardów AI
Powiązania
NIST AI 100-1 (AI RMF)
standards
MicrosoftPUBLIC
Microsoft Responsible AI
Wewnętrzny standard Microsoft dla zespołów budujących systemy AI, opublikowany otwarcie —
można go stosować niezależnie od produktów Microsoft, tak jak NIST AI RMF czy OWASP Top 10.
Microsoft
Microsoft Responsible AI Standard, v2 — General Requirements
Data publikacji
21.06.2022
Typ
Governance framework
ZastosowanieOperacjonalizuje sześć zasad Microsoft (rzetelność, wiarygodność i bezpieczeństwo, prywatność i bezpieczeństwo danych, inkluzywność, przejrzystość, odpowiedzialność) w konkretne wymogi dla zespołów budujących systemy AI — w tym obowiązkowe oceny wpływu. Dokument opublikowany otwarcie — można go stosować bez użycia produktów Microsoft.
governance
Microsoft
Microsoft Responsible AI Impact Assessment Template
Data publikacji
21.06.2022
Typ
Impact assessment template
ZastosowanieSzablon dokumentowania oceny wpływu systemu AI, stosowany razem z Impact Assessment Guide. Porządkuje informacje o systemie, zamierzonych zastosowaniach, interesariuszach, korzyściach i potencjalnych szkodach, wymaganiach dotyczących danych oraz wstępnych działaniach ograniczających ryzyko. Umożliwia zapis podsumowania oceny i jej zatwierdzenia przez recenzentów.
impact assessmentrisk management
Microsoft
Microsoft Responsible AI Impact Assessment Guide
Data publikacji
21.06.2022
Typ
Impact assessment guidance
ZastosowaniePrzewodnik do przeprowadzenia oceny wpływu systemu AI zgodnie z Microsoft Responsible AI Standard v2 i wypełnienia Impact Assessment Template. Zawiera wskazówki, pytania pomocnicze, ćwiczenia zespołowe i studium przypadku. Pomaga określić zastosowania systemu, interesariuszy, korzyści i potencjalne szkody oraz wstępne działania ograniczające ryzyko.
human factorsimpact assessmentrisk management
Rada EuropyPUBLIC
Rada Europy — Konwencja ramowa o AI i HUDERIA
Metodyka oceny ryzyka i wpływu systemów AI z perspektywy praw człowieka, demokracji i praworządności, przyjęta przez Komitet ds. Sztucznej Inteligencji Rady Europy jako narzędzie do Konwencji ramowej o AI. Niewiążąca dla stron konwencji; do stosowania lub adaptacji obok innych narzędzi.
HUDERIA — Methodology for the Risk and Impact Assessment of Artificial Intelligence Systems from the Point of View of Human Rights, Democracy and the Rule of Law (Methodology and Model)
Data publikacji
25.02.2026
Typ
Metodyka oceny ryzyka i wpływu
ZastosowanieCztery elementy: analiza ryzyka oparta na kontekście (COBRA — czynniki ryzyka w kontekście zastosowania, budowy i wdrożenia), angażowanie interesariuszy, ocena ryzyka i wpływu, plan środków. Dotkliwość skutku rozumiana jako złożenie skali, zasięgu i odwracalności; prawdopodobieństwo jako czwarta zmienna; sposób łączenia zmiennych pozostawiony użytkownikowi. Hierarchia środków: unikaj → ogranicz → przywróć → zrekompensuj. Metodykę zatwierdził Komitet Ministrów 26.02.2025, model COBRA 25.02.2026; wydanie skonsolidowane 2026. Metodyka analizy wpływu AI RiCO bierze z niej trzy składowe dotkliwości.
governanceimpact assessmentrisk assessment
GooglePUBLIC
Google — Secure AI Framework
Ramy bezpieczeństwa systemów AI opracowane przez Google: zasady ochrony modeli, danych i infrastruktury na każdym etapie cyklu życia systemu.
Secure AI Framework (SAIF)
Stan
aktualizowane na bieżąco
Typ
Security framework
ZastosowanieRamy bezpieczeństwa AI Google: mapa ryzyk (15 ryzyk z kontrolami), część poświęcona agentom i samoocena ryzyka agenta. Dla twórców modeli i dla zespołów budujących aplikacje na cudzych modelach.
agenticcontrolssecurity
OWASPPUBLIC
Open Worldwide Application Security Project
Międzynarodowa fundacja non-profit tworząca otwarte standardy bezpieczeństwa aplikacji. Tu: listy Top 10 zagrożeń dla aplikacji z modelami językowymi i dla agentów AI.
LLM Top 10 2026
OWASP GenAI LLM Top 10 2026
Data publikacji
03.08.2026
Typ
Security risk list
ZastosowanieDziesięć najpoważniejszych ryzyk bezpieczeństwa aplikacji opartych na dużych modelach językowych, z opisem ataków i zabezpieczeń. Pierwsza edycja ułożona z uwzględnieniem 6 639 rzeczywistych incydentów.
gen-aisecurity
ACS 1.0
Agent Control Standard
Data publikacji
01.09.2026
Typ
Control standard
ZastosowanieOtwarty standard opisujący, jak platformy agentowe udostępniają punkty kontroli i egzekwują zasady bezpieczeństwa w trakcie działania agenta, tak by agent był obserwowalny i dało się go zatrzymać.
agenticcontrols
OWASP Top 10 for Agentic Applications for 2026
Data publikacji
09.12.2025
Typ
Security risk list
ZastosowanieDziesięć ryzyk właściwych agentom AI: przejęcie celu agenta, nadużycie narzędzi i uprawnień, kaskadowe awarie wielu agentów. Uzupełnia listę LLM Top 10 o zagrożenia systemów działających samodzielnie.
agenticsecurity
CSA
Cloud Security Alliance
Organizacja non-profit opracowująca standardy bezpieczeństwa chmury. Tu: katalog kontroli bezpieczeństwa dla systemów AI.
AICM v1.1
AI Controls Matrix
Data publikacji
22.06.2026
Typ
Controls framework
Zastosowanie247 celów kontrolnych w 18 domenach dla bezpiecznego wytwarzania i używania AI w chmurze. Zawiera mapowania na ISO/IEC 42001, AI Act i NIST AI RMF oraz kwestionariusz AI-CAIQ do oceny dostawcy.
auditcontrolssecurity
MITRE
MITRE
Amerykańska organizacja non-profit prowadząca bazy wiedzy o zagrożeniach. ATLAS opisuje taktyki i techniki ataków na systemy AI, na wzór MITRE ATT&CK.
MITRE ATLAS — Adversarial Threat Landscape for Artificial-Intelligence Systems
Stan
v2026.09 (15.09.2026), aktualizowane na bieżąco
Typ
Threat knowledge base
ZastosowanieBaza taktyk i technik ataków na systemy AI (16 taktyk, 120 technik, 73 studia przypadków), coraz szerzej obejmująca agentów. Wspólny język zespołów bezpieczeństwa przy modelowaniu zagrożeń.
agenticsecurity
Bazy ryzyka i incydentówPUBLIC
Bazy ryzyka i incydentów AI
Publiczne bazy, które gromadzą opisane ryzyka AI i zgłoszone incydenty z udziałem systemów AI. Przydają się przy identyfikacji ryzyk i szukaniu podobnych przypadków.
MIT AI Risk Repository
Stan
wersja 4, aktualizowane na bieżąco
Typ
Risk database
ZastosowaniePonad 1 700 sklasyfikowanych ryzyk AI zebranych z 65 ram, wspólna taksonomia oraz powiązane bazy incydentów i regulacji. Służy do sprawdzenia, czy ocena ryzyka nie pomija istotnej kategorii.
riskrisk assessment
AI Incident Database
Stan
aktualizowane na bieżąco
Typ
Incident database
ZastosowaniePonad 1 700 opisanych rzeczywistych incydentów z udziałem AI, weryfikowanych przez redakcję (Responsible AI Collaborative). Materiał do analizy tego, co już poszło źle, i do szkoleń.
incident reportingrisk
OECD AI Incidents and Hazards Monitor (AIM)
Stan
aktualizowane na bieżąco
Typ
Incident monitor
ZastosowanieAutomatyczny monitoring doniesień medialnych o incydentach i zagrożeniach AI na świecie, z filtrami według branży i rodzaju szkody. Szeroki zasięg, ale zbierany automatycznie, bez weryfikacji redakcyjnej.
incident reportingmonitoring
Narzędzia testowe (open source)PUBLIC
Narzędzia testowe (open source)
Otwarte narzędzia do testowania modeli i aplikacji AI: od oceny możliwości po testy odporności na ataki, np. wstrzykiwanie poleceń.
Inspect
Stan
aktualizowane na bieżąco
Typ
Narzędzie ewaluacji
ZastosowanieOtwarte środowisko do testowania modeli rozwijane przez brytyjski AI Security Institute i Meridian Labs (licencja MIT), z ponad 200 gotowymi ewaluacjami, także zadań agentowych.
evaluationsafety evaluation
PyRIT
Stan
aktualizowane na bieżąco
Typ
Narzędzie red teamingu
ZastosowanieNarzędzie Microsoftu (licencja MIT) do wyszukiwania ryzyk w systemach generatywnej AI przez zautomatyzowane ataki testowe.
evaluationsecurity
garak
Stan
aktualizowane na bieżąco
Typ
Skaner podatności
ZastosowanieSkaner NVIDIA (licencja Apache-2.0) sprawdzający, czy model da się skłonić do niepożądanego zachowania: wstrzykiwanie poleceń, wyciek danych, halucynacje.
evaluationsecurity
Promptfoo
Stan
aktualizowane na bieżąco
Typ
Narzędzie testowe
ZastosowanieOtwarte narzędzie do testowania promptów i aplikacji z modelami językowymi: red teaming, wykrywanie podatności i porównywanie modeli na własnych przypadkach testowych.
evaluationsecurity
AI RiCOPUBLIC
Metodyki AI RiCO
Metodyki, według których aplikacja ocenia systemy AI: co ustala model, co liczy kod, a co rozstrzyga człowiek. Każda ma numer wersji; wynik oceny zapisuje wersję metodyki, na której powstał.
Metodyka analizy wpływu systemu AI
Data publikacji
11.10.2026
Typ
Metodyka
ZastosowanieOpisuje drugi etap oceny systemu AI: kogo system dotyczy, w jaki sposób, jak dotkliwie i które prawa są w grze — osoby, grupy i społeczeństwo. Wynikiem są: mapa osób, korzyści i szkód z dotkliwością, prawa i wartości, rola człowieka oraz wnioski o DPIA, użyciu wrażliwym i FRIA. Wersja 1.1, opracowana z uwzględnieniem wymogów ISO/IEC 42001:2023 (pkt 6.1.4, 8.4, A.5, B.5); z przykładem przejścia metodyki.