Přeskočit na obsah
TECHNOMATON | Docs SAI certifikovaní trenéři

AI Verify → EU AI Act Mapping

Mapování 11 principů AI Verify frameworku na konkrétní požadavky EU AI Act.

Přehled

AI Verify PrincipEU AI Act ReferenceRelevance
1. TransparencyČl. 13, 50, 52HIGH-RISK, LIMITED
2. ExplainabilityČl. 13, 14HIGH-RISK
3. Repeatability/ReproducibilityČl. 15, Annex IVHIGH-RISK
4. SafetyČl. 9, 15HIGH-RISK
5. SecurityČl. 15(5)HIGH-RISK
6. RobustnessČl. 15(4)HIGH-RISK
7. FairnessČl. 10(2)(f), 10(5)HIGH-RISK
8. Data GovernanceČl. 10HIGH-RISK
9. AccountabilityČl. 16, 17, 26HIGH-RISK
10. Human Agency & OversightČl. 14HIGH-RISK
11. Inclusive Growth & WellbeingČl. 27 (FRIA)HIGH-RISK

Detailní Mapping

1. Transparency (Transparentnost)

AI Verify definice:

Srozumitelnost AI systému pro uživatele a dotčené osoby.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 13Instructions for use pro high-risk AIAI Verify: Transparency checklist → dokumentace
Čl. 50(1)Informování o AI interakciAI Verify: User disclosure testing
Čl. 50(2)Označení AI-generated obsahuAI Verify: Content labeling verification
Čl. 52Transparency pro chatboty, deepfakesAI Verify: Disclosure adequacy assessment

AI Verify testy:

  • Transparency disclosure checklist
  • User comprehension testing
  • Labeling completeness audit

Mapování na ANEF checklist: A8 (Transparency & User Info)

2. Explainability (Vysvětlitelnost)

AI Verify definice:

Schopnost vysvětlit, jak AI systém dospěl k rozhodnutí.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 13(1)Srozumitelné informace pro deployersAI Verify: Explainability metrics (SHAP, LIME)
Čl. 14(4)(c)Interpretace výstupů člověkemAI Verify: Human interpretation testing
Annex IV.2(b)Popis logiky AI systémuAI Verify: Model explanation documentation

AI Verify testy:

  • SHAP/LIME explainability scores
  • Feature importance analysis
  • Decision path visualization
  • Counterfactual explanations

Doporučené nástroje:

Mapování na ANEF checklist: A6 (Technical Documentation)

3. Repeatability/Reproducibility (Opakovatelnost)

AI Verify definice:

Konzistence výstupů AI systému při stejných vstupech.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 15(1)Přesnost, robustnost, kybernetická bezpečnostAI Verify: Consistency testing
Annex IV.2(e)Metriky pro měření přesnostiAI Verify: Reproducibility benchmarks
Čl. 12(1)Automatické logováníAI Verify: Audit trail verification

AI Verify testy:

  • Input-output consistency testing
  • Cross-environment reproducibility
  • Version control verification
  • Seed/determinism testing

Mapování na ANEF checklist: A10 (Accuracy & Robustness), A7 (Logging)

4. Safety (Bezpečnost)

AI Verify definice:

AI systém nepůsobí škodu uživatelům ani třetím stranám.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 9(2)Risk management systemAI Verify: Safety assessment framework
Čl. 9(5)Eliminace/snížení rizikAI Verify: Risk mitigation verification
Čl. 15(2)Odolnost vůči chybámAI Verify: Failure mode testing
Čl. 73Hlášení vážných incidentůAI Verify: Incident classification

AI Verify testy:

  • Failure mode analysis
  • Edge case testing
  • Boundary condition testing
  • Error handling verification

Mapování na ANEF checklist: A4 (Risk Management System), A15 (AI Incident Management)

5. Security (Kybernetická bezpečnost)

AI Verify definice:

Ochrana AI systému před útoky a zneužitím.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 15(5)Odolnost vůči pokusům o manipulaciAI Verify: Adversarial testing
Čl. 15(5)(a)Ochrana před data poisoningAI Verify: Data integrity testing
Čl. 15(5)(b)Ochrana před model extractionAI Verify: Security assessment

AI Verify testy (Framework 2.0):

  • Prompt injection testing
  • Data leakage detection
  • Model extraction attempts
  • Adversarial input testing

Doporučené nástroje:

Mapování na ANEF checklist: A10.2 (Robustness testing)

6. Robustness (Odolnost)

AI Verify definice:

Schopnost AI systému fungovat správně i při neočekávaných vstupech.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 15(4)Odolnost vůči chybám a nekonzistencímAI Verify: Robustness metrics
Čl. 15(3)Technická odolnost (high-risk)AI Verify: Stress testing
Annex IV.2(f)Specifikace výkonuAI Verify: Performance benchmarks

AI Verify testy:

  • Out-of-distribution testing
  • Noise injection testing
  • Data drift simulation
  • Stress testing (high load)

Mapování na ANEF checklist: A10.2, A10.3 (Drift detection)

7. Fairness (Spravedlnost)

AI Verify definice:

AI systém nezpůsobuje diskriminaci chráněných skupin.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 10(2)(f)Zkoumání možných biasůAI Verify: Bias detection
Čl. 10(5)Detekce a řešení biasůAI Verify: Fairness metrics
Recital 47NediskriminaceAI Verify: Protected attribute testing

AI Verify fairness metriky:

MetrikaPopisThreshold
Statistical ParityRovná míra pozitivních výsledků< 0.1 rozdíl
Equal OpportunityRovná TPR napříč skupinami< 0.1 rozdíl
Equalized OddsRovná TPR i FPR< 0.1 rozdíl
Predictive ParityRovná PPV< 0.1 rozdíl
Individual FairnessPodobní jedinci → podobné výsledkyKonzistence

Doporučené nástroje:

Mapování na ANEF checklist: A17 (Bias Testing), A5.2 (Data bias assessment)

8. Data Governance (Správa dat)

AI Verify definice:

Kvalita, reprezentativnost a správné řízení dat.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 10(1)Správa training datAI Verify: Data governance checklist
Čl. 10(2)Relevantní, reprezentativní, bez chybAI Verify: Data quality metrics
Čl. 10(3)Úplnost s ohledem na účelAI Verify: Completeness testing
Čl. 10(4)Vlastnosti dat s ohledem na geografiiAI Verify: Distribution analysis

AI Verify testy:

  • Data completeness audit
  • Representativeness analysis
  • Label quality assessment
  • Missing value analysis
  • Data lineage verification

Mapování na ANEF checklist: A5 (Data Governance)

9. Accountability (Odpovědnost)

AI Verify definice:

Jasná odpovědnost za AI systém a jeho výstupy.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 16Povinnosti provideraAI Verify: Accountability mapping
Čl. 17Quality management systemAI Verify: QMS verification
Čl. 26Povinnosti deployeraAI Verify: Deployer compliance check
Čl. 19Uchovávání dokumentaceAI Verify: Documentation audit

AI Verify testy:

  • Role & responsibility mapping
  • Decision ownership tracking
  • Escalation path verification
  • Audit trail completeness

Mapování na ANEF checklist: A3 (AI Governance & QMS)

10. Human Agency & Oversight (Lidská kontrola)

AI Verify definice:

Zachování lidské kontroly nad AI rozhodnutími.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 14(1)Design pro human oversightAI Verify: HITL assessment
Čl. 14(4)(a)Porozumění kapacitám a limitacímAI Verify: Capability documentation
Čl. 14(4)(d)Rozhodnutí nepoužít AI výstupAI Verify: Override testing
Čl. 14(4)(e)Zastavení AI systémuAI Verify: Kill switch verification

AI Verify testy:

  • Human-in-the-loop workflow testing
  • Override mechanism verification
  • Emergency stop testing
  • Automation bias assessment

Mapování na ANEF checklist: A9 (Human Oversight)

11. Inclusive Growth & Wellbeing (Společenský dopad)

AI Verify definice:

Pozitivní dopad AI na společnost a jednotlivce.

EU AI Act požadavky:

ČlánekPožadavekImplementace přes AI Verify
Čl. 27Fundamental Rights Impact AssessmentAI Verify: FRIA support
Recital 5Udržitelný rozvojAI Verify: Sustainability metrics
Recital 27Ochrana zranitelných skupinAI Verify: Vulnerability assessment

AI Verify testy:

  • Societal impact assessment
  • Accessibility testing
  • Environmental impact (optional)
  • Vulnerable group protection

Mapování na ANEF checklist: A13 (FRIA)

Implementační matice

Prioritizace podle rizika

AI Verify PrincipMinimal RiskLimited RiskHigh-RiskProhibited
TransparencyDoporučenoPovinnéPovinnéN/A
ExplainabilityDoporučenoDoporučenoPovinnéN/A
RepeatabilityDoporučenoDoporučenoPovinnéN/A
SafetyDoporučenoDoporučenoPovinnéN/A
SecurityDoporučenoDoporučenoPovinnéN/A
RobustnessDoporučenoDoporučenoPovinnéN/A
FairnessDoporučenoDoporučenoPovinnéN/A
Data GovernanceDoporučenoDoporučenoPovinnéN/A
AccountabilityDoporučenoDoporučenoPovinnéN/A
Human OversightDoporučenoDoporučenoPovinnéN/A
Inclusive GrowthDoporučenoDoporučenoPovinnéN/A

AI Verify testovací workflow pro EU AI Act

GenAI rozšíření (Framework 2.0)

Nové testy pro generativní AI

TestEU AI Act ReferenceAI Verify 2.0 Coverage
Hallucination detectionČl. 15(1) - přesnost✅
Prompt injectionČl. 15(5) - bezpečnost✅
Data leakageČl. 10, GDPR✅
Toxicity detectionČl. 5 - prohibited practices✅
Copyright complianceČl. 53 - GPAI✅

Agentic AI rozšíření

TestPopis
Multi-step reasoningTestování řetězení rozhodnutí
Tool use safetyBezpečnost použití externích nástrojů
Goal alignmentSoulad s definovanými cíli
Sandboxing verificationIzolace agentů

Checklist: AI Verify → EU AI Act Compliance

Pro High-Risk AI systémy

  • Transparency - Čl. 13, 50

    • AI Verify: Transparency checklist completed
    • User disclosure implementováno
    • Instructions for use připraveny

  • Explainability - Čl. 13, 14

    • AI Verify: SHAP/LIME scores acceptable
    • Feature importance dokumentována
    • Decision paths vysvětlitelné

  • Fairness - Čl. 10

    • AI Verify: Bias testing passed
    • Protected attributes testovány
    • Fairness metrics < 0.1 rozdíl

  • Robustness - Čl. 15

    • AI Verify: Adversarial testing passed
    • OOD testing completed
    • Drift detection aktivní

  • Security - Čl. 15(5)

    • AI Verify: Security assessment passed
    • Prompt injection testing (GenAI)
    • Data leakage testing (GenAI)

  • Human Oversight - Čl. 14

    • AI Verify: HITL assessment completed
    • Override mechanism testován
    • Kill switch funkční

  • Data Governance - Čl. 10

    • AI Verify: Data quality metrics OK
    • Representativeness verified
    • Data lineage dokumentována

  • Accountability - Čl. 16, 17, 26

    • AI Verify: Role mapping completed
    • QMS verification passed
    • Audit trail complete

Zdroje

AI Verify

EU AI Act

Testovací nástroje