Přeskočit na obsah
TECHNOMATON | Docs SAI certifikovaní trenéři

Open Source AI Governance Nástroje

Přehled open source a source-available nástrojů pro AI governance, testování a compliance.

Proč open source?

VýhodaPopis
Nákladová efektivitaŽádné licenční poplatky, pouze provozní náklady
TransparentnostMožnost auditu kódu, žádný vendor lock-in
CustomizacePřizpůsobení specifickým potřebám organizace
KomunitaSdílené best practices, rychlý vývoj

Kdy zvolit open source

  • Organizace s DevOps/IT kapacitou pro self-hosting
  • Omezený budget, ale potřeba robustního řešení
  • Potřeba plné kontroly nad daty (on-premise)
  • Tech-savvy týmy schopné integrace

Kdy raději komerční řešení

  • Žádná interní IT kapacita
  • Potřeba SLA a enterprise support
  • Rychlý time-to-value bez customizace

1. VerifyWise

Komplexní AI governance platforma s native podporou EU AI Act

Základní info

AspektDetail
VývojářBluewave Labs
LicenceBSL 1.1 (source-available)
Webverifywise.ai
GitHubbluewave-labs/verifywise
DeploymentDocker, Kubernetes, On-premise

Hodnocení

AspektRatingPoznámka
Cena⭐⭐⭐⭐⭐Zdarma (self-hosted)
EU AI Act⭐⭐⭐⭐⭐Native podpora
ISO 42001⭐⭐⭐⭐⭐Plná podpora
NIST AI RMF⭐⭐⭐⭐⭐Plná podpora
Audit trail⭐⭐⭐⭐⭐Automatické logování všech akcí
UI/UX⭐⭐⭐⭐Moderní, intuitivní
Dokumentace⭐⭐⭐⭐Dobrá, aktivní komunita
Setup složitost⭐⭐⭐Vyžaduje Docker/K8s znalosti

Klíčové funkce

Doplňkové produkty (stejný ekosystém)

ProduktÚčel
MaskWiseAnonymizace citlivých dat v LLM training datasets
EvalWiseLLM evaluation, red teaming, testování

Kdy použít

  • Organizace potřebující kompletní governance platformu
  • Self-hosting požadavek (data sovereignty)
  • Potřeba EU AI Act compliance tracking
  • Střední až velké AI portfolio (10+ modelů)

Kdy nepoužívat

  • Žádná interní IT kapacita pro Docker/Kubernetes
  • Potřeba okamžitého enterprise supportu
  • Velmi malá organizace bez AI governance potřeb

Deployment příklad

Terminál
# Docker Compose deployment
git clone https://github.com/bluewave-labs/verifywise.git
cd verifywise
docker-compose up -d


# Kubernetes (Helm)
helm repo add verifywise https://charts.verifywise.ai
helm install verifywise verifywise/verifywise

Integrace s ANEF frameworkem

VrstvaVyužití
L1 — AlignPolicy management, compliance tracking
L2 — TransformModel registry, dokumentace
L4 — VerifyAudit trails, evidence collection
L5 — ExecuteGovernance overlay pro projekty

2. AI Verify

Testovací framework pro AI ethics a governance od Singapore IMDA

Základní info

AspektDetail
VývojářIMDA Singapore + AI Verify Foundation
LicenceApache 2.0 (plně open source)
Webaiverifyfoundation.sg
GitHubIMDA-BTG/aiverify
Premier členovéGoogle, IBM, Microsoft, Salesforce, Red Hat

Hodnocení

AspektRatingPoznámka
Cena⭐⭐⭐⭐⭐Zdarma
Metodologie⭐⭐⭐⭐⭐11 AI governance principů
EU AI Act alignace⭐⭐⭐⭐Mapovatelné na požadavky
GenAI podpora⭐⭐⭐⭐⭐Framework 2.0 (květen 2025)
Dokumentace⭐⭐⭐⭐⭐100+ stran, detailní
Enterprise backing⭐⭐⭐⭐⭐Big Tech podpora
Setup složitost⭐⭐⭐Technické znalosti nutné

11 AI Governance principů

Framework 2.0 (2025) - Nové funkce

FunkcePopis
GenAI TestingTestování generativních AI aplikací
Agentic AIPodpora pro AI agenty
Hallucination TestingDetekce halucinací LLM
Red TeamingAdversarial testování
Prompt InjectionTestování zranitelností
Data LeakageDetekce úniku dat

Kdy použít

  • Technické testování AI systémů před nasazením
  • Potřeba strukturovaného assessment frameworku
  • Příprava na audit (interní i externí)
  • Vzdělávání týmu v AI ethics principech

Kdy nepoužívat

  • Potřeba kompletní governance platformy (použít s VerifyWise)
  • Non-technical stakeholders bez IT podpory
  • Pouze dokumentační potřeby

Alignace s regulacemi

RegulacePokrytí
EU AI Act✅ Mapovatelné na Annex III požadavky
OECD AI Principles✅ Plná alignace
G7 Hiroshima Process✅ Plná alignace
NIST AI RMF✅ Komplementární
ISO 42001✅ Podpůrný nástroj

Integrace s ANEF frameworkem

VrstvaVyužití
L1 — AlignAssessment proti 11 principům
L2 — TransformVzdělávací materiál o AI ethics
L4 — VerifyTechnické testování, red teaming
L5 — ExecuteValidace před deploymentem

3. Další open source nástroje

Fairness & Bias

NástrojLicencePopis
IBM AI Fairness 360Apache 2.070+ fairness metrik
Microsoft FairlearnMITFairness assessment & mitigation
Google What-If ToolApache 2.0Vizuální analýza modelů

Explainability

NástrojLicencePopis
SHAPMITSHapley Additive exPlanations
LIMEBSDLocal Interpretable Explanations
CaptumBSDPyTorch interpretability

Model Registry & Lineage

NástrojLicencePopis
MLflowApache 2.0Model versioning, tracking
DVCApache 2.0Data version control
Hugging Face Model CardsApache 2.0Standardizovaná dokumentace

Security & Robustness

NástrojLicencePopis
NIST DioptraCC BY 4.0Adversarial ML testování
Adversarial Robustness ToolboxMITIBM security testing

Komplementární strategie

Doporučená kombinace

Rozhodovací matice

PotřebaPrimární nástrojSekundární
Kompletní governanceVerifyWise-
Technické testováníAI VerifySHAP, Fairlearn
Model registryMLflowVerifyWise
Bias detectionAI Fairness 360AI Verify
ExplainabilitySHAP/LIMEAI Verify

Srovnání s komerčními alternativami

AspektOpen Source (VerifyWise + AI Verify)Komerční (OneTrust)
Cena€0 (+ hosting)€500-2000/měsíc
EU AI Act✅ Native✅ Native
SetupDIY (Docker/K8s)Managed SaaS
SupportKomunita, DiscordEnterprise SLA
CustomizacePlnáOmezená
Data sovereigntyOn-premise možnýCloud (EU datacenter)
Time-to-value1-2 týdnyOkamžitě
Vhodné proTech-savvy SMEEnterprise

Implementační checklist

Fáze 1: Příprava (1 týden)

  • Zhodnotit interní IT kapacity
  • Vybrat deployment model (Docker/K8s/Cloud)
  • Připravit infrastrukturu

Fáze 2: Instalace (1 týden)

  • Deploy VerifyWise
  • Konfigurace autentizace (SSO/LDAP)
  • Setup AI Verify testovacího prostředí

Fáze 3: Konfigurace (1-2 týdny)

  • Import AI systémů do registru
  • Nastavit rizikové kategorie dle EU AI Act
  • Vytvořit workflow pro assessmenty

Fáze 4: Integrace (průběžně)

  • Propojit s MLflow (pokud používáte)
  • Nastavit Slack/Teams notifikace
  • Automatizovat testování v CI/CD

Zdroje a odkazy

VerifyWise

AI Verify

Další zdroje