feat: FRIA Template (Art. 27 AI Act) — 7. Document Template
Grundrechte-Folgenabschaetzung mit 8 Sektionen, ~26 Placeholders, Conditional Blocks fuer Bildung/HR/oeffentliche Stellen. Python-Generator mit Domain→Grundrechte-Mapping (Education, HR, Healthcare, Finance). Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
This commit is contained in:
Benjamin Admin
227
document-templates/generators/fria_template.py
Normal file
227
document-templates/generators/fria_template.py
Normal file
@@ -0,0 +1,227 @@
|
||||
"""FRIA template generator — creates Fundamental Rights Impact Assessment from UCCA context.
|
||||
|
||||
Generates a FRIA (Art. 27 AI Act) based on:
|
||||
- UCCA Assessment result (risk level, triggered rules, domain)
|
||||
- AI Act Decision Tree classification
|
||||
- Company profile
|
||||
|
||||
Automatically maps domains to affected fundamental rights.
|
||||
"""
|
||||
|
||||
from typing import Optional
|
||||
|
||||
# -- Domain → Fundamental Rights Mapping ------------------------------------
|
||||
|
||||
DOMAIN_RIGHTS_MAP = {
|
||||
"education": [
|
||||
{"right": "Recht auf Bildung", "charter": "Art. 14", "gg": "Art. 12",
|
||||
"risk": "Chancengleichheit bei KI-gestuetzter Bewertung oder Auswahl"},
|
||||
{"right": "Nicht-Diskriminierung", "charter": "Art. 21", "gg": "Art. 3",
|
||||
"risk": "Bias bei Leistungsbewertung nach Herkunft, Sprache oder Geschlecht"},
|
||||
{"right": "Rechte des Kindes", "charter": "Art. 24", "gg": "Art. 6 Abs. 2",
|
||||
"risk": "Besonderer Schutz Minderjaehriger vor automatisierten Bewertungen"},
|
||||
],
|
||||
"hr": [
|
||||
{"right": "Berufsfreiheit / Recht zu arbeiten", "charter": "Art. 15", "gg": "Art. 12",
|
||||
"risk": "KI-gestuetzte Auswahl kann Zugang zum Arbeitsmarkt einschraenken"},
|
||||
{"right": "Nicht-Diskriminierung", "charter": "Art. 21", "gg": "Art. 3",
|
||||
"risk": "Bias bei Recruiting, Befoerderung oder Kuendigung"},
|
||||
{"right": "Schutz personenbezogener Daten", "charter": "Art. 8", "gg": "Art. 2 Abs. 1",
|
||||
"risk": "Umfangreiche Verarbeitung von Beschaeftigtendaten"},
|
||||
],
|
||||
"healthcare": [
|
||||
{"right": "Menschenwuerde", "charter": "Art. 1", "gg": "Art. 1",
|
||||
"risk": "KI-Diagnosen koennen existenzielle Auswirkungen haben"},
|
||||
{"right": "Schutz personenbezogener Daten", "charter": "Art. 8", "gg": "Art. 2 Abs. 1",
|
||||
"risk": "Gesundheitsdaten sind besondere Kategorien (Art. 9 DSGVO)"},
|
||||
{"right": "Nicht-Diskriminierung", "charter": "Art. 21", "gg": "Art. 3",
|
||||
"risk": "Bias bei Behandlungsempfehlungen nach Alter, Geschlecht oder Ethnie"},
|
||||
],
|
||||
"finance": [
|
||||
{"right": "Recht auf soziale Sicherheit", "charter": "Art. 34", "gg": "Art. 20",
|
||||
"risk": "Zugang zu Finanzdienstleistungen und Versicherungen"},
|
||||
{"right": "Nicht-Diskriminierung", "charter": "Art. 21", "gg": "Art. 3",
|
||||
"risk": "Scoring-Bias bei Kreditvergabe oder Versicherungspraemien"},
|
||||
{"right": "Recht auf wirksamen Rechtsbehelf", "charter": "Art. 47", "gg": "Art. 19 Abs. 4",
|
||||
"risk": "Anfechtbarkeit automatisierter Finanzentscheidungen"},
|
||||
],
|
||||
"law_enforcement": [
|
||||
{"right": "Recht auf Freiheit und Sicherheit", "charter": "Art. 6", "gg": "Art. 2 Abs. 2",
|
||||
"risk": "KI-gestuetzte Ueberwachung oder Vorhersage"},
|
||||
{"right": "Unschuldsvermutung", "charter": "Art. 48", "gg": "Art. 20 Abs. 3",
|
||||
"risk": "Predictive Policing kann Vorverurteilung erzeugen"},
|
||||
{"right": "Recht auf Privatsphaere", "charter": "Art. 7", "gg": "Art. 2 Abs. 1",
|
||||
"risk": "Biometrische Identifizierung im oeffentlichen Raum"},
|
||||
],
|
||||
"public_sector": [
|
||||
{"right": "Recht auf eine gute Verwaltung", "charter": "Art. 41", "gg": "Art. 20 Abs. 3",
|
||||
"risk": "Automatisierte Verwaltungsentscheidungen muessen nachvollziehbar sein"},
|
||||
{"right": "Nicht-Diskriminierung", "charter": "Art. 21", "gg": "Art. 3",
|
||||
"risk": "Gleichbehandlung aller Buerger bei KI-gestuetzten Verwaltungsakten"},
|
||||
{"right": "Recht auf wirksamen Rechtsbehelf", "charter": "Art. 47", "gg": "Art. 19 Abs. 4",
|
||||
"risk": "Widerspruchsmoeglichkeit gegen KI-gestuetzte Bescheide"},
|
||||
],
|
||||
}
|
||||
|
||||
# Universal rights (always relevant for High-Risk AI)
|
||||
UNIVERSAL_RIGHTS = [
|
||||
{"right": "Schutz personenbezogener Daten", "charter": "Art. 8", "gg": "Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1",
|
||||
"risk": "Datenverarbeitung durch KI-System"},
|
||||
{"right": "Menschenwuerde", "charter": "Art. 1", "gg": "Art. 1",
|
||||
"risk": "KI darf Menschen nicht auf Datenpunkte reduzieren"},
|
||||
]
|
||||
|
||||
# -- Default measures -------------------------------------------------------
|
||||
|
||||
DEFAULT_MEASURES = [
|
||||
"Human-in-the-Loop: Menschliche Ueberpruefung aller KI-Empfehlungen vor Umsetzung",
|
||||
"Transparenz: Betroffene werden ueber den Einsatz von KI informiert",
|
||||
"Erklaerbarkeit: KI-Ergebnisse koennen nachvollzogen und begruendet werden",
|
||||
"Beschwerdemechanismus: Betroffene koennen KI-Entscheidungen anfechten",
|
||||
"Logging: Alle Eingaben und Ausgaben werden fuer Audit-Zwecke protokolliert",
|
||||
"Regelmaessige Bias-Audits: Systematische Pruefung auf Diskriminierung",
|
||||
]
|
||||
|
||||
HR_MEASURES = [
|
||||
"AGG-konforme Gestaltung: Kein Bias bei Geschlecht, Alter, Herkunft, Behinderung",
|
||||
"Betriebsrat gemaess §87 Abs.1 Nr.6 und §95 BetrVG beteiligt",
|
||||
"Keine automatisierte Endentscheidung bei Personalangelegenheiten",
|
||||
]
|
||||
|
||||
EDUCATION_MEASURES = [
|
||||
"Lehrkraft ueberprueft und verantwortet alle KI-generierten Bewertungen",
|
||||
"Chancengleichheit unabhaengig von sozioekonomischem Hintergrund",
|
||||
"Schueler/Eltern koennen KI-gestuetzte Bewertungen anfechten",
|
||||
]
|
||||
|
||||
|
||||
def generate_fria_draft(ctx: dict) -> dict:
|
||||
"""Generate a FRIA draft from UCCA assessment context.
|
||||
|
||||
Args:
|
||||
ctx: Dict with keys:
|
||||
Required:
|
||||
- organisation_name: str
|
||||
- system_name: str
|
||||
- system_description: str
|
||||
- einsatzzweck: str
|
||||
Optional:
|
||||
- organisation_address: str
|
||||
- system_version: str
|
||||
- system_provider: str
|
||||
- domain: str (education, hr, healthcare, finance, etc.)
|
||||
- affected_groups: list[str]
|
||||
- affected_count: str
|
||||
- ai_act_classification: str (high_risk, limited_risk, etc.)
|
||||
- annex_iii_category: str
|
||||
- is_public_entity: bool
|
||||
- has_hr_context: bool
|
||||
- has_education_context: bool
|
||||
- risk_score: int
|
||||
- dpo_name: str
|
||||
- dpo_contact: str
|
||||
- review_interval: str
|
||||
|
||||
Returns:
|
||||
Dict with placeholder values for template substitution.
|
||||
"""
|
||||
result = {}
|
||||
|
||||
# Section 1: Basic info
|
||||
result["ORGANISATION_NAME"] = ctx.get("organisation_name", "{{ORGANISATION_NAME}}")
|
||||
result["ORGANISATION_ADRESSE"] = ctx.get("organisation_address", "{{ORGANISATION_ADRESSE}}")
|
||||
result["VERANTWORTLICHER"] = ctx.get("responsible_person", "{{VERANTWORTLICHER}}")
|
||||
result["ERSTELLT_VON"] = ctx.get("created_by", "{{ERSTELLT_VON}}")
|
||||
result["ERSTELLT_AM"] = ctx.get("created_at", "{{ERSTELLT_AM}}")
|
||||
result["SYSTEM_NAME"] = ctx.get("system_name", "{{SYSTEM_NAME}}")
|
||||
result["SYSTEM_VERSION"] = ctx.get("system_version", "1.0")
|
||||
result["SYSTEM_BESCHREIBUNG"] = ctx.get("system_description", "{{SYSTEM_BESCHREIBUNG}}")
|
||||
result["SYSTEM_ANBIETER"] = ctx.get("system_provider", "{{SYSTEM_ANBIETER}}")
|
||||
result["EINSATZZWECK"] = ctx.get("einsatzzweck", "{{EINSATZZWECK}}")
|
||||
result["EINSATZKONTEXT"] = ctx.get("einsatzkontext", "{{EINSATZKONTEXT}}")
|
||||
result["AI_ACT_KLASSIFIKATION"] = ctx.get("ai_act_classification", "High-Risk")
|
||||
result["ANNEX_III_KATEGORIE"] = ctx.get("annex_iii_category", "")
|
||||
result["DSB_NAME"] = ctx.get("dpo_name", "{{DSB_NAME}}")
|
||||
result["DSB_KONTAKT"] = ctx.get("dpo_contact", "{{DSB_KONTAKT}}")
|
||||
|
||||
# Section 1.5: Affected groups
|
||||
groups = ctx.get("affected_groups", [])
|
||||
result["BETROFFENE_GRUPPEN"] = _bullet_list(groups) if groups else "{{BETROFFENE_GRUPPEN}}"
|
||||
result["BETROFFENE_ANZAHL"] = ctx.get("affected_count", "{{BETROFFENE_ANZAHL}}")
|
||||
|
||||
# Section 2: Fundamental rights mapping
|
||||
domain = ctx.get("domain", "")
|
||||
rights = list(UNIVERSAL_RIGHTS)
|
||||
if domain in DOMAIN_RIGHTS_MAP:
|
||||
rights.extend(DOMAIN_RIGHTS_MAP[domain])
|
||||
|
||||
rights_table = []
|
||||
for i, r in enumerate(rights, 1):
|
||||
rights_table.append(
|
||||
f"| {i} | {r['right']} | {r['charter']} | {r['gg']} | Ja | {r['risk']} |"
|
||||
)
|
||||
result["GRUNDRECHTE_ANALYSE"] = "\n".join(rights_table) if rights_table else "{{GRUNDRECHTE_ANALYSE}}"
|
||||
|
||||
# Section 3: Risk matrix
|
||||
risk_rows = []
|
||||
risk_score = ctx.get("risk_score", 0)
|
||||
base_likelihood = min(3, 1 + risk_score // 30)
|
||||
for r in rights:
|
||||
severity = 3 if "Diskriminierung" in r["risk"] or "existenz" in r["risk"].lower() else 2
|
||||
likelihood = base_likelihood
|
||||
level = _risk_level(likelihood * severity)
|
||||
risk_rows.append(
|
||||
f"| {r['right']} | {r['risk']} | {likelihood} | {severity} | {level} | Basierend auf Systemanalyse |"
|
||||
)
|
||||
result["RISIKOMATRIX"] = "\n".join(risk_rows) if risk_rows else "{{RISIKOMATRIX}}"
|
||||
|
||||
# Section 4: Measures
|
||||
measures = list(DEFAULT_MEASURES)
|
||||
if ctx.get("has_hr_context") or domain == "hr":
|
||||
measures.extend(HR_MEASURES)
|
||||
if ctx.get("has_education_context") or domain == "education":
|
||||
measures.extend(EDUCATION_MEASURES)
|
||||
result["MASSNAHMEN_LISTE"] = _bullet_list(measures)
|
||||
|
||||
result["HUMAN_OVERSIGHT_BESCHREIBUNG"] = ctx.get("human_oversight",
|
||||
"Das System unterstuetzt menschliche Entscheidungen, trifft jedoch keine eigenstaendigen Entscheidungen. "
|
||||
"Alle KI-generierten Empfehlungen werden von qualifiziertem Personal geprueft.")
|
||||
|
||||
result["TRANSPARENZ_MASSNAHMEN"] = ctx.get("transparency_measures",
|
||||
"Betroffene Personen werden ueber den Einsatz des KI-Systems informiert. "
|
||||
"KI-generierte Ergebnisse werden als solche gekennzeichnet.")
|
||||
|
||||
# Section 5: Consultation
|
||||
result["KONSULTATION_ERGEBNISSE"] = ctx.get("consultation_results",
|
||||
"Konsultation steht aus — bitte vor Freigabe durchfuehren.")
|
||||
|
||||
# Section 6: Approval
|
||||
result["GENEHMIGT_VON"] = ctx.get("approved_by", "{{GENEHMIGT_VON}}")
|
||||
result["GENEHMIGT_AM"] = ctx.get("approved_at", "{{GENEHMIGT_AM}}")
|
||||
|
||||
# Section 7: Monitoring
|
||||
result["NAECHSTE_UEBERPRUEFUNG"] = ctx.get("review_interval", "12 Monate nach Inbetriebnahme")
|
||||
|
||||
# Conditional flags
|
||||
result["BILDUNGSKONTEXT"] = ctx.get("has_education_context", False) or domain == "education"
|
||||
result["HR_KONTEXT"] = ctx.get("has_hr_context", False) or domain == "hr"
|
||||
result["OEFFENTLICHE_STELLE"] = ctx.get("is_public_entity", False)
|
||||
|
||||
return result
|
||||
|
||||
|
||||
def _risk_level(score: int) -> str:
|
||||
"""Map risk score to level label."""
|
||||
if score <= 6:
|
||||
return "Niedrig"
|
||||
elif score <= 12:
|
||||
return "Mittel"
|
||||
elif score <= 19:
|
||||
return "Hoch"
|
||||
else:
|
||||
return "Kritisch"
|
||||
|
||||
|
||||
def _bullet_list(items: list) -> str:
|
||||
"""Format a list as markdown bullet points."""
|
||||
return "\n".join(f"- {item}" for item in items)
|
||||
330
document-templates/migrations/007_fria_template.sql
Normal file
330
document-templates/migrations/007_fria_template.sql
Normal file
@@ -0,0 +1,330 @@
|
||||
-- Migration 007: FRIA Template V1 — Grundrechte-Folgenabschaetzung (Art. 27 KI-VO)
|
||||
-- Fundamental Rights Impact Assessment fuer Hochrisiko-KI-Systeme
|
||||
-- Rechtsgrundlage: Art. 27 Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act)
|
||||
|
||||
INSERT INTO compliance.compliance_legal_templates (
|
||||
tenant_id, document_type, title, description, language, jurisdiction,
|
||||
version, status, license_name, source_name, attribution_required,
|
||||
is_complete_document, placeholders, content
|
||||
) VALUES (
|
||||
'9282a473-5c95-4b3a-bf78-0ecc0ec71d3e'::uuid,
|
||||
'fria',
|
||||
'Grundrechte-Folgenabschaetzung (FRIA) gemaess Art. 27 KI-Verordnung',
|
||||
'Vorlage fuer eine Grundrechte-Folgenabschaetzung (Fundamental Rights Impact Assessment) gemaess Art. 27 der Verordnung (EU) 2024/1689 (KI-Verordnung). Erforderlich fuer Hochrisiko-KI-Systeme, insbesondere bei oeffentlichen Stellen und in den Bereichen Beschaeftigung, Bildung und Zugang zu wesentlichen Dienstleistungen.',
|
||||
'de',
|
||||
'EU/KI-VO',
|
||||
'1.0',
|
||||
'published',
|
||||
'MIT',
|
||||
'BreakPilot Compliance',
|
||||
false,
|
||||
true,
|
||||
CAST('[
|
||||
"{{ORGANISATION_NAME}}",
|
||||
"{{ORGANISATION_ADRESSE}}",
|
||||
"{{VERANTWORTLICHER}}",
|
||||
"{{ERSTELLT_VON}}",
|
||||
"{{ERSTELLT_AM}}",
|
||||
"{{SYSTEM_NAME}}",
|
||||
"{{SYSTEM_VERSION}}",
|
||||
"{{SYSTEM_BESCHREIBUNG}}",
|
||||
"{{SYSTEM_ANBIETER}}",
|
||||
"{{EINSATZZWECK}}",
|
||||
"{{EINSATZKONTEXT}}",
|
||||
"{{BETROFFENE_GRUPPEN}}",
|
||||
"{{BETROFFENE_ANZAHL}}",
|
||||
"{{GRUNDRECHTE_ANALYSE}}",
|
||||
"{{RISIKOMATRIX}}",
|
||||
"{{MASSNAHMEN_LISTE}}",
|
||||
"{{HUMAN_OVERSIGHT_BESCHREIBUNG}}",
|
||||
"{{TRANSPARENZ_MASSNAHMEN}}",
|
||||
"{{KONSULTATION_ERGEBNISSE}}",
|
||||
"{{GENEHMIGT_VON}}",
|
||||
"{{GENEHMIGT_AM}}",
|
||||
"{{NAECHSTE_UEBERPRUEFUNG}}",
|
||||
"{{DSB_NAME}}",
|
||||
"{{DSB_KONTAKT}}",
|
||||
"{{AI_ACT_KLASSIFIKATION}}",
|
||||
"{{ANNEX_III_KATEGORIE}}"
|
||||
]' AS jsonb),
|
||||
$template$# Grundrechte-Folgenabschaetzung (FRIA)
|
||||
|
||||
**gemaess Art. 27 der Verordnung (EU) 2024/1689 (KI-Verordnung)**
|
||||
|
||||
---
|
||||
|
||||
| Feld | Wert |
|
||||
|------|------|
|
||||
| Organisation | {{ORGANISATION_NAME}} |
|
||||
| Adresse | {{ORGANISATION_ADRESSE}} |
|
||||
| KI-System | {{SYSTEM_NAME}} (Version {{SYSTEM_VERSION}}) |
|
||||
| Erstellt von | {{ERSTELLT_VON}} |
|
||||
| Erstellt am | {{ERSTELLT_AM}} |
|
||||
| Status | Entwurf |
|
||||
|
||||
---
|
||||
|
||||
## 1. Systembeschreibung und Einsatzkontext
|
||||
|
||||
### 1.1 KI-System
|
||||
|
||||
**Systemname:** {{SYSTEM_NAME}}
|
||||
**Version:** {{SYSTEM_VERSION}}
|
||||
**Anbieter:** {{SYSTEM_ANBIETER}}
|
||||
**Beschreibung:** {{SYSTEM_BESCHREIBUNG}}
|
||||
|
||||
### 1.2 AI Act Klassifikation
|
||||
|
||||
**Risikoklasse:** {{AI_ACT_KLASSIFIKATION}}
|
||||
{{#IF ANNEX_III_KATEGORIE}}
|
||||
**Annex III Kategorie:** {{ANNEX_III_KATEGORIE}}
|
||||
{{/IF}}
|
||||
|
||||
### 1.3 Einsatzzweck
|
||||
|
||||
{{EINSATZZWECK}}
|
||||
|
||||
### 1.4 Einsatzkontext
|
||||
|
||||
{{EINSATZKONTEXT}}
|
||||
|
||||
Folgende Fragen sind zu beantworten:
|
||||
- In welchem organisatorischen Kontext wird das System eingesetzt?
|
||||
- Welche Entscheidungen werden durch das System unterstuetzt oder automatisiert?
|
||||
- Wie haeufig wird das System eingesetzt?
|
||||
- Welche Rolle spielt das System im Gesamtprozess?
|
||||
|
||||
### 1.5 Betroffene Personengruppen
|
||||
|
||||
{{BETROFFENE_GRUPPEN}}
|
||||
|
||||
**Geschaetzte Anzahl betroffener Personen:** {{BETROFFENE_ANZAHL}}
|
||||
|
||||
{{#IF BILDUNGSKONTEXT}}
|
||||
**Besonderer Schutz:** Schueler, Studierende und Auszubildende geniessen als besonders schutzbeduerftiger Personenkreis erhoehten Schutz.
|
||||
{{/IF}}
|
||||
|
||||
{{#IF HR_KONTEXT}}
|
||||
**Besonderer Schutz:** Beschaeftigte und Bewerber befinden sich in einem Abhaengigkeitsverhaeltnis und beduerfen besonderen Schutzes vor diskriminierenden KI-Entscheidungen.
|
||||
{{/IF}}
|
||||
|
||||
---
|
||||
|
||||
## 2. Grundrechte-Mapping
|
||||
|
||||
### 2.1 Betroffene Grundrechte
|
||||
|
||||
Die folgenden Grundrechte der EU-Grundrechtecharta und des Grundgesetzes wurden auf Betroffenheit geprueft:
|
||||
|
||||
{{GRUNDRECHTE_ANALYSE}}
|
||||
|
||||
### 2.2 Referenz-Grundrechte
|
||||
|
||||
| Nr. | Grundrecht | EU-Charta | GG | Betroffen | Begruendung |
|
||||
|-----|-----------|-----------|-----|-----------|-------------|
|
||||
| 1 | Menschenwuerde | Art. 1 | Art. 1 | | |
|
||||
| 2 | Recht auf Privatsphaere | Art. 7 | Art. 2 Abs. 1 | | |
|
||||
| 3 | Schutz personenbezogener Daten | Art. 8 | Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 | | |
|
||||
| 4 | Nicht-Diskriminierung | Art. 21 | Art. 3 | | |
|
||||
| 5 | Gleichheit von Frauen und Maennern | Art. 23 | Art. 3 Abs. 2 | | |
|
||||
| 6 | Rechte des Kindes | Art. 24 | Art. 6 Abs. 2 | | |
|
||||
| 7 | Recht auf Bildung | Art. 14 | Art. 12 | | |
|
||||
| 8 | Berufsfreiheit / Recht zu arbeiten | Art. 15 | Art. 12 | | |
|
||||
| 9 | Recht auf wirksamen Rechtsbehelf | Art. 47 | Art. 19 Abs. 4 | | |
|
||||
| 10 | Meinungs- und Informationsfreiheit | Art. 11 | Art. 5 | | |
|
||||
| 11 | Versammlungs- und Vereinigungsfreiheit | Art. 12 | Art. 8, 9 | | |
|
||||
| 12 | Recht auf soziale Sicherheit | Art. 34 | Art. 20 | | |
|
||||
|
||||
{{#IF OEFFENTLICHE_STELLE}}
|
||||
|
||||
### 2.3 Besondere Pflichten oeffentlicher Stellen
|
||||
|
||||
Als oeffentliche Stelle gelten zusaetzliche Anforderungen:
|
||||
- Erweiterte Transparenzpflicht gegenueber Buergern
|
||||
- Pflicht zur Barrierefreiheit des Systems
|
||||
- Beruecksichtigung des Gleichheitsgrundsatzes (Art. 3 GG)
|
||||
- Demokratische Kontrolle und Rechenschaftspflicht
|
||||
{{/IF}}
|
||||
|
||||
---
|
||||
|
||||
## 3. Risikoanalyse
|
||||
|
||||
### 3.1 Risikobewertung pro Grundrecht
|
||||
|
||||
Fuer jedes betroffene Grundrecht wird das Risiko bewertet:
|
||||
|
||||
**Eintrittswahrscheinlichkeit:**
|
||||
- 1 = Sehr unwahrscheinlich
|
||||
- 2 = Unwahrscheinlich
|
||||
- 3 = Moeglich
|
||||
- 4 = Wahrscheinlich
|
||||
- 5 = Sehr wahrscheinlich
|
||||
|
||||
**Schadensausmass:**
|
||||
- 1 = Geringfuegig
|
||||
- 2 = Begrenzt
|
||||
- 3 = Erheblich
|
||||
- 4 = Schwerwiegend
|
||||
- 5 = Katastrophal
|
||||
|
||||
### 3.2 Risikomatrix
|
||||
|
||||
{{RISIKOMATRIX}}
|
||||
|
||||
| Grundrecht | Risikoszenario | Wahrscheinlichkeit | Schwere | Risiko-Level | Begruendung |
|
||||
|-----------|----------------|--------------------:|--------:|:------------:|-------------|
|
||||
| | | | | | |
|
||||
|
||||
**Risiko-Level Berechnung:** Wahrscheinlichkeit × Schwere
|
||||
|
||||
| Risiko-Level | Punktzahl | Bedeutung |
|
||||
|:------------:|:---------:|-----------|
|
||||
| Niedrig | 1-6 | Akzeptables Risiko, Standardmassnahmen |
|
||||
| Mittel | 7-12 | Erhoehte Aufmerksamkeit, zusaetzliche Massnahmen |
|
||||
| Hoch | 13-19 | Erhebliches Risiko, umfassende Massnahmen erforderlich |
|
||||
| Kritisch | 20-25 | Nicht akzeptabel ohne fundamentale Aenderungen |
|
||||
|
||||
---
|
||||
|
||||
## 4. Massnahmen zur Risikominderung
|
||||
|
||||
### 4.1 Uebersicht der Massnahmen
|
||||
|
||||
{{MASSNAHMEN_LISTE}}
|
||||
|
||||
### 4.2 Human Oversight (Art. 14 KI-VO)
|
||||
|
||||
{{HUMAN_OVERSIGHT_BESCHREIBUNG}}
|
||||
|
||||
Folgende Massnahmen zur menschlichen Aufsicht werden umgesetzt:
|
||||
- [ ] Mensch kann KI-Entscheidung jederzeit uebersteuern
|
||||
- [ ] Mensch versteht KI-Output vollstaendig
|
||||
- [ ] Keine automatisierten Entscheidungen ohne menschliche Ueberpruefung
|
||||
- [ ] Schulung der Nutzer zu Systemgrenzen und Risiken
|
||||
- [ ] Eingriffsprotokolle werden gefuehrt
|
||||
|
||||
### 4.3 Transparenz (Art. 13 KI-VO)
|
||||
|
||||
{{TRANSPARENZ_MASSNAHMEN}}
|
||||
|
||||
Folgende Transparenzmassnahmen werden umgesetzt:
|
||||
- [ ] Betroffene werden ueber KI-Nutzung informiert
|
||||
- [ ] KI-generierte Outputs sind als solche gekennzeichnet
|
||||
- [ ] Erklaerbarkeit der Entscheidungslogik sichergestellt
|
||||
- [ ] Kontaktmoeglichkeit fuer Betroffene vorhanden
|
||||
- [ ] Informationen sind verstaendlich und zugaenglich
|
||||
|
||||
### 4.4 Logging und Audit (Art. 12 KI-VO)
|
||||
|
||||
- [ ] Alle Eingaben und Ausgaben werden protokolliert
|
||||
- [ ] Logs sind manipulationssicher
|
||||
- [ ] Aufbewahrungsfristen definiert
|
||||
- [ ] Audit-Trail fuer Entscheidungsnachvollziehbarkeit
|
||||
|
||||
### 4.5 Bias-Pruefung und Nicht-Diskriminierung
|
||||
|
||||
- [ ] Trainingsdaten auf Bias geprueft
|
||||
- [ ] Regelmaessige Bias-Audits geplant
|
||||
- [ ] Beschwerdemechanismus fuer Diskriminierungsfaelle
|
||||
{{#IF HR_KONTEXT}}
|
||||
- [ ] AGG-konforme Gestaltung (kein Bias bei Geschlecht, Alter, Herkunft, Behinderung)
|
||||
- [ ] Betriebsrat gemaess §95 BetrVG beteiligt (bei Auswahlrichtlinien)
|
||||
{{/IF}}
|
||||
{{#IF BILDUNGSKONTEXT}}
|
||||
- [ ] Chancengleichheit unabhaengig von sozioekonomischem Hintergrund
|
||||
- [ ] Keine Benachteiligung aufgrund von Sprachkenntnissen oder Behinderung
|
||||
{{/IF}}
|
||||
|
||||
---
|
||||
|
||||
## 5. Konsultation
|
||||
|
||||
### 5.1 Einbeziehung Betroffener
|
||||
|
||||
{{KONSULTATION_ERGEBNISSE}}
|
||||
|
||||
Folgende Stakeholder wurden konsultiert:
|
||||
- [ ] Datenschutzbeauftragter ({{DSB_NAME}}, {{DSB_KONTAKT}})
|
||||
- [ ] Betroffene Personengruppen oder deren Vertreter
|
||||
{{#IF HR_KONTEXT}}
|
||||
- [ ] Betriebsrat / Personalrat
|
||||
{{/IF}}
|
||||
{{#IF OEFFENTLICHE_STELLE}}
|
||||
- [ ] Buergervertreter / Ombudsstelle
|
||||
- [ ] Zustaendige Aufsichtsbehoerde
|
||||
{{/IF}}
|
||||
- [ ] Fachexperten fuer betroffene Grundrechte
|
||||
|
||||
### 5.2 Ergebnisse der Konsultation
|
||||
|
||||
| Stakeholder | Datum | Ergebnis | Massnahme |
|
||||
|------------|-------|----------|-----------|
|
||||
| | | | |
|
||||
|
||||
---
|
||||
|
||||
## 6. Gesamtbewertung und Freigabe
|
||||
|
||||
### 6.1 Gesamtrisiko-Bewertung
|
||||
|
||||
| Kriterium | Bewertung |
|
||||
|-----------|-----------|
|
||||
| Hoechstes Einzelrisiko | |
|
||||
| Anzahl betroffene Grundrechte | |
|
||||
| Anzahl betroffene Personen | {{BETROFFENE_ANZAHL}} |
|
||||
| Massnahmen ausreichend | Ja / Nein / Teilweise |
|
||||
| Restrisiko akzeptabel | Ja / Nein |
|
||||
|
||||
### 6.2 Entscheidung
|
||||
|
||||
- [ ] **Freigabe** — Restrisiko akzeptabel, Massnahmen ausreichend
|
||||
- [ ] **Freigabe mit Auflagen** — Zusaetzliche Massnahmen erforderlich (siehe unten)
|
||||
- [ ] **Ablehnung** — Grundrechtsrisiken nicht akzeptabel mitigierbar
|
||||
|
||||
### 6.3 Auflagen (falls zutreffend)
|
||||
|
||||
| Nr. | Auflage | Frist | Verantwortlich |
|
||||
|-----|---------|-------|----------------|
|
||||
| | | | |
|
||||
|
||||
---
|
||||
|
||||
## 7. Laufende Ueberwachung
|
||||
|
||||
### 7.1 Naechste Ueberpruefung
|
||||
|
||||
**Geplante Ueberpruefung:** {{NAECHSTE_UEBERPRUEFUNG}}
|
||||
|
||||
### 7.2 Trigger fuer ausserplanmaessige Ueberpruefung
|
||||
|
||||
Eine erneute FRIA ist durchzufuehren bei:
|
||||
- Wesentlicher Aenderung des KI-Systems oder seines Einsatzzwecks
|
||||
- Erweiterung auf neue Personengruppen oder Anwendungsbereiche
|
||||
- Beschwerden oder Vorfaellen mit Grundrechtsbezug
|
||||
- Aenderung der Rechtsgrundlage oder Risikoklassifikation
|
||||
- Neuen wissenschaftlichen Erkenntnissen zu Risiken
|
||||
- Aenderung des KI-Modells oder der Trainingsdaten
|
||||
|
||||
### 7.3 Dokumentation und Archivierung
|
||||
|
||||
Diese FRIA wird mindestens fuer die Dauer des Einsatzes des KI-Systems und darueberhinaus fuer 10 Jahre archiviert (Art. 18 KI-VO).
|
||||
|
||||
---
|
||||
|
||||
## 8. Unterschriften
|
||||
|
||||
| | |
|
||||
|---|---|
|
||||
| _________________________ | _________________________ |
|
||||
| {{ERSTELLT_VON}} | {{GENEHMIGT_VON}} |
|
||||
| Erstellt am {{ERSTELLT_AM}} | Genehmigt am {{GENEHMIGT_AM}} |
|
||||
|
||||
---
|
||||
|
||||
**Anhang A:** Vollstaendige Systemdokumentation (Art. 11 KI-VO)
|
||||
**Anhang B:** AI Act Decision Tree Ergebnis
|
||||
**Anhang C:** Verknuepfte DSFA (falls vorhanden)
|
||||
**Anhang D:** Konsultationsprotokolle
|
||||
$template$
|
||||
) ON CONFLICT DO NOTHING;
|
||||
Reference in New Issue
Block a user