1. SDK-Flow: Neuer Step "EU AI Database Registrierung" (seq 350, CP-REG) 2. Wiki: 4 Domain-Compliance-Artikel (Recruiting, Bildung, Gesundheit, Finance) Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
158 lines
6.8 KiB
SQL
158 lines
6.8 KiB
SQL
-- Wiki Articles: Domain-spezifische KI-Compliance
|
|
-- 4 Artikel fuer die wichtigsten Hochrisiko-Domains
|
|
|
|
-- 1. KI im Recruiting
|
|
INSERT INTO compliance.compliance_wiki_articles (id, category_id, title, summary, content, legal_refs, tags, relevance, source_urls, version)
|
|
VALUES ('ki-recruiting-compliance', 'arbeitsrecht',
|
|
'KI im Recruiting — AGG, DSGVO Art. 22, AI Act Hochrisiko',
|
|
'Compliance-Anforderungen bei KI-gestuetzter Personalauswahl: Automatisierte Absagen, Bias-Risiken, Beweislastumkehr.',
|
|
'# KI im Recruiting — Compliance-Anforderungen
|
|
|
|
## AI Act Einstufung
|
|
KI im Recruiting faellt unter **Annex III Nr. 4 (Employment)** = **High-Risk**.
|
|
|
|
## Kritische Punkte
|
|
|
|
### Art. 22 DSGVO — Automatisierte Entscheidungen
|
|
Vollautomatische Absagen ohne menschliche Pruefung sind **grundsaetzlich unzulaessig**.
|
|
Erlaubt: KI erstellt Vorschlag → Mensch prueft → Mensch entscheidet → Mensch gibt Absage frei.
|
|
|
|
### AGG — Diskriminierungsverbot
|
|
- § 1 AGG: Keine Benachteiligung nach Geschlecht, Alter, Herkunft, Religion, Behinderung
|
|
- § 22 AGG: **Beweislastumkehr** — Arbeitgeber muss beweisen, dass KEINE Diskriminierung vorliegt
|
|
- § 15 AGG: Schadensersatz bis 3 Monatsgehaelter pro Fall
|
|
- Proxy-Merkmale vermeiden: Name→Herkunft, Foto→Alter
|
|
|
|
### BetrVG — Mitbestimmung
|
|
- § 87 Abs. 1 Nr. 6: Betriebsrat muss zustimmen
|
|
- § 95: Auswahlrichtlinien mitbestimmungspflichtig
|
|
- BAG 1 ABR 20/21: Gilt auch fuer Standardsoftware
|
|
|
|
## Pflichtmassnahmen
|
|
1. Human-in-the-Loop (echt, kein Rubber Stamping)
|
|
2. Regelmaessige Bias-Audits
|
|
3. DSFA durchfuehren
|
|
4. Betriebsvereinbarung abschliessen
|
|
5. Bewerber ueber KI-Nutzung informieren',
|
|
'["Art. 22 DSGVO", "§ 1 AGG", "§ 22 AGG", "§ 15 AGG", "§ 87 BetrVG", "§ 95 BetrVG", "Annex III Nr. 4 AI Act"]',
|
|
ARRAY['Recruiting', 'HR', 'AGG', 'Bias', 'Art. 22', 'Beweislastumkehr', 'Betriebsrat'],
|
|
'critical',
|
|
'["https://www.bundesarbeitsgericht.de/entscheidung/1-abr-20-21/"]',
|
|
1)
|
|
ON CONFLICT (id) DO UPDATE SET content = EXCLUDED.content, updated_at = NOW();
|
|
|
|
-- 2. KI in der Bildung
|
|
INSERT INTO compliance.compliance_wiki_articles (id, category_id, title, summary, content, legal_refs, tags, relevance, source_urls, version)
|
|
VALUES ('ki-bildung-compliance', 'branchenspezifisch',
|
|
'KI in der Bildung — Notenvergabe, Pruefungsbewertung, Minderjaehrige',
|
|
'AI Act Annex III Nr. 3: Hochrisiko bei KI-gestuetzter Bewertung in Bildung und Ausbildung.',
|
|
'# KI in der Bildung — Compliance-Anforderungen
|
|
|
|
## AI Act Einstufung
|
|
KI in Bildung/Ausbildung faellt unter **Annex III Nr. 3 (Education)** = **High-Risk**.
|
|
|
|
## Kritische Szenarien
|
|
- KI beeinflusst Noten → High-Risk
|
|
- KI bewertet Pruefungen → High-Risk
|
|
- KI steuert Zugang zu Bildungsangeboten → High-Risk
|
|
- Minderjaehrige betroffen → Besonderer Schutz (Art. 24 EU-Grundrechtecharta)
|
|
|
|
## BLOCK-Regel
|
|
**Minderjaehrige betroffen + keine Lehrkraft-Pruefung = UNZULAESSIG**
|
|
|
|
## Pflichtmassnahmen
|
|
1. Lehrkraft prueft JEDES KI-Ergebnis vor Mitteilung an Schueler
|
|
2. Chancengleichheit unabhaengig von sozioekonomischem Hintergrund
|
|
3. Keine Benachteiligung durch Sprache oder Behinderung
|
|
4. FRIA durchfuehren (Grundrechte-Folgenabschaetzung)
|
|
5. DSFA bei Verarbeitung von Schuelerdaten
|
|
|
|
## Grundrechte
|
|
- Recht auf Bildung (Art. 14 EU-Charta)
|
|
- Rechte des Kindes (Art. 24 EU-Charta)
|
|
- Nicht-Diskriminierung (Art. 21 EU-Charta)',
|
|
'["Annex III Nr. 3 AI Act", "Art. 14 EU-Grundrechtecharta", "Art. 24 EU-Grundrechtecharta", "Art. 35 DSGVO"]',
|
|
ARRAY['Bildung', 'Education', 'Noten', 'Pruefung', 'Minderjaehrige', 'Schule'],
|
|
'critical',
|
|
'[]',
|
|
1)
|
|
ON CONFLICT (id) DO UPDATE SET content = EXCLUDED.content, updated_at = NOW();
|
|
|
|
-- 3. KI im Gesundheitswesen
|
|
INSERT INTO compliance.compliance_wiki_articles (id, category_id, title, summary, content, legal_refs, tags, relevance, source_urls, version)
|
|
VALUES ('ki-gesundheit-compliance', 'branchenspezifisch',
|
|
'KI im Gesundheitswesen — MDR, Diagnose, Triage',
|
|
'AI Act Annex III Nr. 5 + MDR: Hochrisiko bei KI in Diagnose, Behandlung und Triage.',
|
|
'# KI im Gesundheitswesen — Compliance-Anforderungen
|
|
|
|
## Regulatorischer Rahmen
|
|
- **AI Act Annex III Nr. 5** — Zugang zu wesentlichen Diensten (Gesundheit)
|
|
- **MDR (EU) 2017/745** — Medizinprodukteverordnung
|
|
- **DSGVO Art. 9** — Gesundheitsdaten = besondere Kategorie
|
|
|
|
## Kritische Szenarien
|
|
- KI unterstuetzt Diagnosen → High-Risk + DSFA Pflicht
|
|
- KI priorisiert Patienten (Triage) → Lebenskritisch, hoechste Anforderungen
|
|
- KI empfiehlt Behandlungen → High-Risk
|
|
- System ist Medizinprodukt → MDR-Zertifizierung erforderlich
|
|
|
|
## BLOCK-Regeln
|
|
- **Medizinprodukt ohne klinische Validierung = UNZULAESSIG**
|
|
- MDR Art. 61: Klinische Bewertung ist Pflicht
|
|
|
|
## Grundrechte
|
|
- Menschenwuerde (Art. 1 EU-Charta)
|
|
- Schutz personenbezogener Daten (Art. 8 EU-Charta)
|
|
- Patientenautonomie
|
|
|
|
## Pflichtmassnahmen
|
|
1. Klinische Validierung vor Einsatz
|
|
2. Human Oversight durch qualifiziertes Fachpersonal
|
|
3. DSFA fuer Gesundheitsdatenverarbeitung
|
|
4. Genauigkeitsmetriken definieren und messen
|
|
5. Incident Reporting bei Fehlfunktionen',
|
|
'["Annex III Nr. 5 AI Act", "MDR (EU) 2017/745", "Art. 9 DSGVO", "Art. 35 DSGVO"]',
|
|
ARRAY['Gesundheit', 'Healthcare', 'MDR', 'Diagnose', 'Triage', 'Medizinprodukt'],
|
|
'critical',
|
|
'[]',
|
|
1)
|
|
ON CONFLICT (id) DO UPDATE SET content = EXCLUDED.content, updated_at = NOW();
|
|
|
|
-- 4. KI in Finanzdienstleistungen
|
|
INSERT INTO compliance.compliance_wiki_articles (id, category_id, title, summary, content, legal_refs, tags, relevance, source_urls, version)
|
|
VALUES ('ki-finance-compliance', 'branchenspezifisch',
|
|
'KI in Finanzdienstleistungen — Scoring, DORA, Versicherung',
|
|
'AI Act Annex III Nr. 5 + DORA + MaRisk: Compliance bei Kredit-Scoring, Algo-Trading, Versicherungspraemien.',
|
|
'# KI in Finanzdienstleistungen — Compliance-Anforderungen
|
|
|
|
## Regulatorischer Rahmen
|
|
- **AI Act Annex III Nr. 5** — Zugang zu wesentlichen Diensten
|
|
- **DORA** — Digital Operational Resilience Act
|
|
- **MaRisk/BAIT** — Bankaufsichtliche Anforderungen
|
|
- **MiFID II** — Algorithmischer Handel
|
|
|
|
## Kritische Szenarien
|
|
- Kredit-Scoring → High-Risk (Art. 22 DSGVO + Annex III)
|
|
- Automatisierte Schadenbearbeitung → Art. 22 Risiko
|
|
- Individuelle Praemienberechnung → Diskriminierungsrisiko
|
|
- Algo-Trading → MiFID II Anforderungen
|
|
- Robo Advisor → WpHG-Pflichten
|
|
|
|
## Pflichtmassnahmen
|
|
1. Transparenz bei Scoring-Entscheidungen
|
|
2. Bias-Audits bei Kreditvergabe
|
|
3. Human Oversight bei Ablehnungen
|
|
4. DORA-konforme IT-Resilienz
|
|
5. Incident Reporting
|
|
|
|
## Besondere Risiken
|
|
- Diskriminierendes Kredit-Scoring (AGG + AI Act)
|
|
- Ungerechtfertigte Verweigerung von Finanzdienstleistungen
|
|
- Mangelnde Erklaerbarkeit bei Scoring-Algorithmen',
|
|
'["Annex III Nr. 5 AI Act", "DORA", "MaRisk", "MiFID II", "Art. 22 DSGVO", "§ 1 AGG"]',
|
|
ARRAY['Finance', 'Banking', 'Versicherung', 'Scoring', 'DORA', 'Kredit', 'Algo-Trading'],
|
|
'critical',
|
|
'[]',
|
|
1)
|
|
ON CONFLICT (id) DO UPDATE SET content = EXCLUDED.content, updated_at = NOW();
|