breakpilot-compliance/ai-compliance-sdk/internal/iace/hazard_patterns_ai.go

package iace

// builtinAIPatterns returns HP040-HP044: AI-specific hazard patterns.
func builtinAIPatterns() []HazardPattern {
	return []HazardPattern{
		{
			ID: "HP040", NameDE: "KI-Fehlklassifikation", NameEN: "AI misclassification",
			RequiredComponentTags: []string{"has_ai"},
			RequiredEnergyTags:    []string{"ai_model"},
			GeneratedHazardCats:   []string{"false_classification"},
			SuggestedMeasureIDs:   []string{"M133", "M214", "M213", "M044", "M119"},
			SuggestedEvidenceIDs:  []string{"E01", "E15"},
			Priority:              90,
			ScenarioDE:      "KI-Modell klassifiziert Objekt oder Zustand falsch und loest darauf basierend eine gefaehrliche Aktion aus.",
			TriggerDE:       "Fehlklassifikation durch untypische Eingangsdaten, unzureichendes Training oder Randbedingung ausserhalb der Trainingsdaten.",
			HarmDE:          "Fehlgesteuerte Aktion (z.B. Roboter greift falsch, Qualitaetskontrolle laesst Fehlteil durch).",
			AffectedDE:      "Bedienpersonal, Personen im Arbeitsbereich des KI-gesteuerten Systems",
			ZoneDE:          "Wirkbereich des KI-gesteuerten Aktors, Klassifikationszone",
			DefaultSeverity: 4, DefaultExposure: 3,
		},
		{
			ID: "HP041", NameDE: "Model Drift / Concept Drift", NameEN: "Model drift / concept drift",
			RequiredComponentTags: []string{"has_ai"},
			RequiredEnergyTags:    []string{"ai_model"},
			GeneratedHazardCats:   []string{"model_drift"},
			SuggestedMeasureIDs:   []string{"M133", "M227", "M214", "M112"},
			SuggestedEvidenceIDs:  []string{"E01", "E15"},
			Priority:              85,
			ScenarioDE:      "KI-Modell verliert ueber Zeit an Genauigkeit, weil sich Eingangsdaten schleichend veraendern.",
			TriggerDE:       "Veraenderung der Produktionsbedingungen (Material, Beleuchtung, Verschleiss) ohne Re-Training des Modells.",
			HarmDE:          "Zunehmende Fehlentscheidungen, nicht erkannte Defekte, unbemerkte Qualitaetsverschlechterung.",
			AffectedDE:      "Bedienpersonal, Endnutzer der Produkte",
			ZoneDE:          "Alle Bereiche, in denen KI-Entscheidungen Aktionen ausloesen",
			DefaultSeverity: 3, DefaultExposure: 4,
		},
		{
			ID: "HP042", NameDE: "Data Poisoning / Adversarial Attack", NameEN: "Data poisoning / adversarial attack",
			RequiredComponentTags: []string{"has_ai"},
			RequiredEnergyTags:    []string{"cyber", "ai_model"},
			GeneratedHazardCats:   []string{"data_poisoning"},
			SuggestedMeasureIDs:   []string{"M188", "M133", "M113", "M214", "M187"},
			SuggestedEvidenceIDs:  []string{"E01", "E15", "E16"},
			Priority:              85,
			ScenarioDE:      "Angreifer manipuliert Trainingsdaten oder Eingangssignale, um das KI-Modell gezielt zu taeuschen.",
			TriggerDE:       "Einschleusen manipulierter Daten in den Trainingsprozess oder Adversarial Patches an Sensoren.",
			HarmDE:          "Gezielte Fehlentscheidung des KI-Systems, Umgehung von Sicherheitspruefungen.",
			AffectedDE:      "Bedienpersonal, alle vom KI-System abhaengigen Personen",
			ZoneDE:          "Datenpipeline, Trainingsinfrastruktur, Sensor-Eingaenge, Kamerasichtfeld",
			DefaultSeverity: 4, DefaultExposure: 1,
		},
		{
			ID: "HP043", NameDE: "Unbeabsichtigte KI-Diskriminierung", NameEN: "Unintended AI bias",
			RequiredComponentTags: []string{"has_ai"},
			RequiredEnergyTags:    []string{"ai_model"},
			GeneratedHazardCats:   []string{"unintended_bias"},
			SuggestedMeasureIDs:   []string{"M133", "M227", "M204"},
			SuggestedEvidenceIDs:  []string{"E01", "E15"},
			Priority:              75,
			ScenarioDE:      "KI-Modell trifft systematisch ungleiche Entscheidungen fuer bestimmte Personengruppen oder Bedingungen.",
			TriggerDE:       "Verzerrung (Bias) in den Trainingsdaten oder Underrepresentation bestimmter Szenarien.",
			HarmDE:          "Diskriminierende Behandlung, inkonsistente Sicherheitsniveaus fuer verschiedene Nutzergruppen.",
			AffectedDE:      "Personen mit unterrepraesentierten Merkmalen, Bediener verschiedener Erfahrungsstufen",
			ZoneDE:          "Alle Entscheidungspunkte des KI-Systems",
			DefaultSeverity: 3, DefaultExposure: 3,
		},
		{
			ID: "HP044", NameDE: "KI-Sensormanipulation", NameEN: "AI sensor spoofing",
			RequiredComponentTags: []string{"has_ai", "sensor_part"},
			RequiredEnergyTags:    []string{},
			GeneratedHazardCats:   []string{"sensor_spoofing"},
			SuggestedMeasureIDs:   []string{"M213", "M214", "M119", "M133"},
			SuggestedEvidenceIDs:  []string{"E01", "E15"},
			Priority:              80,
			ScenarioDE:      "Sensor, der KI-Eingangsdaten liefert, wird manipuliert oder liefert durch Verschmutzung/Defekt falsche Werte.",
			TriggerDE:       "Ueberkleben eines Kamerasensors, EMV-Stoerung eines Radarsensors oder gezielte optische Taeuschung.",
			HarmDE:          "KI trifft Entscheidung auf Basis falscher Sensorwerte, gefaehrliche Aktion bei Personenpraesenz.",
			AffectedDE:      "Bedienpersonal, Personen im Sensorerfassungsbereich",
			ZoneDE:          "Sensorerfassungsbereich, Kamerasichtfeld, Radar-/Lidar-Abdeckungszone",
			DefaultSeverity: 4, DefaultExposure: 2,
		},
	}
}