KI-Sicherheit (Künstliche Intelligenz / AI Security)

KI-Sicherheit umfasst sowohl den Schutz KI-Systeme vor Angriffen (Adversarial ML, Model Poisoning, Data Poisoning) als auch die sichere Nutzung von KI in sicherheitsrelevanten Anwendungen (KI-basierte Anomalieerkennung, automatisierte Bedrohungsabwehr). Die EU AI Act (2024) klassifiziert KI-Anwendungen in Sicherheitssystemen als Hochrisiko-KI mit umfangreichen Konformitätspflichten; das BSI veröffentlicht Leitfäden für vertrauenswürdige KI. In IT-Ausschreibungen für KI-gestützte Sicherheitslösungen (UEBA, ML-basierte SIEM, automatisiertes Incident Response) sind Anforderungen an Modell-Transparenz, Bias-Minimierung, Erklärbarkeit (XAI) und regelmäßige Modell-Audits zu definieren.