Lernende Systeme (Machine Learning Systems / ML-basierte Systeme)

Lernende Systeme sind IT-Anwendungen, die auf Basis von Machine-Learning-Algorithmen aus Trainingsdaten Muster ableiten und eigenständig Entscheidungen oder Vorhersagen treffen, ohne explizit für jedes Szenario programmiert worden zu sein. Im IT-Sicherheitskontext werden lernende Systeme für Anomalieerkennung, Spam-Filterung, Malware-Erkennung und Verhaltensanalysen eingesetzt; der EU AI Act klassifiziert Hochrisiko-KI in sicherheits- und Grundrechte-relevanten Bereichen mit strengen Konformitätspflichten. In IT-Vergaben für KI-gestützte Sicherheitslösungen sollten Auftraggeber Anforderungen an Modell-Transparenz, Bias-Erkennung, regelmäßiges Re-Training und Erklärbarkeit von Entscheidungen als verbindliche Leistungsparameter definieren.