Sicherheitsbedrohungen in KI-Anwendungen

Führungskräfte

Verantwortliche IT-Security und IT

KI- und Sicherheits-Interessierten, die sich in Ausbildung, Studium oder Beruf mit dem Thema beschäftigen und Einsichten in die Schutzmaßnahmen für KI-basierte Software-Anwendungen gewinnen möchten

1. Einführung
: Zielsetzung und Nutzen des Buches sowie die Zielgruppe und der Anwendungskontext werden erläutert. - 2.
Grundlagen und Rahmenbedingungen
: Definition und Einordnung von KI-Sicherheit, Abgrenzung zur IT-Sicherheit und Risiken durch generative KI wie Deepfakes. - 3.
Technologische Grundlagen von KI-Systemen
: Beschreibung von KI-Modellen, Daten als Rohstoff und technologischem Stack. - 4.
Rechtliche und normative Rahmenbedingungen
: EU AI Act, relevante ISO/IEC-Standards und nationale Regulierungen. - 5.
Risikomanagement in KI-Projekten
: Methoden zur Risikoanalyse, Rollen und Verantwortlichkeiten sowie Threat Modeling. - 6.
Angriffsszenarien und Schwachstellen
: Verschiedene Bedrohungen wie Evasion Attacks, Data Poisoning und Model Theft sowie systemische Verwundbarkeiten. - 7.
Schutzmaßnahmen und Best Practices
: Technische Schutzmechanismen, sichere Entwicklung und Deployment sowie organisatorische Maßnahmen. - 8.
Fallstricke und Lessons Learned
: Typische Fehler in KI-Projekten, Praxisberichte und Checklisten zur Selbstbewertung. - 9.
Strategische Perspektiven
: Sicherheitsstrategie für KI im Unternehmen, Rollenverteilung und Zusammenarbeit mit Anbietern und Behörden sowie Zukunftsausblick auf Bedrohungen.