Die Fachkonferenz Minds Mastering Machines ist seit 2018 der Treffpunkt für Data Scientists, Data Engineers und Entwickler:innen, die Machine-Learning-Projekte in die Realität umsetzen.
Unsere Kolleg:innen Clemens Hübner und Phuong Mai Mai sind am 24. April mit ihrem Vortrag „Threat Modeling für KI-Anwendungen“ vor Ort dabei!
Abstract:
Mit zunehmender Adaption von KI in der Praxis kommt der Sicherheit eine besondere Bedeutung zu. Die Komplexität von solchen Systemen, die Konzentration von relevanten Daten und die noch geringen praktischen Erfahrungen sorgen für hohe Anreize für potenzielle Angreifer. Ein sicheres Design bedarf deshalb eines systematischen Vorgehens, um alle Facetten des Themas abzudecken.
In diesem Vortrag stellen wir unsere Adaption der etablierten Methode Threat Modelling für KI-Anwendungen vor: Ausgehend vom bekannten „Four Question Framework“ wird der Fokus auf die KI-Komponenten, ihre Besonderheiten und deren Bedrohungssituation gelegt und auch die Umsetzung im Entwicklungsprojekt behandelt.