Sicher durch die KI-Revolution – Risiken verstehen, Anwendungen sicher entwickeln

Vortrag von Clemens Hübner bei der heise devSec Frühjahrsausgabe 2024 am 07.03.2024 in Hannover

Insbesondere durch den Hype um GenAI wie ChatGPT hat das Thema Künstliche Intelligenz erneut verstärkte Aufmerksamkeit erfahren. Immer mehr Unternehmen versuchen, Use Cases mit AI umzusetzen und AI in ihre Geschäftsmodelle oder Prozesse zu integrieren. Mit der steigenden Verbreitung von KI-Komponenten in herkömmliche Software nimmt auch die Bedeutung der Sicherheit in diesem Bereich zu.

Dieser Vortrag erklärt, wie Sie Softwaresysteme, die KI-Komponenten enthalten, sicher entwickeln und betreiben. Er gibt einen Überblick über die zentralen Sicherheitsaspekte von KI und analysiert dabei insbesondere die Gemeinsamkeiten und Unterschiede im Vergleich zu herkömmlichen Softwareprojekten. Zusätzlich erläutert der Vortrag, welche Trends in Bezug auf die Standardisierung von KI-Security in der Zukunft zu erwarten sind.

Der Vortrag vermittelt den Teilnehmenden das Verständnis für die Unterschiede in der Angriffsoberfläche zwischen KI-Systemen und herkömmlicher Software. Es wird aufgezeigt, welche Sicherheitsrisiken bei der Entwicklung und im Betrieb von KI-Anwendungen relevant sind und wie diesen effektiv begegnet werden kann. Zudem erhalten die Teilnehmenden eine umfassende Übersicht über bestehende Standards und Leitfäden, insbesondere im Hinblick auf die praxisorientierte Entwicklung von KI-Anwendungen.

Speaker Bio
Clemens Hübner studierte Mathematik und Informatik und schloss mit einer Masterarbeit zur Sicherheit in agilen Entwicklungsmodellen ab. Nach Tätigkeiten als Software Developer sowie im Penetration Testing ist er seit 2018 als Security Engineer bei inovex. Dort begleitet er heute Projekte auf Konzeptions- und Implementierungsebene, schult Kolleg:innen und berät zu Security im Entwicklungsprozesse.

Wie kann ich Sie unterstützen?

Clemens Hübner

Security Engineer