GenAI Security Training
Wenn GenAI in bestehende Software integriert oder neue LLM-Produkte entwickelt werden sollen, ist die Sicherheit dieser Systeme besonders elementar für den Erfolg dieser Vorhaben. In diesem Training lernen die an der Entwicklung beteiligten Personen, wie GenAI-Use-Cases sicher umgesetzt werden können.
Auf einen Blick
Rahmendaten
- 2 Tage
- vor Ort oder remote
- Deutsch oder Englisch
Zielgruppe
alle an der Entwicklung von GenAI-Software-Systemen Beteiligte: Product Owner, Architects, Developers, AI Engineers
Anwendungsbeispiele
Schaffen von Verständnis für Schwachstellen und Gegenmaßnahmen in GenAI
Beschreibung
Die Nutzung von Generativer AI (GenAI) in Softwareprodukten ermöglicht die Realisierung neuer Anwendungsfälle. Viele Unternehmen versuchen deshalb, GenAI in bestehende Software zu integrieren oder neue LLM-Produkte zu entwickeln. Dabei ist die Sicherheit dieser Systeme besonders elementar für den Erfolg dieser Vorhaben.
In diesem Training lernen die an der Entwicklung beteiligten Personen, wie GenAI-Use-Cases sicher umgesetzt werden können. Sie erfahren, welche Schwachstellen bei der Nutzung von LLMs zu beachten sind und wie die sichere Integration in Softwaresysteme gelingen kann. Dabei werden Sicherheitslücken in verschiedenen Evolutionsstufen von GenAI beleuchtet: von simplen Chatbots über RAGs bis hin zu (Multi-)Agentensystemen. Die Bedeutung und Auswirkung von Schwachstellen wie Prompt Injection, Data Poisoning oder Tool Abuse kann so anschaulich diskutiert werden.
Die Teilnehmenden lernen wichtige Methoden kennen, mit denen sie die Sicherheit einer GenAI-Anwendung beurteilen können und üben diese an praktischen Beispielen ein. Sie lernen interaktiv, welche Secure-Coding-Principles beim Entwickeln von Softwareprodukten zu beachten sind und erfahren außerdem, wie sie das Erlernte nachhaltig in ihren Entwicklungsalltag integrieren können.
Agenda
- Einführung: AI und Security
- Schwachstellen von GenAI
- Sicherheitsrisiken von Modellen: Daten, Training und Inferenz
- Schwachstellen von Chatbots, RAGs und Agenten
- Threat Modelling für GenAI
- Bedrohungsanalyse für methodische Security
- Frameworks für GenAI-Software und Agentensystem
- Secure Coding Principles
- Prinzipien für sicheren Systementwurf
- Best practices für Input Validation, Authentifizierung und Authorisierung
- Nachhaltig sichere AI-Entwicklungsprozesse
- Kontinuierliche Sicherheit in Design, Coding und Test
- Integration von Sicherheitsaktivitäten in agile Prozesse
Typische Fragen, die wir beantworten:
- Wie können Entwickler:innen von GenAI-Anwendungen Bedrohungen und Risiken für ihre Software identifizieren und bewerten?
- Welche Sicherheitsanforderungen sollten bei der Entwicklung von GenAI-Software berücksichtigt werden und wie können sie umgesetzt werden?
- Welche Best Practices gibt es bei der Implementierung von Chatbots, RAGs und Agentensystemen?
- Wie können Sicherheitsaktivitäten in den agilen Software-Lebenszyklus integriert werden und welche regulatorischen Anforderungen müssen beachtet werden?
- signiertes Teilnahmezertifikat
- firmeninternes Training
- Anpassungen möglich (Agenda, Tech-Stack, Sprache, usw.)
- kleine Trainingsgruppen
Trainer:innen
Unsere Trainer:innen sind praxiserprobte Expert:innen in ihren Leistungsbereichen. Durch ihren Einsatz in Projekten bauen sie Tag für Tag ihr Wissen aus und vermitteln dieses Know-how in ihren Trainings weiter – anwendungsbezogen und praxisorientiert.
Michael Fuchs
Simon Dreher
Warum inovex Academy?
Unser AngebotDie inovex Academy hat es sich zur Aufgabe gemacht, Wissen über Methoden und Technologien weiterzugeben, die wir in unseren Projekten bereits erfolgreich einsetzen.
Kuratierte Inhalte
Unsere Trainer:innen erstellen in Absprache mit Ihnen ein individuelles Trainingsangebot auf Basis Ihrer Anforderungen.
Anpassbarer Tech Stack
In den exklusiven Trainings können wir Ihren Tech Stack für die Trainingsinhalte berücksichtigen.
Individuelle Hilfestellung
Bei Bedarf können wir das Training auf einen konkreten Use Case Ihres Unternehmens ausrichten und direkt auf Basis Ihrer Daten arbeiten.
Unser Vorgehen bei Trainings
Von der Bedarfsanalyse bis zur Zertifikatsvergabe bieten wir maßgeschneiderte Trainings, die flexibel gestaltet und nach Ihren spezifischen Anforderungen durchgeführt werden.
Wenn Sie an einem Inhouse-Training interessiert sind, beginnen wir im ersten Gespräch, Ihren Bedarf zu ermitteln und Ihre Ziele zu besprechen. Dieses Gespräch bildet die Grundlage für ein erstes Angebot.
Sobald die Rahmendaten geklärt sind, beginnen unsere Trainer:innen mit der Anpassung der Trainingsinhalte. Viele unserer Trainings sind modular aufgebaut und bieten die Möglichkeit, die Agenda flexibel zu gestalten. Trainings, die auf Zertifizierungen vorbereiten, sind dagegen weniger flexibel. Hier können Sie jedoch den inhaltlichen Fokus nach Ihren Wünschen setzen.
Im Vorfeld des Trainings bekommen Sie alle relevanten Informationen zugesendet. Im Anschluss erfolgt das Training in den von Ihnen gewünschten Räumen und zur verabredeten Zeit. Hier richten sich unsere Trainer:innen nach Ihren Anforderungen.
Nach dem Abschluss des Trainings bekommen alle Teilnehmenden eine Urkunde zur Teilnahmebestätigung. Sie bekommen außerdem die Möglichkeit, uns Feedback zu den Inhalten und dem Ablauf zu geben. Wir freuen uns immer über Lob und Verbesserungsvorschläge.
Ergänzende Informationen
Collin Rogowski
Head of inovex Academy
Ich freue mich auf Ihre Anfrage.
Collin Rogowski
Ihr Erfolgspartner für effektive Trainings
Gerne sprechen wir persönlich mit Ihnen über Ihr Anliegen.
Kontaktieren Sie uns noch heute!
- Individuelles Trainingsangebot für Ihr Unternehmen
- Über 25 Jahre Erfahrung als inovex Academy