MLOps

Machine Learning Operations (MLOps) erlaubt es, Datenprodukte und Machine-Learning (ML) Anwendungen in der Produktion zuverlässig und effizient zu betreiben. Dafür werden Konzepte aus dem DevOps-Bereich auf Machine Learning übertragen und erweitert.

Während es bei reinen Software-Produkten primär um den Code und dessen Weiterentwicklung geht, müssen bei ML-Anwendungen zusätzlich die Daten und die Machine-Learning-Modelle berücksichtigt werden. Dadurch entstehen neue, ML-spezifische Herausforderungen, die mit Hilfe von MLOps explizit adressiert werden und über die bekannten DevOps-Herausforderungen hinausgehen. So können bei MLOps durch Optimierung der Prozesse mehr Geschwindigkeit, Effizienz und Qualität bei der Entwicklung und Wartung der ML-Modelle erreicht werden.

ML Project Flowchart

Herausforderungen in Data-Science-Projekten lösen

MLOps verbindet PoC-Phase und Produktivphase

In Machine-Learning-Projekten liegt die größte Herausforderung häufig nicht in der Erstellung eines Proof of Concepts (PoCs), sondern darin, ein erstes ML-Modell in Produktion zu nehmen – d. h. in bestehende Prozesse und die bereitgestellte Infrastruktur zu integrieren.

Während des PoCs werden häufig die spätere Integration und Produktivierung jedoch nicht berücksichtigt, wodurch Machine-Learning-Applikationen nicht in Produktion überführt werden können.

Voraussetzungen für Machine Learning in Production

Über die Anforderungen von reinen Software-Anwendungen hinaus, braucht eine ML-Anwendung in der Produktion:

  • Datenanbindung (ETL-Pipelines), um die ML-Modelle zu verwenden und automatisiert neu zu trainieren
  • Möglichkeit für agile Weiterentwicklung (z. B. weitere Features) durch Data Scientists
  • Rollback- und A/B-Testing-Fähigkeiten, um Experimente zu ermöglichen
  • Monitoring der Modellqualität zur Nutzung von KPIs

Vorteile von MLOps

Wir betrachten MLOps als Enabler, um mit ML-Anwendungen einen hohen und nachhaltigen Mehrwert zu generieren. Vorteile des Einsatzes von MLOps-Prinzipien sind:

  1. Minimierte Produktionszeit
  2. Weniger Risiko und bessere Business-Entscheidungen
  3. Hohe Geschwindigkeit im Release-Prozess 
  4. Anpassungsfähigkeit an neue Anforderungen
  5. Erhöhte Nutzerakzeptanz und Effektivität der ML-Anwendung

MLOps erfolgreich umsetzen

Die Umsetzung eines Machine-Learning-Projekts besteht aus drei Phasen: Design, Entwicklung und Produktion.

MLOps vereinigt Entwicklung, Design und Produktion in einem Flowchart

Diese Phasen wiederholen sich mehrmals, um iterativ das optimale Produkt zu entwickeln. Nach dem ersten Zyklus steht das Minimal Viable Product (MVP), das über mehrere Iterationen erweitert wird und an Mehrwert gewinnt. ML-spezifisches Monitoring trackt die Ergebnisse direkt in der Produktionsumgebung.

Agnostischer Einsatz von MLOps Tools

Im Einsatz unserer Frameworks und Tools arbeiten wir technologie-agnostisch, um unseren Kunden immer die beste Lösung bereitstellen zu können. Dafür kommen neben Azure Machine Learning und AWS Sagemaker auch Open Source Tools wie Kubeflow, MLflow, ClearML und DVC zum Einsatz.

Flexible Entwicklung von ML-Anwendungen durch MLOps

Ein ausgereiftes MLOps-System ermöglicht eine ganzheitliche Betrachtung während der Entwicklung von Machine-Learning-Anwendungen. Anpassungen, die durch gesammelte Daten aus Betrieb und Monitoring abgeleitet wurden, können so innerhalb der drei Phasen schnell und mit hoher Qualität vorgenommen werden.

Trotz starker Abhängigkeiten zwischen Design, Entwicklung und Produktion stellt MLOps einen hohen Automatisierungsgrad sicher und reduziert zudem Technical Debt. In der konkreten Umsetzung bedeutet dies die Anwendung agiler Prinzipien, die Einbindung von ML-Modellen und -Datensätzen in den CI/CD-Zyklus sowie die Vereinheitlichung des Release-Zyklus für Anwendungen mit und ohne Machine-Learning-Komponenten. Eine dedizierte Versionierung der Daten und Modelle und das Tracking von Experimenten sorgen zudem für Reproduzierbarkeit.

Erfolgreiche Machine-Learning-Projekte mit MLOps

Wir entwickeln mit Ihnen zusammen ein individuelles und ganzheitliches MLOps-Konzept, um ihre ML Anwendungen und Datenprodukte zum Erfolg zu bringen. Unsere erfahrenen Data Scientists und Data / Machine Learning Engineers helfen Ihnen bei der technischen Implementierung einer nachhaltigen MLOps-Architektur und leben dabei die MLOps-Kultur vor.

Wie können wir Sie unterstützen?

Florian Wilhelm

Head of Data Science, Ansprechperson Data Management & Analytics

Blog-Artikel

MLOps