{"id":58066,"date":"2024-10-02T10:43:55","date_gmt":"2024-10-02T08:43:55","guid":{"rendered":"https:\/\/www.inovex.de\/?p=58066"},"modified":"2024-10-02T10:43:55","modified_gmt":"2024-10-02T08:43:55","slug":"machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen","status":"publish","type":"post","link":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/","title":{"rendered":"Machine Learning Monitoring: Ein Ansatz zur \u00dcberwachung ohne Expertenwissen"},"content":{"rendered":"<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_83 counter-hierarchy ez-toc-counter ez-toc-custom ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\"><p class=\"ez-toc-title\" style=\"cursor:inherit\"><\/p>\n<\/div><nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Warum-das-Monitoring-von-Machine-Learning-Modellen-niederschwelliger-gestaltet-werden-sollte\" >Warum das Monitoring von Machine-Learning-Modellen niederschwelliger gestaltet werden sollte<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Was-ist-Drift-und-warum-ist-es-wichtig-ihn-zu-erkennen\" >Was ist Drift und warum ist es wichtig, ihn zu erkennen?<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Data-Drift\" >Data Drift<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Concept-Drift\" >Concept Drift<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Der-Design-Thinking-Prozess-Eine-kreative-Loesungsfindung-fuer-zugaengliches-Monitoring\" >Der Design Thinking Prozess: Eine kreative L\u00f6sungsfindung f\u00fcr zug\u00e4ngliches Monitoring<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-6\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Entwicklung-eines-nutzer-innenzentrierten-Monitoring-Tools-Ein-Schritt-fuer-Schritt-Ansatz\" >Entwicklung eines nutzer:innenzentrierten Monitoring-Tools: Ein Schritt-f\u00fcr-Schritt-Ansatz<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-7\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Phase-1-Zielgruppenanalyse-%E2%80%93-Die-Beduerfnisse-der-Nutzer-innen-verstehen\" >Phase 1: Zielgruppenanalyse \u2013 Die Bed\u00fcrfnisse der Nutzer:innen verstehen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-8\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Phase-2-Prototyping-%E2%80%93-Von-Ideen-zu-greifbaren-Loesungen\" >Phase 2: Prototyping \u2013 Von Ideen zu greifbaren L\u00f6sungen<\/a><ul class='ez-toc-list-level-4' ><li class='ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-9\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Drifterkennung\" >Drifterkennung<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-10\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Ursachenanalyse\" >Ursachenanalyse<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-4'><a class=\"ez-toc-link ez-toc-heading-11\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Handlungsmoeglichkeiten\" >Handlungsm\u00f6glichkeiten<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-12\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Phase-3-Nutzungstests-%E2%80%93-Feedback-fuer-eine-optimierte-User-Experience\" >Phase 3: Nutzungstests \u2013 Feedback f\u00fcr eine optimierte User Experience<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-13\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Erkenntnisse-So-gestalten-Sie-das-Monitoring-fuer-Personen-ohne-ML-Expertise-verstaendlich\" >Erkenntnisse: So gestalten Sie das Monitoring f\u00fcr Personen ohne ML-Expertise verst\u00e4ndlich<\/a><ul class='ez-toc-list-level-3' ><li class='ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-14\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Handlungsempfehlungen-planen\" >Handlungsempfehlungen planen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-15\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Hilfestellungen-geben\" >Hilfestellungen geben<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-16\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Minimale-Darstellung-von-Informationen-durch-Rollenverteilung\" >Minimale Darstellung von Informationen durch Rollenverteilung<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-17\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Wording-und-textliche-Unterstuetzung\" >Wording und textliche Unterst\u00fctzung<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-18\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Einflussfaktoren-auf-das-Modell-darstellen\" >Einflussfaktoren auf das Modell darstellen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-19\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Tagesgeschaeft-einbinden\" >Tagesgesch\u00e4ft einbinden<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-20\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Spielerische-Interaktionen-zur-Verfuegung-stellen\" >Spielerische Interaktionen zur Verf\u00fcgung stellen<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-21\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Animationen-der-Diagramme\" >Animationen der Diagramme<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-3'><a class=\"ez-toc-link ez-toc-heading-22\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Wenige-Einstellungsmoeglichkeiten-zur-Verfuegung-stellen\" >Wenige Einstellungsm\u00f6glichkeiten zur Verf\u00fcgung stellen<\/a><\/li><\/ul><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-23\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#Ausblick\" >Ausblick<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"Warum-das-Monitoring-von-Machine-Learning-Modellen-niederschwelliger-gestaltet-werden-sollte\"><\/span>Warum das Monitoring von Machine-Learning-Modellen niederschwelliger gestaltet werden sollte<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Im Zeitalter der Digitalisierung ist die ku\u0308nstliche Intelligenz (KI) nicht mehr wegzudenken. \u00dcber den privaten Gebrauch hinaus nimmt sie insbesondere in industriellen Prozessen eine zentrale Rolle ein. Maschinelle Lernsysteme (ML), eine spezifische Auspr\u00e4gung der KI, werden branchenu\u0308bergreifend eingesetzt, um Prozesse in Fertigung, Produktion, Gesundheitswesen und weiteren Sektoren zu optimieren. Diese Systeme sind beispielsweise in der Lage, Wartungsintervalle von Maschinen pr\u00e4diktiv zu bestimmen oder fehlerhafte Komponenten in Automobilteilen zu identifizieren, bevor diese in den Produktionsprozess einflie\u00dfen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Obwohl ML-Systeme vielf\u00e4ltig genutzt werden, verstehen haupts\u00e4chlich Experten und Expertinnen, wie diese Systeme wirklich funktionieren. Dies fu\u0308hrt dazu, dass Menschen ohne spezielle Kenntnisse auf die Zuverl\u00e4ssigkeit und Fehlerlosigkeit dieser Systeme angewiesen sind. Jedoch sind ML-Systeme nicht immun gegen Fehlfunktionen. Diverse Faktoren k\u00f6nnen die Genauigkeit und Verl\u00e4sslichkeit der von ML-Systemen generierten Prognosen beeintr\u00e4chtigen. Zur Minimierung dieser Schw\u00e4chen ist eine kontinuierliche \u00dcberwachung und Anpassung durch Expertinnen und Experten in komplexen Verfahren erforderlich. Bei einem ML-Fachkr\u00e4ftemangel gibt es jedoch kaum M\u00f6glichkeiten, die Wartung und Instandhaltung des ML-Systems dauerhaft zu gew\u00e4hrleisten. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Dies fu\u0308hrt zu einer herausfordernden Diskrepanz: Einerseits gibt es eine deutliche Zunahme relevanter Use Cases f\u00fcr die Anwendung von ML-Systemen. Andererseits besteht ein akuter Mangel an qualifizierten Fachkr\u00e4ften, die u\u0308ber tiefgreifendes Wissen im Bereich des maschinellen Lernens verfu\u0308gen, um diese Systeme ad\u00e4quat zu u\u0308berwachen und zu warten.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Daher die Frage: Wie sollte ein ML-\u00dcberwachungstool gestaltet sein, damit auch Nicht-ML-Expertinnen und -Experten eigenst\u00e4ndig Fehlerquellen identifizieren und entsprechende Gegenma\u00dfnahmen einleiten k\u00f6nnen? Wir wollen diese Frage n\u00e4her beleuchten, indem wir uns das Thema Drifterkennung n\u00e4her anschauen.<\/span><\/p>\n<h2><span class=\"ez-toc-section\" id=\"Was-ist-Drift-und-warum-ist-es-wichtig-ihn-zu-erkennen\"><\/span>Was ist Drift und warum ist es wichtig, ihn zu erkennen?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Ein Modell entsteht durch die Analyse von Mustern in Trainingsdaten, mit dem Ziel, die <\/span><span style=\"font-weight: 400;\">Gegenwart auf Basis historischer Beobachtungen zu modellieren. \u00dcbereinstimmen die Trainingsdaten mit den Daten der realen Welt, kann das Modell zuverl\u00e4ssige Prognosen liefern. Ver\u00e4ndern sich die Daten und Muster der realen Welt, ist das Modell nicht mehr in der Lage, sie abbilden zu k\u00f6nnen. Da sich die reale Welt st\u00e4ndig ver\u00e4ndert, mu\u0308ssen die Modelle ebenso dauerhaft auf neue Gegebenheiten angepasst werden, um die reale Welt zuku\u0308nftig weiterhin richtig abbilden zu k\u00f6nnen. Beispielsweise sind Modelle, die vor der Coronapandemie trainiert wurden, nicht in der Lage, die Auswirkungen dieser Pandemie erfolgreich abzubilden. Sie mu\u0308ssen an die neuen Gegebenheiten angepasst werden. Diese Ver\u00e4nderungen der realen Welt, sog. Drifts, k\u00f6nnen in mehrere Kategorien eingeteilt werden. Darunter den Data Drift und den Concept Drift.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Data-Drift\"><\/span>Data Drift<span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Ein Data Drift tritt auf, wenn die Daten, die zum Training eines Modells verwendet wurden, von den Daten abweichen, die das Modell im praktischen Einsatz verarbeiten muss. Diese Diskrepanz kann dazu fu\u0308hren, dass die Effizienz des Modells nachl\u00e4sst, da sich die zugrundeliegenden Datenmuster ver\u00e4ndert haben. Ein Data Drift kann pl\u00f6tzlich, sukzessive oder saisonal auftreten. Gru\u0308nde dafu\u0308r k\u00f6nnen durch eine Ver\u00e4nderung des Nutzungsverhaltens, saisonale Ver\u00e4nderungen oder Ver\u00e4nderungen durch externe Ereignisse hervorgerufen werden. Ein Beispiel dafu\u0308r ist Instacart im Jahr 2020, ein App-Anbieter, der darauf spezialisiert ist, die Verfu\u0308gbarkeit von Lebensmitteln in Superm\u00e4rkten zu prognostizieren. Durch die drastische Ver\u00e4nderung des Kaufverhaltens w\u00e4hrend der Coronapandemie sank die Performance ihres Modells von 93 % auf 61 %.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Concept-Drift\"><\/span><b>Concept Drift<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Concept Drift bezieht sich auf die Ver\u00e4nderung der Beziehung zwischen Eingabe- und Ausgabedaten. Das bedeutet, dass sich die Art und Weise, wie die Eingabedaten <\/span><span style=\"font-weight: 400;\">mit dem zu vorhergesagtem Ergebnis zusammenh\u00e4ngen, im Laufe der Zeit \u00e4ndern. Hat sich das Gesch\u00e4ftsziel, das Ergebnis der Prognose des Modells ver\u00e4ndert, <\/span><span style=\"font-weight: 400;\">muss das Modell neu evaluiert und angepasst werden. Ein Concept Drift kann durch unterschiedliche Faktoren hervorgerufen werden. Die Annahmen, die beim Erstellen und Trainieren der Modelle noch gu\u0308ltig waren, k\u00f6nnen sich u\u0308ber die Zeit ver\u00e4ndert haben. Neue <\/span><span style=\"font-weight: 400;\">Technologien, Regularien oder Trends k\u00f6nnen dazu fu\u0308hren, dass sich die Vorgaben fu\u0308r die <\/span><span style=\"font-weight: 400;\">Modellvorhersagen u\u0308ber die Zeit ver\u00e4ndern. Ein bekanntes Beispiel ist die Vergabe von Krediten nach Kreditwu\u0308rdigkeit. Hat sich die Definition von Kreditw\u00fcrdigkeit durch Ver\u00e4nderungen von Regularien in der realen Welt ver\u00e4ndert, kann das urspru\u0308ngliche Modell diese Ver\u00e4nderung nicht beru\u0308cksichtigen.<\/span><\/p>\n<h2><span class=\"ez-toc-section\" id=\"Der-Design-Thinking-Prozess-Eine-kreative-Loesungsfindung-fuer-zugaengliches-Monitoring\"><\/span><b>Der Design Thinking Prozess: Eine kreative L\u00f6sungsfindung f\u00fcr zug\u00e4ngliches Monitoring<\/b><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Da wir nun wissen, warum ein Drift auftreten kann, m\u00fcssen wir eine Methode finden, wie wir einen Drift gut und verst\u00e4ndlich abbilden k\u00f6nnen, damit auch Personen ohne ML-Expertise ihn erkennen und beheben k\u00f6nnen. Daf\u00fcr nutzen wir eine im Design bew\u00e4hrte Methode: Design Thinking.<\/span><\/p>\n<figure id=\"attachment_58095\" aria-describedby=\"caption-attachment-58095\" style=\"width: 660px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58095\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-300x130.png\" alt=\"Der Design Thinking Prozess\" width=\"660\" height=\"286\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-300x130.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-1024x445.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-768x333.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-1536x667.png 1536w, https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-400x174.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1-360x156.png 360w, https:\/\/www.inovex.de\/wp-content\/uploads\/Design-Thinking-Prozess-1.png 1649w\" sizes=\"auto, (max-width: 660px) 100vw, 660px\" \/><figcaption id=\"caption-attachment-58095\" class=\"wp-caption-text\">Der Design Thinking Prozess<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Der Design Thinking Prozess ist eine kreative Methode, um innovative L\u00f6sungen f\u00fcr komplexe Probleme zu entwickeln. Da das Monitoring von Machine-Learning-Modellen derzeit haupts\u00e4chlich von ML-Expertinnen und -Experten durchgef\u00fchrt wird und noch nicht von ML-Laien, soll dieser Ansatz es erm\u00f6glichen, sich St\u00fcck f\u00fcr St\u00fcck der L\u00f6sung des Problems zu n\u00e4hern. Der Design Thinking Prozess umfasst folgende Schritte:<\/span><\/p>\n<p><b>Verstehen<\/b><span style=\"font-weight: 400;\">: In dieser Phase werden die Bed\u00fcrfnisse, W\u00fcnsche, Hoffnungen, \u00c4ngste und Sorgen der Zielgruppe erkundet, um anschlie\u00dfend eine L\u00f6sung zu entwickeln, die diese Gef\u00fchlszust\u00e4nde anspricht. User-Interviews, Stakeholder-Interviews oder Workshops sind M\u00f6glichkeiten, sich ein erstes Bild der Zielgruppe zu verschaffen.<\/span><\/p>\n<p><b>Problem definieren<\/b><span style=\"font-weight: 400;\">: Im zweiten Schritt wird das Problem aus Sicht der Zielgruppe neu definiert. Dabei helfen Personas, Szenarien oder User Journeys, um ein vollst\u00e4ndiges Bild der Zielgruppe zu erhalten.<\/span><\/p>\n<p><b>Ideen entwickeln<\/b><span style=\"font-weight: 400;\">: In der dritten Phase geht es darum, Ideen zu entwickeln, die potenziell zur L\u00f6sung des Problems beitragen. Kreativit\u00e4t ist keine Wissenschaft, daher gibt es kein festes Schema, das befolgt werden kann \u2013 lediglich Methoden, die unterst\u00fctzen, Ideen zu finden.<\/span><\/p>\n<p><b>Prototyp entwerfen<\/b><span style=\"font-weight: 400;\">: In dieser Phase werden die Ideen mithilfe g\u00e4ngiger Tools wie Figma in klickbare Prototypen \u00fcberf\u00fchrt, um sie greifbar zu machen und an potenziellen Nutzern zu testen. Das Ziel ist es nicht, sofort die perfekte L\u00f6sung zu finden, sondern durch Feedback der Nutzer:innen schrittweise die bestm\u00f6gliche L\u00f6sung zu entwickeln.<\/span><\/p>\n<p><b>Nutzungstests durchf\u00fchren<\/b><span style=\"font-weight: 400;\">: Der Prototyp wird an realen Nutzer:innen getestet, und die gewonnenen Erkenntnisse flie\u00dfen in seine Weiterentwicklung ein. Ziel ist es, durch kontinuierliches Nutzerfeedback den Prototyp anzupassen und zu verbessern, bis eine optimale L\u00f6sung gefunden ist.<\/span><\/p>\n<p>&nbsp;<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Entwicklung-eines-nutzer-innenzentrierten-Monitoring-Tools-Ein-Schritt-fuer-Schritt-Ansatz\"><\/span><b>Entwicklung eines nutzer:innenzentrierten Monitoring-Tools: Ein Schritt-f\u00fcr-Schritt-Ansatz<\/b><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Um anhand der Design-Thinking-Methode einen Prototyp f\u00fcr das Monitoring von Drift f\u00fcr Personen ohne Expertise auszuarbeiten, wollen wir ein reales Beispiel heranziehen. Dadurch k\u00f6nnen wir den Prototyp auf Basis der Bed\u00fcrfnisse einer konkreten Zielgruppe ausarbeiten und im Anschluss User-Tests durchf\u00fchren, die zeigen, ob der Prototyp verst\u00e4ndlich ist.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Als Beispiel ziehen wir die Qualit\u00e4tssicherung in der Gastronomiebranche heran. Gastronomieunternehmen sind daf\u00fcr verantwortlich, dass ihre Produkte gesundheitlich unbedenklich sind und den geltenden lebensmittelrechtlichen Vorgaben entsprechen. Machine Learning bietet ihnen dabei eine effektive Unterst\u00fctzung.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Eines der vielen Regularien bezieht sich auf die vorgegebene Qualit\u00e4t von Frittier\u00f6l in der Lebensmittelbranche. Frittier\u00f6l wird verwendet, um in der Gastronomie Lebensmittel wie Pommes oder Nuggets zu frittieren. Laut der Deutschen Gesellschaft f\u00fcr Fettwissenschaften (DGF) soll das Frittier\u00f6l ausgetauscht werden, wenn der Total-Polar-Materials-Wert (TPM) einen Grenzwert von 24 % \u00fcberschreitet. Zur Einhaltung dieses Grenzwertes m\u00fcssen regelm\u00e4\u00dfige Messungen am Frittierbecken vorgenommen werden. Es liegt in der Verantwortung der Mitarbeitenden, Ver\u00e4nderungen, auff\u00e4llige Ger\u00fcche oder eine Verschlechterung des \u00d6ls zu erkennen und rechtzeitig das \u00d6l auszutauschen, um Qualit\u00e4tseinbu\u00dfen zu verhindern und eine Gesundheitsgefahr f\u00fcr Konsument:innen auszuschlie\u00dfen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">F\u00fcr diesen Zweck werden professionelle Messger\u00e4te entwickelt, die den Mitarbeitenden helfen, die \u00d6lqualit\u00e4t zu bestimmen und den optimalen Wechselzeitpunkt zu finden. Mit Hilfe von maschinellem Lernen k\u00f6nnen diese Ger\u00e4te speziell darauf trainiert werden, vorherzusagen, wann das \u00d6l gewechselt werden muss, um kosteneffizient zu arbeiten und gleichzeitig eine hohe Qualit\u00e4t zu gew\u00e4hrleisten.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Phase-1-Zielgruppenanalyse-%E2%80%93-Die-Beduerfnisse-der-Nutzer-innen-verstehen\"><\/span><b>Phase 1: Zielgruppenanalyse \u2013 Die Bed\u00fcrfnisse der Nutzer:innen verstehen<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Zun\u00e4chst wurden die Personen, die in einer Fast-Food-Filiale arbeiten, n\u00e4her untersucht, um herauszufinden, wer ein berechtigtes Interesse am Monitoring von Modellen hat. F\u00fcr diesen Zweck wurden Interviews durchgef\u00fchrt. Ziel der Interviews war es, tiefere Einblicke in die Zusammenarbeit zwischen Messger\u00e4teherstellern und Kunden zu erhalten sowie potenzielle Motivationen f\u00fcr die Nutzung eines Monitoring-Tools zu untersuchen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die Interviews ergaben, dass das Bereitstellen von M\u00f6glichkeiten zur selbstst\u00e4ndigen Instandhaltung der Modelle auf Kundenseite entlastend f\u00fcr die Fachkr\u00e4fte sein kann. Fehlerquellen k\u00f6nnten durch den verbesserten Austausch schneller erkannt und behoben werden. Auf Kundenseite schafft die M\u00f6glichkeit der eigenst\u00e4ndigen Wartung mehr Vertrauen in die Nutzung von ML-Systemen. Es erm\u00f6glicht tiefere Einblicke in die Prozesse des Modells und kann strategische Entscheidungen erkl\u00e4ren und lenken.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Phase-2-Prototyping-%E2%80%93-Von-Ideen-zu-greifbaren-Loesungen\"><\/span><b>Phase 2: Prototyping \u2013 Von Ideen zu greifbaren L\u00f6sungen<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Im Anschluss an die Interviews wurden Ideen gesammelt, die in einem High-Fidelity-Prototyp umgesetzt wurden. Der Prototyp zeigt eine \u00dcbersicht der aktuellen \u00d6lqualit\u00e4t im Vergleich zur Prognose, ein Trendanalyse-Tool und eine Ansicht \u00fcber die verschiedenen Modellversionen.<\/span><\/p>\n<h4><span class=\"ez-toc-section\" id=\"Drifterkennung\"><\/span><b>Drifterkennung<\/b><span class=\"ez-toc-section-end\"><\/span><\/h4>\n<figure id=\"attachment_58112\" aria-describedby=\"caption-attachment-58112\" style=\"width: 663px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58112\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-300x216.png\" alt=\"Drifterkennung - Normalzustand\" width=\"663\" height=\"478\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-300x216.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-1024x736.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-768x552.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-400x287.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-761x548.png 761w, https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-720x520.png 720w, https:\/\/www.inovex.de\/wp-content\/uploads\/Uebersicht-Normalzustand-360x259.png 360w\" sizes=\"auto, (max-width: 663px) 100vw, 663px\" \/><figcaption id=\"caption-attachment-58112\" class=\"wp-caption-text\">Drifterkennung &#8211; Normalzustand<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Thematisch soll die \u00dcbersicht den Nutzer:innen einen allgemeinen \u00dcberblick \u00fcber die eingehenden Daten geben. Daf\u00fcr soll ein Liniendiagramm den historischen Verlauf der Messdaten anzeigen. Zus\u00e4tzlich sollen im selben Diagramm die erwarteten Prognosewerte der KI dargestellt werden. Durch die \u00fcberlagerten Linien sollen Nutzer:innen gr\u00f6\u00dfere Abweichungen visuell erkennen. Neben der visuellen Darstellung des Diagramms werden textliche Hilfestellungen in Form von Hero-Cards eingesetzt. Idealerweise kann dadurch auf einen Blick erkannt werden, ob das Modell gut oder schlecht funktioniert.\u00a0<\/span><\/p>\n<figure id=\"attachment_58102\" aria-describedby=\"caption-attachment-58102\" style=\"width: 681px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58102\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-300x216.png\" alt=\"Drifterkennung - Drift vorhanden\" width=\"681\" height=\"490\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-300x216.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-1024x736.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-768x552.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-400x287.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-761x548.png 761w, https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung-360x259.png 360w, https:\/\/www.inovex.de\/wp-content\/uploads\/Drifterkennung.png 1367w\" sizes=\"auto, (max-width: 681px) 100vw, 681px\" \/><figcaption id=\"caption-attachment-58102\" class=\"wp-caption-text\">Drifterkennung &#8211; Drift vorhanden<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Erkennt die KI eine gr\u00f6\u00dfere Abweichung in den Eingangsdaten im Vergleich zu den prognostizierten Werten, wird eine dritte Karte sichtbar. Diese erkl\u00e4rt den Grund f\u00fcr die Ver\u00e4nderung in knappen Worten und ist in der Signalfarbe rot gekennzeichnet, um den Fokus auf sich zu lenken.<\/span><\/p>\n<figure id=\"attachment_58114\" aria-describedby=\"caption-attachment-58114\" style=\"width: 675px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58114\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand-300x219.png\" alt=\"Trend\u00fcbersicht - Normalzustand\" width=\"675\" height=\"493\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand-300x219.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand-1024x747.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand-768x560.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand-400x292.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand-360x263.png 360w, https:\/\/www.inovex.de\/wp-content\/uploads\/Trenduebersicht-Normalzustand.png 1346w\" sizes=\"auto, (max-width: 675px) 100vw, 675px\" \/><figcaption id=\"caption-attachment-58114\" class=\"wp-caption-text\">Trend\u00fcbersicht &#8211; Normalzustand<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Als zweiten Men\u00fcpunkt gibt es das Trendanalyse-Tool. In dieser Ansicht werden wiederkehrende Abweichungen des Normalzustands festgehalten. Erkennt das Tool, dass die Prognosen jedes Jahr in einem bestimmten Monat von den Eingangsdaten abweichen, kann dies vermerkt und beobachtet werden. Tritt diese Abweichung h\u00e4ufiger auf, kann es als Trend registriert werden und in zuk\u00fcnftige Retrainings miteinflie\u00dfen. Erkennen die Nutzer:innen, dass diese Abweichung nur eine einmalige Erscheinung ist, k\u00f6nnen sie diese Datenpunkte entfernen, damit sich nicht in zuk\u00fcnftige Retrainings einflie\u00dfen. Dadurch haben die Nutzer:innen aktiv die M\u00f6glichkeit, das Modell zu verbessern.<\/span><\/p>\n<figure id=\"attachment_58105\" aria-describedby=\"caption-attachment-58105\" style=\"width: 670px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58105\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen-300x210.png\" alt=\"Versionen verwalten\" width=\"670\" height=\"469\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen-300x210.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen-1024x717.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen-768x538.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen-400x280.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen-360x252.png 360w, https:\/\/www.inovex.de\/wp-content\/uploads\/Versionen.png 1399w\" sizes=\"auto, (max-width: 670px) 100vw, 670px\" \/><figcaption id=\"caption-attachment-58105\" class=\"wp-caption-text\">Versionen verwalten<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">In der dritten Ansicht werden alle aktuellen und vergangenen Modellversionen angezeigt. Zu jeder Modellversion wird festgehalten, ob diese aktiv oder inaktiv ist, wie hoch die letzte gemessene Vorhersagegenauigkeit war und auf welchem Trainingsdatensatzstand das Modell trainiert wurde.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">In jeder Ansicht wird den Nutzer:innen ein Chatbot zur Verf\u00fcgung gestellt. Dieser soll bei Schwierigkeiten unterst\u00fctzen. Der Chatbot soll insbesondere bei Fragen zum Wording helfen oder bei Unklarheiten in Bezug auf Diagramme, Ursachen und Handlungsm\u00f6glichkeiten.\u00a0<\/span><\/p>\n<h4><span class=\"ez-toc-section\" id=\"Ursachenanalyse\"><\/span><b>Ursachenanalyse<\/b><span class=\"ez-toc-section-end\"><\/span><\/h4>\n<p><span style=\"font-weight: 400;\">Nachdem die Nutzer:innen die M\u00f6glichkeit zur Ver\u00e4nderungserkennung bekommen haben, sollen die Ursachen f\u00fcr die Ver\u00e4nderungen verstanden werden. Auch hier soll Hilfestellung geboten werden, indem m\u00f6gliche Gr\u00fcnde im System bereits hinterlegt werden. Nicht hinterlegte Gr\u00fcnde sollen von den Nutzer:innen hinzugef\u00fcgt werden, damit sie zuk\u00fcnftig ber\u00fccksichtigt werden k\u00f6nnen. Um den Nutzer:innen diese Hilfestellung zu geben, wird eine Schritt-f\u00fcr-Schritt-Anleitung, auch Wizard genannt, verwendet. Ein Wizard ist eine Darstellungsform, die Nutzer:innen erm\u00f6glicht, eine vordefinierte Folge von Schritten durchzuf\u00fchren.<\/span><\/p>\n<figure id=\"attachment_58107\" aria-describedby=\"caption-attachment-58107\" style=\"width: 674px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58107\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1-300x213.png\" alt=\"Ursachenanalyse\" width=\"674\" height=\"478\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1-300x213.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1-1024x728.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1-768x546.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1-400x284.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1-360x256.png 360w, https:\/\/www.inovex.de\/wp-content\/uploads\/Wizard1.png 1440w\" sizes=\"auto, (max-width: 674px) 100vw, 674px\" \/><figcaption id=\"caption-attachment-58107\" class=\"wp-caption-text\">Ursachenanalyse<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Im Falle einer dauerhaften Ver\u00e4nderung zwischen Prognose und tats\u00e4chlich gemessener \u00d6lqualit\u00e4t werden in dem Wizard bereits m\u00f6gliche Gr\u00fcnde hinterlegt, die die Nutzer:innen \u00fcberpr\u00fcfen k\u00f6nnen. Dadurch k\u00f6nnen sie beteiligte Personen auf die Ver\u00e4nderung ansprechen oder das Modell auf die neuen Umst\u00e4nde anpassen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Im Falle einer Ver\u00e4nderung des Nutzungsverhaltens m\u00fcssen die Nutzer:innen den Grund selbstst\u00e4ndig herausfinden. Das System kann hierzu Hilfestellungen geben, kann aber keine konkreten Ursachen herausfiltern, ohne sie vorher gelernt zu haben. Gehen wir von einer saisonalen Ver\u00e4nderung des Nutzungsverhaltens in den Winter- und Sommerferien aus, dann kann diese Ver\u00e4nderung angezeigt werden und auch als Ferienzeiten markiert werden. Handelt es sich bei den Ver\u00e4nderungen um unvorhersehbare Ereignisse, beispielsweise die vor\u00fcbergehende Schlie\u00dfung der Filiale f\u00fcr eine Woche wegen Umbau, dann kann das Modell diese untypische Ver\u00e4nderung nicht hervorsehen.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die Nutzer:innen k\u00f6nnen diesen Grund dann selbst\u00e4ndig dem Modell beibringen. Oder sogar diesen Zeitraum aus den Daten entfernen, damit sie nicht in die zuk\u00fcnftigen Trainingsdaten einflie\u00dfen und die Prognosen beeinflussen. Die Nutzer:innen haben die M\u00f6glichkeit, die aufgetretene Ver\u00e4nderung zu benennen, eine Beschreibung hinzuzuf\u00fcgen und Tags zu setzen. Dadurch k\u00f6nnen die Nutzer:innen bei wiederkehrenden Mustern benachrichtigt werden.<\/span><\/p>\n<h4><span class=\"ez-toc-section\" id=\"Handlungsmoeglichkeiten\"><\/span><b>Handlungsm\u00f6glichkeiten<\/b><span class=\"ez-toc-section-end\"><\/span><\/h4>\n<p><span style=\"font-weight: 400;\">Nachdem ein Drift und dessen Ursache erkannt werden, wird den Nutzer:innen die M\u00f6glichkeit gegeben, das Problem zu beseitigen. Die Handlungsm\u00f6glichkeiten sind davon abh\u00e4ngig, welche Ursachen zugrunde liegen. Die Fehlerbehebung kann beispielsweise durch fehlerhafte Nutzung der Fritteuse hervorgerufen werden. Dann k\u00f6nnen Schulungen f\u00fcr Mitarbeitende vorgeschlagen werden, um eine korrekte Nutzung der Fritteuse sicherzustellen, damit das Modell wieder bessere Prognosen machen kann.\u00a0<\/span><\/p>\n<figure id=\"attachment_58109\" aria-describedby=\"caption-attachment-58109\" style=\"width: 695px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\" wp-image-58109\" src=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard-300x195.png\" alt=\"Retraining\" width=\"695\" height=\"452\" srcset=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard-300x195.png 300w, https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard-1024x665.png 1024w, https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard-768x499.png 768w, https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard-400x260.png 400w, https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard-360x234.png 360w, https:\/\/www.inovex.de\/wp-content\/uploads\/Retraining-Wizard.png 1440w\" sizes=\"auto, (max-width: 695px) 100vw, 695px\" \/><figcaption id=\"caption-attachment-58109\" class=\"wp-caption-text\">Retraining<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Neben den Handlungsm\u00f6glichkeiten, die vor Ort umgesetzt werden k\u00f6nnen gibt es das Retraining als letzte Option. Dadurch kann das Modell an die neuen Gegebenheiten angepasst werden. Das Retraining steht als M\u00f6glichkeit im Fokus und kann sowohl unter dem Versionsmen\u00fcpunkt als auch direkt im Wizard angesto\u00dfen werden. Daraufhin \u00f6ffnet sich ein weiterer Wizard, der den Nutzer:innen in drei Schritten zum Retraining verhilft. An dieser Stelle wird davon ausgegangen, dass das Retraining durch einen einfachen Button- Klick umgesetzt werden kann. Im ersten Schritt k\u00f6nnen die Nutzer\/-innen eine Version ausw\u00e4hlen, die als Basis f\u00fcr das Retraining verwendet werden soll. In einer Vorher\/Nachher- Ansicht wird die Vorhersagegenauigkeit des ausgew\u00e4hlten Modells angezeigt. Mit einem Button-Klick kann das Retraining gestartet werden. Woraufhin die Nutzer:innen direkt die Vorhersagegenauigkeit des neuen Modells sehen, sowie die prozentuale Verbesserung. Ist die neue Vorhersagegenauigkeit h\u00f6her als die vorigen Modells, k\u00f6nnen die Nutzer:innen sich dazu entscheiden, das neue Modell zu verwenden. <\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Phase-3-Nutzungstests-%E2%80%93-Feedback-fuer-eine-optimierte-User-Experience\"><\/span><b>Phase 3: Nutzungstests \u2013 Feedback f\u00fcr eine optimierte User Experience<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Im Anschluss wurden qualitative und quantitative Nutzungstests mit Personen durchgef\u00fchrt, die unterschiedlich viel Erfahrung im Bereich Machine Learning ausweisen. Das Ziel der Nutzungstests besteht in der Beantwortung folgender Fragestellungen:<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">K\u00f6nnen die Nutzer:innen selbstst\u00e4ndig erkennen, dass das Modell nicht optimal funktioniert?<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Erkennen die Nutzer:innen selbst\u00e4ndig Handlungen, um das Modell verbessern zu k\u00f6nnen?<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Sind die Nutzer:innen in der Lage, diese Handlungen selbstst\u00e4ndig durchzuf\u00fchren?<\/span><\/li>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">K\u00f6nnen die Nutzer:innen anschlie\u00dfend erkennen, dass das Modell durch diese<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">Handlungen besser funktioniert?<\/span><\/p>\n<ul>\n<li style=\"font-weight: 400;\"><span style=\"font-weight: 400;\">Erkennen die Nutzer:innen M\u00f6glichkeiten sich Hilfe zu beschaffen, falls sie nicht<\/span><\/li>\n<\/ul>\n<p><span style=\"font-weight: 400;\">weiterkommen?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die Probanden und Probandinnen bekamen vier Aufgaben, die sie selbstst\u00e4ndig l\u00f6sen sollten. Dabei sollten sie zu Beginn selbstst\u00e4ndig den Prototyp erforschen und erste Gedanken schildern. Im weiteren Verlauf des Nutzertests beziehen sich die Aufgaben auf das Erkennen von Drifts, die ihre Ursache in der Ver\u00e4nderung des Mitarbeitendenverhaltens haben, sowie auf Ver\u00e4nderungen des Kaufverhaltens. In beiden F\u00e4llen sollen die Testpersonen Handlungsm\u00f6glichkeiten erkennen und in der Lage sein, sie selbstst\u00e4ndig umzusetzen. Dabei wurde die Think-Aloud-Methode verwendet, eine bereits zentrale Methode im Bereich des Usability Testings. Nach jeder abgeschlossenen Aufgabe wurden Fragen zur Machbarkeit gestellt und auf einer Likert-Skala festgehalten.\u00a0<\/span><\/p>\n<h2><span class=\"ez-toc-section\" id=\"Erkenntnisse-So-gestalten-Sie-das-Monitoring-fuer-Personen-ohne-ML-Expertise-verstaendlich\"><\/span><b>Erkenntnisse: So gestalten Sie das Monitoring f\u00fcr Personen ohne ML-Expertise verst\u00e4ndlich<\/b><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Die Auswertung der Nutzungstests hat viele aufschlussreiche Erkenntnisse geliefert. Diese Erkenntnisse k\u00f6nnen genutzt werden, um Richtlinien zu erstellen, die beschreiben, wie man das Monitoring von ML-Modellen f\u00fcr Personen ohne ML-Expertise zug\u00e4nglicher gestalten kann.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Handlungsempfehlungen-planen\"><\/span><b>Handlungsempfehlungen planen<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Die erste Schl\u00fcsselerkenntnis bei der Ausarbeitung eines Konzepts f\u00fcr das Monitoring von Modellen f\u00fcr Personen ohne ML-Expertise ist, dass die Wichtigkeit in den Vor\u00fcberlegungen der Handlungsempfehlungen liegt. Die Testpersonen sind darauf konzentriert, schnell das Problem zu erkennen und es ebenso schnell zu beseitigen. Daher stehen die Handlungsm\u00f6glichkeiten f\u00fcr die Nutzer:innen im Fokus. Die Gr\u00fcnde f\u00fcr eine Abweichung der tats\u00e4chlichen Messwerte von den prognostizierten Messwerten sind umfangreich. Um Verwirrung bei den Nutzer:innen zu vermeiden, soll bereits im Vorfeld gekl\u00e4rt werden, unter welchen Bedingungen welche Handlungsempfehlung von dem System vorgegeben wird. Dabei sollten die Handlungsempfehlungen so pr\u00e4zise und genau wie m\u00f6glich sein.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die Testpersonen schlugen vor, eine Art Baumdiagramm-Konzept zu entwickeln. Jede m\u00f6gliche Ursache f\u00fcr einen Drift wird mit einer passenden L\u00f6sung notiert. Diese L\u00f6sung kann bei Eintritt der Ursache den Nutzer:innen vorgeschlagen werden. Dadurch kann das System immer eine optimale Handlungsempfehlung geben.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Hilfestellungen-geben\"><\/span><b>Hilfestellungen geben<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Eine weitere Schl\u00fcsselerkenntnis ist das Bereitstellen von Hilfestellungen. Das System muss so gestaltet sein, dass der Inhalt auch mit wenig Zeitaufwand verstanden werden kann. Eine M\u00f6glichkeit, dies zu erreichen, ist die Einf\u00fchrung eines Onboardings. Ein Onboarding beschreibt die Einf\u00fchrung in die Software mittels Erkl\u00e4rungen, Touren und Beispielen. Dadurch bekommen Nutzer:innen einen ersten Einblick in das Tool und haben die M\u00f6glichkeit, bei Unklarheiten wieder darauf zur\u00fcckzugreifen. Zus\u00e4tzlich kann ein Chatbot zur Verf\u00fcgung stehen, der jederzeit ansprechbar ist und das Verst\u00e4ndnis der Nutzer:innen weiter erh\u00f6ht. Beibehalten werden k\u00f6nnen Karten, die beim Anklicken mehr Informationen bereitstellen.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Ebenso helfen Schritt-f\u00fcr-Schritt-Anleitungen, um ein Verst\u00e4ndnis daf\u00fcr aufzubauen, aus welchen Gr\u00fcnden ein Drift aufgetreten ist. K\u00f6nnen die Nutzer:innen trotz Hilfestellungen die Ursache der Ver\u00e4nderung nicht beheben, sollte eine Person mit Expertise auf dem Gebiet des maschinellen Lernens hinzugezogen werden.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Minimale-Darstellung-von-Informationen-durch-Rollenverteilung\"><\/span><b>Minimale Darstellung von Informationen durch Rollenverteilung<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Reduzieren Sie die dargestellten Informationen auf ein Minimum, da zu viele Informationen zu Verwirrungen f\u00fchren k\u00f6nnen. Die Option, ein tieferes Verst\u00e4ndnis aufzubauen, sollte jedoch weiterhin verf\u00fcgbar sein. Ein ausgearbeitetes Rollensystem kann dabei Helfen.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Wording-und-textliche-Unterstuetzung\"><\/span><b>Wording und textliche Unterst\u00fctzung<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Eine weitere Schl\u00fcsselerkenntnis ist die Wichtigkeit des Wordings und der textlichen Unterst\u00fctzung. Vermeiden Sie fachspezifische W\u00f6rter wie &#8222;Retraining&#8220;, &#8222;Vorhersagegenauigkeit&#8220;, &#8222;Metriken&#8220; oder langgezogene W\u00f6rter wie &#8222;durchschnittliche \u00d6lqualit\u00e4t vor \u00d6lwechsel&#8220; oder erkl\u00e4ren Sie diese W\u00f6rter in einem vorherigen Onboarding. Die Nutzungstests zeigten, dass sich die Testpersonen verst\u00e4rkt auf die textlichen Hilfen gest\u00fctzt haben. Daher ist das Ausarbeiten von kurzen und pr\u00e4zisen \u00dcberschriften und Erkl\u00e4rungen essenziell.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Einflussfaktoren-auf-das-Modell-darstellen\"><\/span><b>Einflussfaktoren auf das Modell darstellen<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Als n\u00e4chste Schl\u00fcsselerkenntnis ist der Wunsch nach einer \u00dcbersicht \u00fcber alle m\u00f6glichen Einflussfaktoren, die sich auf die Qualit\u00e4t des \u00d6ls auswirken. Um den Nutzer:innen ein besseres Verst\u00e4ndnis f\u00fcr das Modell zu geben, k\u00f6nnen Sie Metriken im Dashboard anzeigen, die aufzeigen, welche Features mit welcher Gewichtung in die Prognosen einflie\u00dfen. Dadurch k\u00f6nnen Nutzer:innen beispielsweise erkennen, dass die Art des Produkts, das in einer Fritteuse frittiert wird, mehr Einfluss auf die \u00d6lqualit\u00e4t hat als die Marke des verwendeten \u00d6ls.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Tagesgeschaeft-einbinden\"><\/span><b>Tagesgesch\u00e4ft einbinden<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Die Einbindung des Tagesgesch\u00e4fts ist essentiell. Die Testpersonen h\u00e4tten gerne gesehen, wie stark sich das Nutzen eines ML-Modells auf das Gesch\u00e4ft auswirkt. Dabei sollte dargestellt werden, wie viel \u00d6l und wie viele Kosten durch die Nutzung des Modells bereits eingespart wurden. Das Bed\u00fcrfnis, eine Best\u00e4tigung zu erhalten, dass die Nutzung des ML-Modells keinen Mehraufwand und keine Mehrkosten verursacht, sondern einen positiven Effekt hat, wurde deutlich. Die Darstellung dieser Metriken kann prominent direkt nach dem \u00d6ffnen des Tools angezeigt werden, um das Vertrauen in das ML-Modell weiter zu st\u00e4rken.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Spielerische-Interaktionen-zur-Verfuegung-stellen\"><\/span><b>Spielerische Interaktionen zur Verf\u00fcgung stellen<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Mehr Interaktion k\u00f6nnte durch spielerische Elemente entstehen. Eine Idee, die w\u00e4hrend eines Nutzungstests aufkam, ist die Darstellung einer virtuellen Fritteuse. Diese Fritteuse soll spielerisch die unterschiedlichen Einflussfaktoren auf das Frittier\u00f6l darstellen. Dies w\u00e4re eine Option, das klassische Liniendiagramm zu ersetzen und sich noch weiter von den Zahlen und Daten zu entfernen. Es beinhaltet eine bildliche Gegen\u00fcberstellung zwischen der Ideal-Fritteuse, die das ML-Modell vorgibt, und der aktuellen Ist-Fritteuse mit den durchschnittlichen Messwerten der \u00d6lqualit\u00e4t, der Darstellung der aktuellen Produkte, die frittiert werden, und der bildlichen Darstellung des aktuell genutzten \u00d6ls. Diese Darstellungsform k\u00f6nnte sowohl in 2D als auch in einer spielerischen 3D-Form angezeigt werden.<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Animationen-der-Diagramme\"><\/span><b>Animationen der Diagramme<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Schlie\u00dflich ist Animation auch ein wichtiger Bestandteil, um mehr Verst\u00e4ndnis zum Thema Monitoring von ML-Modellen aufzubauen. Grunds\u00e4tzlich sollen alle Diagramme interaktiv gestaltet sein oder animiert. Vergleichen Sie beispielsweise den Ist-Zustand mit dem Soll-Zustand, indem Sie beide Werte in einer Animation \u00fcbereinanderlegen.\u00a0<\/span><\/p>\n<h3><span class=\"ez-toc-section\" id=\"Wenige-Einstellungsmoeglichkeiten-zur-Verfuegung-stellen\"><\/span><b>Wenige Einstellungsm\u00f6glichkeiten zur Verf\u00fcgung stellen<\/b><span class=\"ez-toc-section-end\"><\/span><\/h3>\n<p><span style=\"font-weight: 400;\">Die M\u00f6glichkeit, die Ursachen eigenst\u00e4ndig und ohne Hilfestellung zu untersuchen, kann bei Personen ohne ML-Expertise Unmut hervorrufen. Die Ursache sowie die L\u00f6sung des Problems sollen schnell erkennbar sein, ohne dass die Nutzer:innen sie selbstst\u00e4ndig suchen m\u00fcssen.<\/span><\/p>\n<h2><span class=\"ez-toc-section\" id=\"Ausblick\"><\/span><b>Ausblick<\/b><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><span style=\"font-weight: 400;\">Die Erm\u00f6glichung des Monitorings von Drift f\u00fcr Personen ohne ML-Expertise erfordert eine gezielte Ber\u00fccksichtigung grundlegender Aspekte. Denn nicht jeder verf\u00fcgt \u00fcber die Zeit oder das Interesse, sich eingehend mit dem Monitoring zu besch\u00e4ftigen. ML-Modelle werden h\u00e4ufig aus wirtschaftlichen Motiven eingesetzt, was die Ber\u00fccksichtigung wirtschaftlicher Aspekte bei der Gestaltung des Monitorings umso wichtiger macht. Dabei ist es entscheidend, die Nutzer:innen bestm\u00f6glich zu unterst\u00fctzen und sie schrittweise an das Thema Monitoring heranzuf\u00fchren. Komplexe Diagramme sind f\u00fcr viele nicht attraktiv, daher sollten Abweichungen zwischen Prognosen und tats\u00e4chlichen Werten klar erkl\u00e4rt und verst\u00e4ndlich dargestellt werden. Geben Sie anschlie\u00dfend eine geeignete Handlungsempfehlung, zum Beispiel durch einen Retrainings-Button, der die Prognosen an die neuesten Daten anpasst. Ber\u00fccksichtigen Sie dabei auch potenzielle Ver\u00e4nderungen im Arbeits- oder Kaufverhalten. Bei Unklarheiten steht eine Chat-Funktion mit einem Chatbot zur Verf\u00fcgung, und als letzte Instanz kann eine Person mit ML-Expertise hinzugezogen werden.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Die gewonnenen Schl\u00fcsselerkenntnisse sind das Ergebnis einer ersten Designiteration des Prototyps. Weitere Designiterationen und Nutzungstests k\u00f6nnen neue aufschlussreiche Erkenntnisse liefern und erm\u00f6glichen die Anwendung dieser Erkenntnisse auf andere Use Cases.<\/span><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Warum das Monitoring von Machine-Learning-Modellen niederschwelliger gestaltet werden sollte Im Zeitalter der Digitalisierung ist die ku\u0308nstliche Intelligenz (KI) nicht mehr wegzudenken. \u00dcber den privaten Gebrauch hinaus nimmt sie insbesondere in industriellen Prozessen eine zentrale Rolle ein. Maschinelle Lernsysteme (ML), eine spezifische Auspr\u00e4gung der KI, werden branchenu\u0308bergreifend eingesetzt, um Prozesse in Fertigung, Produktion, Gesundheitswesen und weiteren [&hellip;]<\/p>\n","protected":false},"author":423,"featured_media":50902,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"ep_exclude_from_search":false,"footnotes":""},"tags":[509,511,206,225,727,140,1064,131,70],"service":[76,445],"coauthors":[{"id":423,"display_name":"Anouschka Wolf","user_nicename":"awolf"}],"class_list":["post-58066","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","tag-ai-2","tag-artificial-intelligence-2","tag-data-science","tag-data-science-in-production","tag-human-computer-interaction","tag-machine-learning","tag-mlops-2","tag-ui-ux","tag-web","service-artificial-intelligence","service-ui-ux"],"acf":[],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.6 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>Machine Learning Monitoring: \u00dcberwachung ohne Expertenwissen<\/title>\n<meta name=\"description\" content=\"Wir beleuchten, wie Machine Learning Monitoring Tools zuk\u00fcnftig gestaltet sein m\u00fcssen, damit sie auch von Personen ohne ML-Expertise genutzt werden k\u00f6nnen.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Machine Learning Monitoring: \u00dcberwachung ohne Expertenwissen\" \/>\n<meta property=\"og:description\" content=\"Wir beleuchten, wie Machine Learning Monitoring Tools zuk\u00fcnftig gestaltet sein m\u00fcssen, damit sie auch von Personen ohne ML-Expertise genutzt werden k\u00f6nnen.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/\" \/>\n<meta property=\"og:site_name\" content=\"inovex GmbH\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/inovexde\" \/>\n<meta property=\"article:published_time\" content=\"2024-10-02T08:43:55+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1500\" \/>\n\t<meta property=\"og:image:height\" content=\"880\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"Anouschka Wolf\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI-1024x601.png\" \/>\n<meta name=\"twitter:creator\" content=\"@inovexgmbh\" \/>\n<meta name=\"twitter:site\" content=\"@inovexgmbh\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"Anouschka Wolf\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"19\u00a0Minuten\" \/>\n\t<meta name=\"twitter:label3\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data3\" content=\"Anouschka Wolf\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/\"},\"author\":{\"name\":\"Anouschka Wolf\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#\\\/schema\\\/person\\\/d667d3e31e1bd44a09cdf6c391344e75\"},\"headline\":\"Machine Learning Monitoring: Ein Ansatz zur \u00dcberwachung ohne Expertenwissen\",\"datePublished\":\"2024-10-02T08:43:55+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/\"},\"wordCount\":3733,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Blogheader-Human-centered-XAI.png\",\"keywords\":[\"Ai\",\"Artificial Intelligence\",\"Data Science\",\"Data Science in Production\",\"Human-Computer-Interaction\",\"Machine Learning\",\"MLOps\",\"UI\\\/UX\",\"Web\"],\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/\",\"name\":\"Machine Learning Monitoring: \u00dcberwachung ohne Expertenwissen\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Blogheader-Human-centered-XAI.png\",\"datePublished\":\"2024-10-02T08:43:55+00:00\",\"description\":\"Wir beleuchten, wie Machine Learning Monitoring Tools zuk\u00fcnftig gestaltet sein m\u00fcssen, damit sie auch von Personen ohne ML-Expertise genutzt werden k\u00f6nnen.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Blogheader-Human-centered-XAI.png\",\"contentUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Blogheader-Human-centered-XAI.png\",\"width\":1500,\"height\":880,\"caption\":\"Grafische Darstellung eines menschenzentrierten Ansatzes f\u00fcr erkl\u00e4rbare K\u00fcnstliche Intelligenz (XAI). Zu sehen sind ein humanoider Roboter und zwei Personen, die miteinander interagieren. Der Roboter h\u00e4lt ein Dokument, w\u00e4hrend die Personen Fragen stellen. Im Hintergrund sind technische Elemente wie Zahnr\u00e4der und Diagramme abgebildet. Der Hintergrund ist in einem dunklen Blau gehalten.\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Machine Learning Monitoring: Ein Ansatz zur \u00dcberwachung ohne Expertenwissen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#website\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/\",\"name\":\"inovex GmbH\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#organization\",\"name\":\"inovex GmbH\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/2021\\\/03\\\/inovex-logo-16-9-1.png\",\"contentUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/2021\\\/03\\\/inovex-logo-16-9-1.png\",\"width\":1921,\"height\":1081,\"caption\":\"inovex GmbH\"},\"image\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/inovexde\",\"https:\\\/\\\/x.com\\\/inovexgmbh\",\"https:\\\/\\\/www.instagram.com\\\/inovexlife\\\/\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/inovex\",\"https:\\\/\\\/www.youtube.com\\\/channel\\\/UC7r66GT14hROB_RQsQBAQUQ\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#\\\/schema\\\/person\\\/d667d3e31e1bd44a09cdf6c391344e75\",\"name\":\"Anouschka Wolf\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/cropped-Anouschka_Wolf_Profilbild-96x96.pnge37754234742bf05cb3fb7169b9bc3e8\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/cropped-Anouschka_Wolf_Profilbild-96x96.png\",\"contentUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/cropped-Anouschka_Wolf_Profilbild-96x96.png\",\"caption\":\"Anouschka Wolf\"},\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/blog\\\/author\\\/awolf\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Machine Learning Monitoring: \u00dcberwachung ohne Expertenwissen","description":"Wir beleuchten, wie Machine Learning Monitoring Tools zuk\u00fcnftig gestaltet sein m\u00fcssen, damit sie auch von Personen ohne ML-Expertise genutzt werden k\u00f6nnen.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/","og_locale":"de_DE","og_type":"article","og_title":"Machine Learning Monitoring: \u00dcberwachung ohne Expertenwissen","og_description":"Wir beleuchten, wie Machine Learning Monitoring Tools zuk\u00fcnftig gestaltet sein m\u00fcssen, damit sie auch von Personen ohne ML-Expertise genutzt werden k\u00f6nnen.","og_url":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/","og_site_name":"inovex GmbH","article_publisher":"https:\/\/www.facebook.com\/inovexde","article_published_time":"2024-10-02T08:43:55+00:00","og_image":[{"width":1500,"height":880,"url":"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI.png","type":"image\/png"}],"author":"Anouschka Wolf","twitter_card":"summary_large_image","twitter_image":"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI-1024x601.png","twitter_creator":"@inovexgmbh","twitter_site":"@inovexgmbh","twitter_misc":{"Verfasst von":"Anouschka Wolf","Gesch\u00e4tzte Lesezeit":"19\u00a0Minuten","Written by":"Anouschka Wolf"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#article","isPartOf":{"@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/"},"author":{"name":"Anouschka Wolf","@id":"https:\/\/www.inovex.de\/de\/#\/schema\/person\/d667d3e31e1bd44a09cdf6c391344e75"},"headline":"Machine Learning Monitoring: Ein Ansatz zur \u00dcberwachung ohne Expertenwissen","datePublished":"2024-10-02T08:43:55+00:00","mainEntityOfPage":{"@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/"},"wordCount":3733,"commentCount":0,"publisher":{"@id":"https:\/\/www.inovex.de\/de\/#organization"},"image":{"@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#primaryimage"},"thumbnailUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI.png","keywords":["Ai","Artificial Intelligence","Data Science","Data Science in Production","Human-Computer-Interaction","Machine Learning","MLOps","UI\/UX","Web"],"inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/","url":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/","name":"Machine Learning Monitoring: \u00dcberwachung ohne Expertenwissen","isPartOf":{"@id":"https:\/\/www.inovex.de\/de\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#primaryimage"},"image":{"@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#primaryimage"},"thumbnailUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI.png","datePublished":"2024-10-02T08:43:55+00:00","description":"Wir beleuchten, wie Machine Learning Monitoring Tools zuk\u00fcnftig gestaltet sein m\u00fcssen, damit sie auch von Personen ohne ML-Expertise genutzt werden k\u00f6nnen.","breadcrumb":{"@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#primaryimage","url":"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI.png","contentUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/Blogheader-Human-centered-XAI.png","width":1500,"height":880,"caption":"Grafische Darstellung eines menschenzentrierten Ansatzes f\u00fcr erkl\u00e4rbare K\u00fcnstliche Intelligenz (XAI). Zu sehen sind ein humanoider Roboter und zwei Personen, die miteinander interagieren. Der Roboter h\u00e4lt ein Dokument, w\u00e4hrend die Personen Fragen stellen. Im Hintergrund sind technische Elemente wie Zahnr\u00e4der und Diagramme abgebildet. Der Hintergrund ist in einem dunklen Blau gehalten."},{"@type":"BreadcrumbList","@id":"https:\/\/www.inovex.de\/de\/blog\/machine-learning-monitoring-ein-ansatz-zur-ueberwachung-ohne-expertenwissen\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.inovex.de\/de\/"},{"@type":"ListItem","position":2,"name":"Machine Learning Monitoring: Ein Ansatz zur \u00dcberwachung ohne Expertenwissen"}]},{"@type":"WebSite","@id":"https:\/\/www.inovex.de\/de\/#website","url":"https:\/\/www.inovex.de\/de\/","name":"inovex GmbH","description":"","publisher":{"@id":"https:\/\/www.inovex.de\/de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.inovex.de\/de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.inovex.de\/de\/#organization","name":"inovex GmbH","url":"https:\/\/www.inovex.de\/de\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.inovex.de\/de\/#\/schema\/logo\/image\/","url":"https:\/\/www.inovex.de\/wp-content\/uploads\/2021\/03\/inovex-logo-16-9-1.png","contentUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/2021\/03\/inovex-logo-16-9-1.png","width":1921,"height":1081,"caption":"inovex GmbH"},"image":{"@id":"https:\/\/www.inovex.de\/de\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/inovexde","https:\/\/x.com\/inovexgmbh","https:\/\/www.instagram.com\/inovexlife\/","https:\/\/www.linkedin.com\/company\/inovex","https:\/\/www.youtube.com\/channel\/UC7r66GT14hROB_RQsQBAQUQ"]},{"@type":"Person","@id":"https:\/\/www.inovex.de\/de\/#\/schema\/person\/d667d3e31e1bd44a09cdf6c391344e75","name":"Anouschka Wolf","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.inovex.de\/wp-content\/uploads\/cropped-Anouschka_Wolf_Profilbild-96x96.pnge37754234742bf05cb3fb7169b9bc3e8","url":"https:\/\/www.inovex.de\/wp-content\/uploads\/cropped-Anouschka_Wolf_Profilbild-96x96.png","contentUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/cropped-Anouschka_Wolf_Profilbild-96x96.png","caption":"Anouschka Wolf"},"url":"https:\/\/www.inovex.de\/de\/blog\/author\/awolf\/"}]}},"_links":{"self":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/posts\/58066","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/users\/423"}],"replies":[{"embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/comments?post=58066"}],"version-history":[{"count":5,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/posts\/58066\/revisions"}],"predecessor-version":[{"id":58597,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/posts\/58066\/revisions\/58597"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/media\/50902"}],"wp:attachment":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/media?parent=58066"}],"wp:term":[{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/tags?post=58066"},{"taxonomy":"service","embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/service?post=58066"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/coauthors?post=58066"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}