{"id":32495,"date":"2021-10-26T13:05:51","date_gmt":"2021-10-26T12:05:51","guid":{"rendered":"https:\/\/www.inovex.de\/?post_type=events&p=32495"},"modified":"2021-10-26T13:05:51","modified_gmt":"2021-10-26T12:05:51","slug":"online-meetup-biases-in-ai","status":"publish","type":"events","link":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/","title":{"rendered":"[Online Meetup] Biases in AI"},"content":{"rendered":"

Hey Tech Heads,<\/span><\/p>\n

in diesem Meetup stellen euch Angelie Kraft und Eva Engel vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.<\/span><\/p>\n

Die Forschung im Bereich der k\u00fcnstlichen Intelligenz (KI) hat in den letzten Jahren Modelle hervorgebracht, die z.B. in der Lage sind, flie\u00dfende, prosaische Texte zu generieren. Ihre atemberaubenden F\u00e4higkeiten erlangen diese Modelle unter anderem, weil sie auf enormen Datenmengen trainiert werden. Diese Daten bestehen aus Konversationen, Blogbeitr\u00e4gen, News und anderen Inhalten, die aus dem Internet ausgelesen werden. Leider spiegeln diese Inhalte jedoch auch unerw\u00fcnschte Aspekte des menschlichen Diskurses wider, wie z. B. Rassismen und Sexismen. In der Folge k\u00f6nnen auch in den Modellen selbst Stereotype und sogenannte <\/span>\u201e<\/span>Biases<\/span>\u201c<\/span> nachgewiesen werden. Eine aktuelle Analyse hat gezeigt, dass sich dieser Trend fortsetzt und auch gro\u00dfe multimodale Datens\u00e4tze (Bild + Text) degradierende Attributionen zum Inhalt haben. K\u00fcnstliche Intelligenzen werden zunehmend Teil unseres Alltags werden. Wir werden mit ihnen interagieren und sie werden uns Entscheidungen abnehmen. Unfaire Modelle k\u00f6nnen also im schlimmsten Fall zu bereits existierenden Diskriminierungen beitragen und diese aufrechterhalten.<\/span><\/p>\n

Bias in Recommender-Systemen<\/b><\/p>\n

Wenn wir ein Web-System nutzen, werden wir in der Regel von einem Recommender-System unterst\u00fctzt. Ob Produkte bei Amazon, Reels bei Instagram oder Filme bei Netflix \u2013 jedes Item wird vom Recommender-System gezielt ausgew\u00e4hlt und uns angezeigt. Dabei bestimmt das System relevante Items, die haupts\u00e4chlich auf vorherigem Feedback basieren. Benutzerinteraktionen deuten auf Pr\u00e4ferenzen hin und werden zur Erstellung von Empfehlungen genutzt. Mit diesen Empfehlungen interagieren wir, wodurch erneut Feedback Daten generiert werden.<\/span><\/p>\n

In dieser Feedback-Schleife entstehen jedoch Biases. Neben der gesellschaftlichen als auch unserer pers\u00f6nlichen Befangenheit stehen Recommender-Systeme vor weiteren Herausforderungen, in denen die Daten, der Algorithmus oder die Benutzerinteraktionen verzerrt sein k\u00f6nnen. Der Popularity Bias zum Beispiel beschreibt die Situation, dass das System beliebte Items aufgrund des \u00fcberm\u00e4\u00dfigen Feedbacks als relevanter einstuft. Unbeliebte oder lediglich neue Items werden demnach weniger empfohlen und bleiben ungesehen. Dieser Zustand hebt eine grundlegende Herausforderung von Recommender-Systemen hervor: Nutzende k\u00f6nnen nur mit den Items interagieren, die sie sehen k\u00f6nnen. Das hei\u00dft, dass Recommender-Systeme den Nutzenden eine begrenzte Anzahl an Items zur Verf\u00fcgung stellen, aus denen sie dann die Pr\u00e4ferenzen ableiten. Dieser Presentation oder auch Exposure Bias steht im Zusammenhang mit den bekannten Problemen der Filter Bubble und dem Echo Chamber Effekt.<\/span><\/p>\n

Recommender-Systeme sind eine unersetzliche Unterst\u00fctzung, die verhindert, dass die Nutzenden mit Informationen \u00fcbersch\u00fcttet werden. Sie haben einen direkten \u2013 von manchen Nutzenden vielleicht nicht bewusst wahrgenommenen \u2013 Einfluss. Deswegen ist es wichtig, dass die Empfehlungen trotz der Biases weiterhin fair und divers bleiben. Das wird erreicht, indem Biases zun\u00e4chst identifiziert und anschlie\u00dfend durch Ver\u00e4nderungen der Implementierung, Bereinigung der Daten oder anderer Strategien verringert werden.<\/span><\/p>\n

Im Anschluss an die Vortr\u00e4ge ist ausreichend Zeit f\u00fcr eure Fragen eingeplant.<\/span><\/p>\n

Infos und Anmeldung:<\/strong><\/p>\n

Das Meetup wird in deutscher Sprache durchgef\u00fchrt.<\/p>\n

Anmeldung bitte \u00fcber eine unserer Meetup-Seiten oder unter\u00a0meetups@inovex.de<\/a><\/p>\n

inovex Meetup Karlsruhe<\/a><\/p>\n

inovex Meetup M\u00fcnchen<\/a><\/p>\n

inovex Meetup K\u00f6ln<\/a><\/p>\n

inovex Meetup Hamburg<\/a><\/p>\n

Wir freuen uns auf euch!<\/p>\n

Zur Durchf\u00fchrung des Online Meetups verwenden wir \u201eZoom\u201c. Hinweise zur Datenverarbeitung findet ihr unter https:\/\/www.inovex.de\/de\/datenschutz\/<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.<\/p>\n","protected":false},"featured_media":32497,"parent":0,"template":"","events_types":[441],"service":[],"class_list":["post-32495","events","type-events","status-publish","has-post-thumbnail","hentry","events_types-meetup"],"acf":{"start_date":"20211116","finish_date":"20211116","time":"12:00:00","finish_time":"13:00:00","location":"Online","organizer":"inovex","file":"","hubspot_signups":false,"hubspot_signups_text":"","add_speakers":false,"speakers_headline":"Speaker:innen","speakers":null,"contact":null,"contact_heading":"","contact_text":""},"yoast_head":"\n[Online Meetup] Biases in AI - inovex GmbH<\/title>\n<meta name=\"description\" content=\"In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"[Online Meetup] Biases in AI - inovex GmbH\" \/>\n<meta property=\"og:description\" content=\"In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/\" \/>\n<meta property=\"og:site_name\" content=\"inovex GmbH\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/inovexde\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI.png\" \/>\n\t<meta property=\"og:image:width\" content=\"1920\" \/>\n\t<meta property=\"og:image:height\" content=\"1080\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI-1024x576.png\" \/>\n<meta name=\"twitter:site\" content=\"@inovexgmbh\" \/>\n<meta name=\"twitter:label1\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data1\" content=\"3\u00a0Minuten\" \/>\n\t<meta name=\"twitter:label2\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data2\" content=\"Daniela Nebeling\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/\",\"name\":\"[Online Meetup] Biases in AI - inovex GmbH\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Bias_AI.png\",\"datePublished\":\"2021-10-26T12:05:51+00:00\",\"description\":\"In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/#primaryimage\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Bias_AI.png\",\"contentUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/Bias_AI.png\",\"width\":1920,\"height\":1080,\"caption\":\"Gehirn Verbindungspunkte\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/online-meetup-biases-in-ai\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Events\",\"item\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/news-events\\\/events\\\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"[Online Meetup] Biases in AI\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#website\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/\",\"name\":\"inovex GmbH\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#organization\",\"name\":\"inovex GmbH\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/2021\\\/03\\\/inovex-logo-16-9-1.png\",\"contentUrl\":\"https:\\\/\\\/www.inovex.de\\\/wp-content\\\/uploads\\\/2021\\\/03\\\/inovex-logo-16-9-1.png\",\"width\":1921,\"height\":1081,\"caption\":\"inovex GmbH\"},\"image\":{\"@id\":\"https:\\\/\\\/www.inovex.de\\\/de\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/www.facebook.com\\\/inovexde\",\"https:\\\/\\\/x.com\\\/inovexgmbh\",\"https:\\\/\\\/www.instagram.com\\\/inovexlife\\\/\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/inovex\",\"https:\\\/\\\/www.youtube.com\\\/channel\\\/UC7r66GT14hROB_RQsQBAQUQ\"]}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"[Online Meetup] Biases in AI - inovex GmbH","description":"In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/","og_locale":"de_DE","og_type":"article","og_title":"[Online Meetup] Biases in AI - inovex GmbH","og_description":"In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.","og_url":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/","og_site_name":"inovex GmbH","article_publisher":"https:\/\/www.facebook.com\/inovexde","og_image":[{"width":1920,"height":1080,"url":"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI.png","type":"image\/png"}],"twitter_card":"summary_large_image","twitter_image":"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI-1024x576.png","twitter_site":"@inovexgmbh","twitter_misc":{"Gesch\u00e4tzte Lesezeit":"3\u00a0Minuten","Written by":"Daniela Nebeling"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/","url":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/","name":"[Online Meetup] Biases in AI - inovex GmbH","isPartOf":{"@id":"https:\/\/www.inovex.de\/de\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/#primaryimage"},"image":{"@id":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI.png","datePublished":"2021-10-26T12:05:51+00:00","description":"In diesem Meetup stellen wir euch vor, wie es im Bereich der k\u00fcnstlichen Intelligenz und speziell bei Recommender-Systemen zu Biases kommen kann.","breadcrumb":{"@id":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/#primaryimage","url":"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI.png","contentUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/Bias_AI.png","width":1920,"height":1080,"caption":"Gehirn Verbindungspunkte"},{"@type":"BreadcrumbList","@id":"https:\/\/www.inovex.de\/de\/news-events\/events\/online-meetup-biases-in-ai\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.inovex.de\/de\/"},{"@type":"ListItem","position":2,"name":"Events","item":"https:\/\/www.inovex.de\/de\/news-events\/events\/"},{"@type":"ListItem","position":3,"name":"[Online Meetup] Biases in AI"}]},{"@type":"WebSite","@id":"https:\/\/www.inovex.de\/de\/#website","url":"https:\/\/www.inovex.de\/de\/","name":"inovex GmbH","description":"","publisher":{"@id":"https:\/\/www.inovex.de\/de\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.inovex.de\/de\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.inovex.de\/de\/#organization","name":"inovex GmbH","url":"https:\/\/www.inovex.de\/de\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.inovex.de\/de\/#\/schema\/logo\/image\/","url":"https:\/\/www.inovex.de\/wp-content\/uploads\/2021\/03\/inovex-logo-16-9-1.png","contentUrl":"https:\/\/www.inovex.de\/wp-content\/uploads\/2021\/03\/inovex-logo-16-9-1.png","width":1921,"height":1081,"caption":"inovex GmbH"},"image":{"@id":"https:\/\/www.inovex.de\/de\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/inovexde","https:\/\/x.com\/inovexgmbh","https:\/\/www.instagram.com\/inovexlife\/","https:\/\/www.linkedin.com\/company\/inovex","https:\/\/www.youtube.com\/channel\/UC7r66GT14hROB_RQsQBAQUQ"]}]}},"_links":{"self":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/events\/32495","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/events"}],"about":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/types\/events"}],"version-history":[{"count":5,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/events\/32495\/revisions"}],"predecessor-version":[{"id":32503,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/events\/32495\/revisions\/32503"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/media\/32497"}],"wp:attachment":[{"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/media?parent=32495"}],"wp:term":[{"taxonomy":"events_types","embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/events_types?post=32495"},{"taxonomy":"service","embeddable":true,"href":"https:\/\/www.inovex.de\/de\/wp-json\/wp\/v2\/service?post=32495"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}