Unser Kollege Sebastian stellt bei dem Elastic Meetup in unserem Münchner Office einen domänenspezifischen Chatbot vor, der es den Nutzer:innen ermöglicht, sich mit technischen Inhalten und Dokumenten zu unterhalten. Er berichtet darüber, wie wir Elasticsearch als Dokumentenspeicher und Vektordatenbank und Haystack als hilfreiches Framework für die Interaktion mit großen Sprachmodellen (LLMs) verschiedener Arten verwenden – seien es selbst gehostete Open-Source-Modelle oder proprietärer Modelle wie die GPT-Modelle von OpenAI. Außerdem werden Prompt-Engineering und Herausforderungen bei der Arbeit mit LLMs, wie begrenzte Kontextgröße oder das Risiko von Halluzinationen, diskutiert.
Agenda:
18.00: Ankunft
18.30: Vortrag: Talk to your Documents: Building an LLM-based Assistant with Elasticsearch and Haystack (Sebastian Blank – Head of Natural Language Processing @ inovex)
19.15: Pause mit Essen und Gesprächen
19.45: Vortrag: Generative AI search with secure access to private data sources, powered by Elastic Connectors (Tim Grein – Sr. Software Engineer @ Elastic)
20.30: Abschluss und Zeit für weitere Gespräche bei Pizza und Getränken