Wie komme ich vom GenAI Hype zum sicheren produktiven Einsatz, Raiko Mesterheide?
In diesem Podcast spricht Björn Brundert mit Raiko Mesterheide, Client Strategist bei VMware, über den Architekturansatz "Private AI" sowie wie Unternehmen Künstliche Intelligenz (KI) in ihre IT-Infrastruktur implementieren und mit den Sicherheits- und Compliance-Anforderungen in Einklang bringen können. Zeitstempel: 01:16 - Vorstellung Raiko Mesterheide und persönliche Ausbildung rund um Künstliche Intelligenz 04:03 - Privacy: Datensicherheit und Datenschutz 09:15 - Choice: Sehr hohe Innovationsgeschwindigkeit im AI-Ökosystem 12:24 - Parallelen zum “Cloud Hype” und “Flut hebt alle Boote” 14:09 - Neue Foundational und Large-Language-Modelle 18:48 - Open Source und AI: Wichtigkeit von Daten, MLOps, Frameworks & Co. 23:15 - Was ist eigentlich ein “Modell” und wo bekomme ich das her? 30:28 - Was sind die Infrastrukturanforderungen für die Ausführung eines Modells? 32:17 - Wie kann ich ein Modell mit meinen Daten nutzen? Fine-Tuning oder Retrieval Augmented Generation (RAG)? 40:36 - Daten vektorisieren - wie bekomme ich die Daten in eine Vektordatenbank? 42:29 - Wie stelle ich eine AI Applikation sicher zur Verfügung? 46:07 - Wie stelle ich eine Infrastruktur für AI zur Verfügung? Was hat VMware im Portfolio? Private AI Referenzarchitektur, Partnerschaften mit NVIDIA, Intel, IBM, Kyndryl 49:40 - Zusammenfassung Ein VMware by Broadcom Podcast