GenAI-Applikation für den Shopfloor

Als Innovationsinkubator greifen wir disruptive Technologien frühzeitig auf und matchen sie mit wertschöpfenden Anwendungsfällen. Die Potenziale von Large Language Modellen und komplementären Methoden haben wir für die Entwicklung eines KI-Chatbots in enger Zusammenarbeit mit Siemens, Accenture und Volkswagen genutzt, um Shopfloor-Mitarbeitende beim effizienten Umgang mit technischen Dokumentationen und Betriebshandbüchern zu unterstützen.

Live in Aktion: KI-Chatbot in der Produktion

Die Vorteile des KI-Chatbots

Expertenwissen auf Knopfdruck

Schnellere Fehlerbehebung

Effizientere Kommunikation

Upskilling von Shopfloor-Mitarbeitenden

Der Weg zum unternehmenseigenen KI-Chatbot

Die Herausforderung

Die technische Umsetzung eines KI-Chatbots erfordert die Entwicklung einer KI-Architektur, in der LLMs, interne Daten und KI-Tools effizient integriert und aufeinander abgestimmt werden müssen. Angesichts der real zunehmenden Gefahr von Cyberangriffen auf KI-Systeme ist ein umfassender Schutz unerlässlich. Zudem muss die zugrunde liegende Wissensbasis datenschutzkonform nutzbar sein, während potenzielle Risiken durch KI-generierte Fehlinformationen erkannt, minimiert und aktiv gesteuert werden müssen.

Die Umsetzung

Für die Einhaltung datenschutzrechtlicher Vorgaben und notwendigen Sicherheitsvorkehrungen müssen zunächst die Vorgaben des EU-AI Acts eingehalten werden. Für die technische KI-Infrastruktur musste das geeignete LLM identifiziert werden. Für die Zusammenführung der internen Daten und der dialogbasierten Fähigkeiten des LLMS wurde ein agentenbasierter RAG-Ansatz gewählt. Um falsche Antworten so weit wie möglich zu reduzieren, ist es notwendig, eine gut kuratierte und mit Metadaten angereicherte Wissensbasis aufzubauen. Der RAG-Ansatz stellt eine effiziente Alternative zum LLM-Finetuning dar, um relevante Daten für korrekte Antworten zu identifizieren, wobei mit dem Retrieval Augmented Fine Tuning neue Möglichkeiten für domänenspezifische LLM-Anwendungen auf uns zukommen.

Das Ergebnis

Mit den vorhandenen Technologien und methodischen Maßnahmen konnte innerhalb weniger Monate ein KI-Chatbot entwickelt werden, der im gegenseitigen Austausch mit Nutzern valide Expertenauskünfte geben kann. Die “Best-of-Breed” KI-Chatbot-Architektur lässt sich durch die Anbindung externer Datenbanken flexibel skalieren und mit zusätzlichen Informationen anreichern. Durch einen selbstständigen Zugriff auf Datenbanken ermöglicht die agentische KI eine interaktive, systemübergreifende Wissensverarbeitung. Zwar können KI-Agenten in Produktionsumgebungen nur sehr kontrolliert eingesetzt werden, bieten aber einen erheblichen Mehrwert, wenn es darum geht, die Einsatzmöglichkeiten von KI zu erweitern und die Grenzen von RAG zu überwinden.

Wie funktionieren KI-Agenten-Architekturen?

Was unsere Kunden sagen

“Der Einsatz eines GenAI ChatBot in der Instandhaltung steigert die Effizienz, reduziert Ausfallzeiten und verbessert die Entscheidungsfindung. Er bietet sofortigen Zugriff auf Anleitungen zur Fehlerbehebung, Einblicke in die vorausschauende Wartung und Echtzeit-Support, sodass Techniker Probleme schneller lösen können. Durch die Automatisierung von Routineabfragen und –dokumentation setzt ein GenAI ChatBot auch wertvolle Personalressourcen frei und sorgt so für einen strafferen und kosteneffizienteren Wartungsablauf. ”

João Batata, Technical Manager Body Business Area (AGFKT) | Volkswagen Auto Europa

Quick Win: KI-Chatbots in der Produktion