‍

Zusammenfassung

Durch die KI-gestützte Automatisierung zentraler Schritte in der Ticketbearbeitung spart unser Kunde, ein deutscher IT-Hosting-Mittelständler, ab sofort 10 Minuten Bearbeitungszeit pro Ticket. Damit wird der Kundenservice entlastet, ohne Kompromisse beim Datenschutz.

‍

Ausgangslage und Aufgabe

Unser Kunde, ein mittelständisches IT-Hosting-Unternehmen mit 50 bis 100 Mitarbeitern, bearbeitet täglich rund 100 Text-basierte Kundenanfragen – bei technischen Problemen oder besonderen Events auch deutlich mehr.

Jede Anfrage musste bisher manuell strukturiert, zusammengefasst, gelöst und beantwortet werden. Ziel war es, diese Schritte durch den Einsatz von Künstlicher Intelligenz (KI) weitgehend zu automatisieren, um Bearbeitungszeit zu sparen und die Effizienz zu steigern.

Dabei stellte der Kunde besondere Anforderungen an den Datenschutz: Alle Daten und Systeme mussten lokal auf eigenen Servern betrieben werden. Modelle durften ausschließlich auf Open-Source-Technologien basieren.

Unsere Herangehensweise

1. Frühzeitige Validierung
   • Um den Invest für den Kunden minimal zu halten und frühzeitig Gewissheit über die Machbarkeit der KI-Automatisierung zu erlangen, haben wir in einem Validierungsschritt mit 5-10 ausgewählten Fällen aus dem Ticket-System geprüft, ob und mit welchem Aufwand die KI-Lösung realisierbar ist
   • Dieser Schritt wurde manuell durchgeführt, um technische und inhaltliche Risiken so früh wie möglich zu identifizieren
2. Proof of Concept (PoC)
   • Nach der erfolgreichen Validierung erfolgte die Systemanbindung und der Aufbau des PoC
   • Schnelle Integration mit dem bestehenden Ticketing System zur Bearbeitung von Test-Tickets aus den relevanten Queues
   • Prüfung und Validierung verschiedener OpenSource LLM-Setups sowie Retrieval-Techniken mit einer lokalen Knowledge DB
3. Iterative Optimierung
   • Anpassung des Retrieval-Prozesses: Ursprünglich geplante Vektordatenbanken reichten für komplexe Anfragen nicht aus. Wir haben daraufhin ein Retrieval mit LLM-Filterung integriert, was die Performance erheblich steigerte
4. Produktivstellung
   • Modularer Aufbau der Lösung als Service-Architektur
   • Entwicklung eines Frontends zur Pflege der Knowledge-DB sowie Einführung eines pragmatischen Rollen- und Rechtesystems

Ergebnis

• Automatisierung
  • 2 Schritte (Strukturierung und Zusammenfassung) vollständig automatisiert
  • 2 weitere Schritte (Problemlösung und Antwort) teil-automatisiert
  • Nahtlose Integration ins bestehende Ticketing System, ohne Workflow-Änderung für die Mitarbeiter

• Effizienzsteigerung
  • Zeitersparnis von 10 Minuten pro Ticket – entspricht etwa 5 Euro pro Anfrage
  • Mehr Fokus auf komplexe Anfragen und bessere Arbeitsbedingungen für die Mitarbeiter
• Technologie
  • Einsatz eines lokal gehosteten Llama-Modells und einer individuellen Retrieval-Lösung auf Basis von Open-Source-Technologien
  • Kein Datenfluss außerhalb der eigenen Infrastruktur – Datenschutz vollständig gewährleistet
• Feedback des Kunden‍

Unser Ziel war nie, Mitarbeiter zu ersetzen, sondern sie zu entlasten. Genau das haben wir durch das KI-Setup geschafft: Mehr Speed und mehr Fokus für unsere Agenten.

‍

Projektdauer und Team

• Dauer: 4 Wochen
  • Woche 1: Manuelle Validierung und Machbarkeitsprüfung anhand von 5-10 Fällen
  • Woche 2: Aufbau und Umsetzung des Proof of Concept
  • Woche 3: Testing, Optimierung und Erweiterung
  • Woche 4: Finalisierung, Frontend-Entwicklung und Sicherheitschecks
• Team: 
  • 2 Experten von Blue Avenir: ein erfahrener AI Engineer und ein technischer Projektmanager
  • Enge Zusammenarbeit mit dem Kundenservice-Verantwortlichen des Kunden für schnelle Abstimmungen und maximale Effizienz

Langfristige Vorteile

• Skalierbare Automatisierung für steigende Ticketvolumen
• Flexibilität zur Erweiterung auf weitere Anwendungsfälle (z. B. Chatbot-Integration)