Use Case · Infrastruktur, Betrieb, KI

Anonymisiert, wie alle unsere Use Cases

Sprach-KI ohne Cloud-Anbieter.

Für die KI-Anrufanalyse unserer Service-Plattform betreiben wir eine eigene KI-Infrastruktur: Spracherkennung, Wort-Zeitstempel und Sprachmodell laufen auf einem GPU-Server in einem Rechenzentrum in Deutschland. Kein Anruf verlässt unsere Systeme.

Einsatz

KI-Anrufanalyse

Leistungen

Infrastruktur, Betrieb, Optimierung

Standort

Rechenzentrum in Deutschland

Hardware

1 GPU-Server, 20 GB Grafikspeicher

Seit

2026

Gemessen, nicht geschätzt.

Seit der Zeitstempel-Dienst auf der GPU läuft, dauert die Analyse eines dreiminütigen Anrufs rund 47 statt 80 Sekunden. Jeder Dienst hat seinen festen Anteil am Grafikspeicher.

So ist die Plattform aufgebaut.

  1. Gateway Alle Anfragen laufen verschlüsselt über ein Gateway, nur mit Anmeldung.
  2. Spracherkennung Ein Spracherkennungsmodell schreibt jeden Anruf mit.
  3. Zeitstempel Ein zweites Modell setzt für jedes Wort einen Zeitstempel, direkt auf der GPU.
  4. Sprachmodell Ein lokales Sprachmodell ordnet Sätze zu, fasst zusammen und erkennt Signale.
  5. Betrieb Alle Dienste laufen in Containern, mit Monitoring und Rückweg für jede Änderung.

≈ 47 s

Analyse eines 3-Minuten-Anrufs, vorher rund 80 Sekunden

14×

schneller: Wort-Zeitstempel in 2,1 statt 29,7 Sekunden

20 GB

Grafikspeicher, fest aufgeteilt auf drei KI-Dienste

0

externe KI-Dienste, alle Daten bleiben in Deutschland

Was den Unterschied macht.

Daten bleiben in Deutschland

Aufnahmen und Ergebnisse verlassen unsere Infrastruktur nicht. Kein Cloud-Anbieter liest mit.

Messen statt raten

Jede Optimierung belegen wir mit Messwerten pro Arbeitsschritt, vorher und nachher.

Ressourcen im Blick

Der Grafikspeicher ist pro Dienst geplant. Wir wissen, wie viel Reserve bleibt.

Rückweg eingeplant

Jede Änderung hat einen dokumentierten Rückweg. So bleibt der Betrieb stabil.

Datenschutz und Sicherheit mit Zertifikat

Datenschutzbeauftragter (IHK)

Informationssicherheitsbeauftragter (TÜV)

Achim Groeling, Geschäftsführer

Womit wir gebaut haben

  • Linux
  • Docker Compose
  • NGINX
  • NVIDIA GPU (20 GB)
  • CUDA
  • vLLM
  • llama.cpp
  • Qwen3-ASR
  • Qwen3-ForcedAligner
  • FastAPI

Wo soll Ihre KI laufen?

Im Erstgespräch klären wir, ob unsere Server, ein Rechenzentrum Ihrer Wahl oder Ihre eigene Hardware passt.

Erstgespräch vereinbaren