Кейс · Інфраструктура, експлуатація, ШІ

Анонімізовано, як і всі наші кейси

Мовний ШІ без хмарного провайдера.

Для аналізу дзвінків за допомогою штучного інтелекту на нашій сервісній платформі ми експлуатуємо власну ШІ-інфраструктуру: розпізнавання мовлення, часові мітки слів і мовна модель працюють на GPU-сервері в дата-центрі в Німеччині. Жоден дзвінок не залишає наших систем.

Застосування

ШІ-аналіз дзвінків

Послуги

Інфраструктура, експлуатація, оптимізація

Розташування

Дата-центр у Німеччині

Обладнання

1 GPU-сервер, 20 GB пам’яті GPU

Працює з

2026

Виміряно, а не на око.

Відтоді як сервіс часових міток працює на GPU, аналіз трихвилинного дзвінка триває приблизно 47 секунд замість 80. Кожен сервіс має фіксовану частку пам’яті GPU.

Як побудовано платформу.

  1. Шлюз Усі запити проходять через шлюз, зашифровано й лише після входу в систему.
  2. Розпізнавання мовлення Модель розпізнавання мовлення транскрибує кожен дзвінок.
  3. Часові мітки Друга модель ставить часову мітку кожному слову, безпосередньо на GPU.
  4. Мовна модель Локальна мовна модель розподіляє репліки між мовцями, підсумовує й виявляє сигнали.
  5. Експлуатація Усі сервіси працюють у контейнерах, з моніторингом і можливістю відкату для кожної зміни.

≈ 47 s

Аналіз 3-хвилинного дзвінка, раніше близько 80 секунд

14×

швидше: часові мітки слів за 2,1 замість 29,7 секунди

20 GB

пам’яті GPU, фіксовано розподілені між трьома ШІ-сервісами

0

зовнішніх ШІ-сервісів, усі дані залишаються в Німеччині

У чому різниця.

Дані залишаються в Німеччині

Записи й результати не залишають нашої інфраструктури. Жоден хмарний провайдер не має до них доступу.

Вимірювати, а не вгадувати

Кожну оптимізацію ми підтверджуємо вимірюваннями для кожного кроку обробки, до і після.

Ресурси під контролем

Пам’ять GPU сплановано для кожного сервісу окремо. Ми знаємо, скільки резерву залишається.

Відкат передбачено

Кожна зміна має задокументований шлях відкату. Так система працює стабільно.

Сертифікований захист даних і безпека

Уповноважений із захисту даних (IHK)

Уповноважений з інформаційної безпеки (TÜV)

Achim Groeling, керуючий директор

На чому побудовано

  • Linux
  • Docker Compose
  • NGINX
  • NVIDIA GPU (20 GB)
  • CUDA
  • vLLM
  • llama.cpp
  • Qwen3-ASR
  • Qwen3-ForcedAligner
  • FastAPI

Де ваш ШІ має працювати?

Під час першої розмови ми з’ясуємо, що підходить саме вам: наші сервери, дата-центр на ваш вибір чи ваше власне обладнання.

Домовитися про першу розмову