Перейти к содержимому

Кейс · Серверы и СХД

Серверы для платформы видеоконференций и записи лекций, Санкт-Петербург

Построили on-premise Jitsi Meet для СПб университета: 2 JVB-сервера Xeon с AVX-512, NVIDIA A2 для транскодирования, ZFS-архив лекций. Окупаемость 12 месяцев, экономия 13%.

0
позиций в поставке
0
дней до поставки
0%
экономия клиента
0
сумма проекта, ₽

Коротко о проекте

Что поставили

Сервер JVB 2U Xeon Gold 6414U, 256 ГБ DDR5 ECC, 2×NVMe 1.92 ТБ RAID-1, 2×25 GbE2 шт.
Сервер транскодирования 2U, Xeon W5-3445, 128 ГБ DDR5, NVIDIA A2 16 ГБ, 2×10 GbE1 шт.
Сервер хранения 4U 24×LFF, 2×Xeon Silver, 128 ГБ DDR4 ECC, 24×HDD 8 ТБ SATA, 2×10 GbE1 шт.
Коммутатор 25 GbE 16-port1 шт.
ИБП 1 кВА он-лайн с SNMP4 шт.

Санкт-Петербургский университет с 35 000 студентов в период пандемии быстро перевёл обучение в онлайн, используя внешние облачные сервисы видеоконференций. После окончания пандемии анализ затрат показал: расходы на облачные видеосервисы составляли 3,8 млн рублей в год. Помимо финансового вопроса, внешние сервисы создавали проблемы: данные студентов передавались на иностранные серверы, ограничения по одновременным участникам конференции не соответствовали масштабу поточных лекций (до 800 участников), интеграция с корпоративной LMS (Moodle) была неполной. Принято решение развернуть собственную инфраструктуру видеоконференций на базе Jitsi Meet и streaming-сервера для записи лекций на базе open-source платформы.

Задача клиента

Сервер видеоконференций Jitsi Meet: одновременно 50 конференций по 30 участников или 5 поточных лекций по 300 участников. Сервер записи и стриминга: захват видео лекций в реальном времени, транскодирование в 3 качества (1080p/720p/360p), хранение архива записей за 3 года (около 120 ТБ). 10 GbE к интернету и к корпоративной сети. Бюджет — 4,2 млн рублей. Интеграция с Moodle через LTI 1.3.

Ограничения и требованияЧто предложили

Два JVB-сервера (Jitsi Videobridge) с процессорами Intel Xeon Gold 6414U (32 ядра, 2,0 ГГц base, поддержка AVX-512): AVX-512 инструкции ускоряют операции VP8/VP9 обработки медиапотоков на 35–50% по сравнению с процессорами без AVX-512 поддержки. Два JVB-сервера обеспечивают распределение нагрузки медиапотоков и отказоустойчивость: при выходе из строя одного JVB новые конференции начинаются на втором, активные конференции переключаются с минутным перерывом. Оперативная память 256 ГБ DDR5: JVB хранит медиа-буферы активных участников в памяти, каждый HD-участник занимает около 40–60 МБ.

Сервер транскодирования с Intel Xeon W5-3445 и дискретной видеокартой NVIDIA A2 16 ГБ (профессиональная карта с аппаратными кодеками H.264/H.265/AV1): аппаратное транскодирование FFmpeg через NVENC позволяет кодировать 12–16 потоков 1080p одновременно при минимальной загрузке CPU. Это ключевой выбор для записи лекций: без GPU-ускорения транскодирование 5 поточных лекций в 3 качества (15 потоков) нагружало бы CPU сервера на 85–90%, не оставляя ресурсов для других задач.

Сервер хранения архива лекций: 4U с 24 отсеками LFF, 24×HDD 8 ТБ SATA в RAID-6 = 176 ТБ полезных — с запасом на 3+ года роста архива. Файловая система ZFS с ZSTD-сжатием: видеофайлы лекций в формате MP4 (уже сжаты) не дедуплицируются, но ZFS обеспечивает контрольные суммы каждого блока и автоматическое исправление ошибок чтения через RAID-Z2 (аналог RAID-6). Для архива, который будет использоваться 3–5 лет, целостность данных важнее скорости доступа.

Интеграция с Moodle через LTI 1.3 позволяет преподавателю запускать конференцию Jitsi Meet прямо из курса Moodle, студенты авторизуются через SSO университета (Active Directory + Keycloak). Запись лекции автоматически прикрепляется к курсу Moodle после завершения транскодирования — без ручных действий преподавателя. Уведомление студентам приходит через систему уведомлений Moodle о доступности записи: в среднем запись готова через 25–40 минут после окончания лекции.

Масштабирование Jitsi Meet через несколько JVB-узлов (Jitsi Videobridge) требует правильной настройки OCTO (Octo — протокол каскадирования): при более чем 200 участниках одной конференции JVB начинает каскадировать медиапотоки между узлами, что требует быстрого 25 GbE interconnect. Для университетских поточных лекций с 300–400 участниками каскадирование активируется для каждой такой лекции. Два JVB-узла с 25 GbE интерконнектом справляются с 5 одновременными поточными лекциями с запасом. При росте числа одновременных лекций архитектура масштабируется горизонтально: третий JVB-узел той же конфигурации добавляется в кластер без остановки сервиса за 30 минут.

Запись лекций организована через Jibri (Jitsi Broadcasting Infrastructure): отдельный процесс на сервере транскодирования «присоединяется» к конференции как скрытый участник, захватывает аудио/видео через виртуальный дисплей и передаёт в FFmpeg для транскодирования. Каждый экземпляр Jibri может записывать одну конференцию: для записи 5 одновременных лекций запущено 5 параллельных экземпляров Jibri. GPU NVIDIA A2 с поддержкой 12 одновременных NVENC-сессий обрабатывает все 5 потоков в трёх качествах (15 NVENC-сессий) при загрузке GPU 60–70%. Оставшийся ресурс GPU используется для трансляции в реальном времени: liveStream-режим Jibri транслирует лекцию на внутренний RTMP-сервер, откуда студенты могут смотреть без задержки через HLS-плеер в Moodle.

Безопасность платформы соответствует требованиям ФЗ-152 для обработки персональных данных студентов: Jitsi Meet развёрнут за обратным прокси с TLS 1.3, DTLS-SRTP шифрует медиапотоки в конференциях, авторизация только через SSO университета (без возможности анонимного входа). Записи лекций хранятся на ZFS-сервере в корпоративной сети без доступа из интернета — только через аутентифицированный доступ в Moodle. Журнал доступа к записям ведётся через лог Nginx с разбивкой по пользователю и дате: при необходимости аудита доступа к учебным материалам полная история восстановима за любой период.

Планирование мощности серверов выполнено с запасом на рост: университет планирует расширение дистанционного обучения до 50 000 студентов в следующие 2 года. Два JVB-узла покрывают текущую нагрузку с запасом; при росте нагрузки на 60% — добавление третьего JVB-узла. Сервер транскодирования — один из самых сложных для масштабирования компонентов, так как GPU-ресурс конечен, однако NVIDIA A2 имеет ресурс 4-кратного запаса к текущей нагрузке. ZFS-хранилище расширяется добавлением новых HDD в существующие слоты или добавлением новой полки через SAS-экспандер без замены сервера.

Состав поставки по подсистемамЭтапы и сроки поставкиРезультат

Платформа Jitsi Meet University запущена через месяц после поставки оборудования. Первый экзаменационный период прошёл на собственной платформе: 48 экзаменов онлайн одновременно в пиковые часы, 1 200 участников суммарно. CPU JVB-серверов в пике — 68%, запас мощности очевиден. Экономия к бюджету — 13%, итоговая стоимость 3,65 млн рублей.

Финансовая окупаемость: ежегодные расходы на облачные видеосервисы (3,8 млн руб./год) полностью покрывают стоимость инфраструктуры менее чем за 12 месяцев. Через 3 года суммарная экономия превысит 7 млн рублей, даже с учётом операционных расходов на обслуживание собственных серверов (электроэнергия, обновления ПО — около 180 000 руб./год).

Архив лекций за первый учебный год составил 14 ТБ в формате 1080p. Доступ студентов к записям через Moodle вырос на 340% по сравнению с предыдущим годом (внешний облачный сервис требовал отдельной регистрации, многие студенты не регистрировались). Преподаватели отметили снятие технических барьеров: конференция запускается в один клик из курса Moodle, без отдельных приложений и учётных записей.

Почему выбрали нас

Данные приведены справочно и не являются публичной офертой. Актуальные цены, наличие и сроки поставки уточняйте при оформлении заказа.

Частые вопросы

Почему Xeon с AVX-512 для Jitsi Videobridge?

AVX-512 ускоряет обработку VP8/VP9 медиапотоков на 35–50%. При 300+ участниках поточной лекции это принципиально для удержания CPU в разумных пределах.

Зачем NVIDIA A2 для транскодирования лекций?

NVENC на A2 кодирует 12–16 потоков 1080p одновременно при минимальной загрузке CPU. Без GPU 5 поточных лекций в 3 качествах загружали бы CPU на 85–90%.

Как интегрируется Jitsi с Moodle?

Через LTI 1.3: преподаватель запускает конференцию из курса Moodle, студенты входят через SSO университета. Записи автоматически прикрепляются к курсу.

За сколько окупается on-premise против облачных видеосервисов?

При расходах на облако 3,8 млн руб./год: on-premise окупается за 12 месяцев. За 3 года экономия свыше 7 млн руб.

Сколько одновременных конференций поддерживает система?

Два JVB-узла: 50+ стандартных конференций по 30 участников или 5+ поточных лекций по 300+ участников одновременно с запасом CPU 30–32%.

Посчитайте свою экономию

При подборе под задачу и спец-ценах от производителя экономия по этому кейсу — 13%. Двигайте бюджет и смотрите вашу выгоду.

Ваш бюджет на оборудование1 000 000
100 тыс ₽20 млн ₽
Ваша экономия
130 000
Итого к оплате
870 000
Подобрать решение под мою задачу

Оценка ориентировочная. Точную цену и срок подтвердит менеджер.

Нужно похожее решение?

Опишите задачу — подберём оборудование с оптовыми ценами, сроками и наличием. Регистрация не нужна.

Кейс приведён для примера, данные обезличены. Состав, цены, сроки и экономия носят справочный характер, не являются публичной офертой и не гарантируют аналогичный результат — каждый проект рассчитывается индивидуально, наличие и цены подтверждаются при оформлении заказа.