Так собирается коробка, которая уезжает к заказчику. Полигон бюро собран на железе поколением ниже — это сделано намеренно, см. примечание внизу.

Tier 1 · AI Core — железо

Процессор
AMD Ryzen 9 7900, 12 ядер
На AI Core эмбеддинги и переранжирование считаются на процессоре, чтобы видеопамяти хватило языковой модели. Цена этого выбора — время: на видеокарте поиск в десятки раз быстрее, поэтому время ответа поставочной конфигурации мы назовём после её замера, а не по аналогии со стендом. На AI Power поиск уезжает на вторую карту
Платформа
AM5, чипсет X870E
Два полноразмерных слота PCIe и четыре M.2 — вторая карта ставится без замены коробки
Видеокарта
NVIDIA RTX 5060 Ti, 16 ГБ
Языковая модель, распознавание и синтез речи
Оперативная память
32 ГБ DDR5-6000, два канала
Рабочее множество контура — 12–18 ГБ, остальное уходит в кэш файловой системы
Хранение
2× 2 ТБ NVMe PCIe 5.0, зеркало ZFS
Зеркало обязательно: на одиночном диске ZFS увидит порчу данных, но починить её будет нечем
Блок питания
1000 Вт, 80+ Platinum, активный PFC
Киловатт берётся сразу, даже под одну карту — ради апгрейда на месте
ИБП
Онлайн, двойное преобразование, чистая синусоида, 0 мс
Бюджетный линейно-интерактивный ИБП даёт на батарее ступенчатый сигнал, от которого блок питания с активным PFC уходит в защиту
Драйвер
NVIDIA ветка 570+, CUDA 12.8+
Обязательное требование для карт 50-й серии
Потребление под нагрузкой
около 333 Вт
Замерено ваттметром, не взято из паспорта компонентов

Tier 2 · AI Power — что добавляется

Вторая видеокарта
NVIDIA RTX 5060 Ti, 16 ГБ
Речь, синтез, эмбеддинги и переранжирование переезжают на неё
Оперативная память
64 ГБ DDR5-6000
Параллельные голосовые сессии и массовый OCR
Потребление под нагрузкой
около 513 Вт
Тот же ИБП закрывает оба тира

Программная часть

Операционная система
Debian GNU/Linux 13 (trixie), ядро 6.12
Контейнеризация
Docker 29.5.2, образы зафиксированы по цифровому отпечатку
Языковые модели
Ollama. Основная — Gemma 4 12B (Apache 2.0), контекст 128–256К. Лёгкая — Gemma 4 E4B
Российские опции
T-Lite 8B и T-Pro 2.0 32B (Apache 2.0). GigaChat 3 Lite — проверяем условия self-hosted, до выяснения в поставку не включаем. Резерв — Qwen
Поиск по документам
Qdrant, эмбеддинги BAAI/bge-m3, переранжирование BAAI/bge-reranker-v2-m3, гибрид вектор и BM25
Извлечение текста
Docling и собственный слой okb docling-shim: умное включение OCR, нарезка по разделам
Голосовой контур
faster-whisper large-v3-turbo для распознавания, openedai-speech (XTTS) для синтеза
Сеть и доступ
Caddy с локальным удостоверяющим центром, WireGuard, okb-firewall, узел SearXNG
Данные
ZFS, ежедневные копии в 03:30, семь поколений
Цифр производительности здесь нет намеренно. Нагрузочный тест на этой конфигурации ещё не проводился — результаты опубликуем вместе с условиями замера, как только он пройдёт. Замеры стенда — машины поколением ниже — уже опубликованы, тоже с условиями: страница стенда в хабе.