Медиана завершённых ответов
ИНФРАСТРУКТУРА / PRIVATE AI
Обзор
Подключение…AD
ВАША МОДЕЛЬ
GLM 5.3 FlashCYBERSECURITY
Уточняем конфигурацию GPU / Контекст: уточняем / Приватный API
Получаем ограничения текущего сервера.
Проверяем
Производительность
Запросы через API за выбранный период, включая предыдущие серверы
Включает очередь и подготовку
Успешные и незавершённые
Доля завершённых запросов
Контекст и история
Включая рассуждения
Полный ответ · медиана / P95—
Очередь · медиана—
Ожидание GPU · медиана—
Наибольший измеренный вход—
Скорость — оценка по потоку ответа, включая рассуждения, без очереди и времени до первого токена. Ответы короче 16 токенов или 0,1 с генерации не учитываются. P95 — время, в которое уложились 95% ответов.
Активность запросов
УспешныеОшибки / прерыванияВ работе
По пользователям
ВЫБРАННЫЙ ПЕРИОД| Пользователь | Запросы | Ошибки | Выход | ≈ т/с |
|---|
GPU и сервер модели
Текущая нагрузка · показатели обновляются каждые 10 секунд
Отдача сервера · за интервал—
Видеопамять—
Потребление всех GPU—
Кэш контекста занят—
Попадания в кэш модели с запуска—
Задачи модели / очередь—
Отдача сервера — суммарная скорость по счётчику токенов всех пользователей за последний интервал. Измерение может обновляться порциями. VRAM включает веса модели и выделенный кэш. Просмотр панели не запускает спящие GPU.
Лимит общий для всех пользователей.
Состояние сервера
ON-DEMANDПолучаем состояние.
- Инстанс
- Не создан
- Автоостановка
- 60 минут простоя
- Доступ для пользователей
- Приостановлен
Первый запрос сам запускает GPU. После остановки повторный запуск зависит от свободных GPU у хоста.
Подключение клиента
APIOpenAI Chat Completions, streaming и tools. API-ключ создаётся во вкладке «Доступы». Для холодного запуска клиент должен поддерживать длительное ожидание.
Последние 50 запросов
БЕЗ СОДЕРЖИМОГО ЗАПРОСОВ| Пользователь | Время | Статус | Всего | Первый токен | ≈ т/с | Вход / выход |
|---|
Ключи пользователей
ОТДЕЛЬНЫЙ КЛЮЧ ДЛЯ КАЖДОГОСохраните ключ сейчас — повторно он не показывается.
| Имя | Начало ключа | Создан | Доступ |
|---|
Отзыв ключа запрещает новые запросы и отменяет незавершённые запросы этого пользователя. Тексты задач и ответов в панели не сохраняются.
Расходы и простой
Расход и лимиты указаны по клиентскому тарифу сервиса. Оценка не является выпиской по всем сохранённым арендам. Учёт месяца — UTC. Вычисления останавливаются у лимита; сохранённый диск продолжает оплачиваться. Трафик и налоги не входят в локальную оценку.
Пароль администратора
Аварийная остановка
Отменяет текущие запросы, запрещает новые и останавливает GPU. Данные на диске сохраняются.
События инфраструктуры
ПОСЛЕДНИЕ 50| Время | Событие | Детали |
|---|