Как применять аудит готовности к эксплуатации в ИИ в рабочей среде. Практический разбор для ИИ в рабочей среде: место в архитектуре, порядок внедрения, метрики качества и эксплуатации, ограничения и критерии готовности.
Почему задача возникает
Главная ошибка — переносить термин из документации без связи с эксплуатационным решением. В теме «аудит готовности к эксплуатации» нельзя смешивать качество модели, качество приложения и здоровье инфраструктуры: у каждого слоя свои метрики, оповещения и ответственные.
Как подготовить рабочем контуре
Цель — зафиксировать единое определение и место компонента в рабочем контуре. Для темы «аудит готовности к эксплуатации» сначала фиксируют пользовательский сценарий, риск ошибки и допустимый бюджет задержки. Затем версионируют модель, инструкцию модели, данные и конфигурацию, собирают контрольный набор, определяют SLO и только после этого подключают автоматизацию релиза.
Практический сценарий
Пример: сервис классификации обращений использует «аудит готовности к эксплуатации» в рабочем контуре. Команда задаёт эталонный набор, снимает базовый уровень качества и p95, добавляет трассировку, лимиты и резервный сценарий, проводит нагрузочный тест и выпускает изменение по канареечной схеме. Релиз принимают только при сохранении качества и соблюдении бюджета ошибок.
Что измерять
Основные критерии: понятность границ, воспроизводимость и наличие владельца. Дополнительно отслеживаются доля попаданий в кеш, доля обрезанного контекста, токены на успешную задачу, стоимость принятого результата, версии модели и инструкции модели, а также время безопасного отката.
Порядок действий
- Зафиксируйте пользовательскую задачу, риск ошибки и владельца.
- Версионируйте модель, инструкцию модели, данные и конфигурацию.
- Соберите эталонный набор и базовый уровень качества, задержка и стоимости.
- Добавьте трассировку, лимиты, резервный сценарий и откат.
- Проведите нагрузочный тест и выпустите по канареечной схеме.