Задача
Команде нужен управляемый контур банковского помощника, который выдерживает рабочую нагрузку и позволяет безопасно выпускать изменения.
Данные и версии
Версионируются документы, chunks, embeddings, индекс, prompt, параметры модели, tool schema, evaluation dataset и конфигурация релиза.
Архитектура решения
Запрос проходит gateway и политики доступа, затем routing, retrieval и модель. Каждый ответ получает trace id, версии компонентов, cost и оценку качества по выбранной выборке.
Input→Gateway→RAG / Tools→Model→Trace + Eval
Результат и критерии приемки
Готовность подтверждается quality gate, нагрузочным тестом, SLO, security review, canary, rollback drill и назначенным on-call.
Что можно перенести в свой проект
Начните с одного критичного пользовательского пути. Сразу отделите метрики инфраструктуры, приложения, модели и бизнес-результата.
Статус: это редакционная архитектурная схема, а не заявление о фактическом внедрении.