Настройте A/B‑оценку ответов и алерты качества. Используйте LangSmith evals, prompt‑versioning и Pydantic‑валидацию. Защитите прод open‑source guardrails и Prometheus‑мониторингом.
Настройте A/B‑оценку ответов и алерты качества. Используйте LangSmith evals, prompt‑versioning и Pydantic‑валидацию. Защитите прод open‑source guardrails и Prometheus‑мониторингом.
Что?
Метрики и A/B‑оценка, внедрение JSON guardrails, alert‑policy по качеству, интеграция в CI‑pipeline.
Формат и длительность
до 25 человек; 8 часов
Для кого?
Команды MLOps и DevOps, отвечающие за качество и стабильность AI‑сервисов.
Содержание
LangSmith Evals и prompt‑versioning — автоматические тесты, сравнение baseline vs candidate, отчёты об ошибках. Guardrails для JSON‑вывода — Pydantic‑схемы, валидация, fallback‑логика и логирование. Alert‑policy по качеству — пороговые метрики, интеграция с Prometheus/Grafana, уведомления в Slack/Email. CI/CD‑интеграция — включение тестов и метрик в GitLab/GitHub CI, шаг «stop‑build при падении качества».
Технологический стек
LangSmith, Guardrails, Prometheus
Предварительные требования
Python, Docker, базовые навыки работы с CI.
Эксперты
Дмитрий Жечков
Эксперт по AI и облачным решениям, архитектор облачных решений в Yandex Cloud, сосредоточен на разработке ПО с использованием Generative AI и агентных архитектур.
Носов Андрей
Профильный специалист с более чем 20-летним опытом в ИТ, специализирующийся на архитектуре решений в области ИИ, LLM, RAG, NLP, системной интеграции и руководстве мультидисциплинарными командами. Практический опыт разработки 27 AI/ML решений. Эксперт в построении AI-инфраструктур и развитии продуктовых команд.
Александр Миленкин
ML Team Lead | Dodo Brands Senior Data Scientist | Red Mad Robot Senior Data Scientist | X5 Retail Group
Стоимость
Фиксированная цена
за командный пакет
25 000 ₽/участник
для физических лиц
Ознакомьтесь с другими мастер-классами
Закрываем конкретный вызов: внедрить RAG‑конвейер на LangChain, настроить MLOps‑CI/CD и мониторинг, освоить LoRA/RLHF‑тонкую настройку или добавить guardrails и безопасность
мастер-класс
LangChain Start. От первого запроса до работающего чат-бота
Соберите FAQ-бота для службы поддержки, деплой через Streamlit