Расписание

В докладе рассматривается путь от эксплуатации с помощью ИИ к самоуправляемой инфраструктуре: уровни автономности, агентные контуры управления, динамические песочницы, операционная безопасность, верификация и меняющаяся роль человека-оператора.

Хотите почувствовать себя в роли DevVibeOps — тогда вам ко мне! :)

К вам пришла ML-команда: «LLM'ка отвечает в контейнере, теперь отдайте ее пользователям и поддерживайте».

Разберем, что норовит пойти не так по дороге в заветный продакшен: веса и GPU, первый токен, ключи и доступы, обновления, метрики и аварии. И как со всем этим справиться с наименьшими потерями.

Доклад будет посвящен тому, как построить агентскую систему, где контролем над вашей инфрой владеет агент. Можно ли позволить себе потерять над ним контроль?

Нейросети и LLM часто воспринимаются как неприступная «магия», но на деле их периметр защищен слабее классических IT-систем.

Миграция с Managed Spark в Kubernetes — это не перенос кода, а проектирование отдельного управляемого compute-слоя, который стал частью ML-платформы: поддерживаемые base images, CI/CD, Airflow, Spark Operator, YuniKorn, секреты и observability.

В докладе покажу, как сделать запуск Spark-задач удобным для DE/ML-инженеров и сохранить управляемость в эксплуатации кластера.

Современные корпоративные AI-платформы — это уже не просто OpenWebUI + Ollama, это десятки возможных комбинаций различных решений: AI-gateway, RAG-системы, инференс-бэкенды, инфраструктура, агенты и прочая обвязка, закрывающая потребности бизнеса. Всё это добро должно работать согласованно, держать высокую нагрузку и обеспечивать пользователей качественным сервисом с адекватными задержками.

Расскажу, к какой архитектуре пришли мы, построив корпоративный ChatGPT-like сервис на 18К пользователей с DAU 1500+ на этапе разработки.

Расскажу, как мы переносили Kafka с VM в Kubernetes.

Как устроены наши отказоустойчивые K8s-кластера в инфраструктуре, как мы автоматизировали их управление через CAPI на масштабах сотен серверов.

Сравним возможности ArgoCD и Flux, kubectl, Helm и Nelm/werf в упорядочивании развертывания, отслеживании готовности и управлении жизненным циклом ресурсов.

За прикладным уровнем AI-систем — MLOps, моделями и инференсом — стоит платформа, которую нужно заставить работать: Kubernetes, операционная система, драйверы NVIDIA и весьма капризное серверное железо. На примере реальных расследований из эксплуатации GPU-кластеров на базе Talos Linux покажу, как искать причины сложных проблем на стыке этих слоев — и почему реальная причина часто оказывается совсем не там, где ее ждешь.

Расскажу про работу с PCI-устройствами, в том числе в условиях высоких нагрузок, и про некоторые баги, которые мы нашли в Kubelet.

Доклад осветит онбординг, механизмы обучения, передачи знаний, используемые технологии и условия труда. Вы сможете узнать о том, чем вы платите за привилегии и «печеньки».

Расскажем, с какими сложностями столкнулись, покажем, как превратили хаос в управляемую систему: что пошло не так на старте, какие инструменты реально сработали и как мы измеряли эффект.

Опишу, как мы создавали у себя DevOps Cookbook. Что это такое в нашем понимании, как мы пришли к тому, что он нам необходим.

Как мы перешли от «стены текста» к боту-помощнику. И наши планы на будущее.

Каждое второе входящее резюме врет (17 лет опыта в Kubernetes при том, что ему 12), а нейросеть, которая это ловит, либо разоряет на счетах, либо врет сама, либо принимает решение по найму, которое потом нельзя объяснить юристам.

Покажу, как это лечится каскадом из трех уровней моделей с дорогой в конце, тремя защитными слоями и реальными цифрами до и после — на живой коллекции пойманных фабрикаций.

Доклад о построении большой «железной» инфраструктуры и о том, как мы в K2 Cloud прошли путь в этой сфере от полного хаоса до стандартизированной, но в то же время гибкой системы, которая позволяет быстро адаптироваться под динамичный темп развития облачной платформы.

Как обновление Cluster API чуть не уничтожило наши кластера — как митигировали, что поменяли и как работаем дальше.

Современные мощные серверные GPU по дефолту охлаждаются жидкостью. Расскажу, какие варианты возможны при создании вычислительного GPU-кластера или дата-центра для ИИ, а также какие выгоды получаем и чем расплачиваемся.

Реальный опыт эволюции подхода управления централизованной конфигурацией проектов Gitlab, Hashicorp Vault и других в 2ГИС: от простых bash-скриптов до связки Terraform и Terragrunt.

Организация структуры конфигураций команд и групп, чтобы обрабатывать сотни проектов за минуты вместо часов.

История внедрения DORA-метрик: от их декомпозиции и формулирования ценности до результатов внедрения и разбора ошибок.

Трейсинг — важная часть сигналов observability, и много кто уже внедрил и активно использует его у себя сейчас. Мы скорее нагоняли тренд использования трейсов и собрали разных шишек, пытаясь сделать «сразу хорошо», в условиях highload.

Проиллюстрируем, как росла наша платформа трейсинга, менялись инструменты от Tempo до VictoriaTraces, какие шишки мы собирали, какие проблемы решали и как повышали гарантии услуги.

Хочу рассказать, как мы и зачем в Dodo Engineering внедряли OpenTelemetry и Observability-as-Service, какие грабли собрали в процессе, какие гипотезы проверяли и почему вам это все надо или не надо.

Пройдемся по двум упражнениям, которые помогали мне развивать observability.

Важно не только внедрить харденинг, но и постоянно проверять, что он действительно применяется на всех хостах и не «уезжает» со временем. В докладе я расскажу, как мы полностью автоматизировали этот процесс: от формирования эталона и динамического инвентаря до проверок через Ansible, метрик в Prometheus и визуализации в Grafana.

Доклад — практический опыт масштабирования, observability политик и awareness вокруг них, — чтобы каждая команда понимала, что происходит в ее кластере, не дожидаясь инцидента.

Расскажу, как импортозамещение NGFW в банке превратилось в пересборку сетевой модели production Kubernetes: namespace-level доступы, миграция в облако и отказ от привычной модели авторизации трафика.

В крупной IT-организации данные о системах, API, командах, владельцах и интеграциях часто разрознены между порталами, репозиториями, документацией и чатами. Это замедляет поиск информации, усложняет архитектурные решения и повышает риски изменений.

В докладе я расскажу, как Middleware Service Hub превращает разрозненные данные в связанный технологический контекст, развивается от каталога компонентов к Digital Twin организации и становится основой для Architecture as Code, API governance и AI Harness.

Доклад показывает, как построить масштабируемую систему динамических тестовых окружений и избавиться от проблем с общими стендами. Слушатели узнают, какие технологии и архитектурные решения позволяют ускорить разработку, тестирование и проверку изменений.

Покажу, как построить каскадный деплой на FluxCD и не распространять ошибочное изменение сразу на все окружения. Разберу два подхода: GitOps promotion через Kargo.io и Gitless-доставку через OCI artifacts, а также Prometheus gates как механизм stop/go-решений между dev, stage и production.

Пути, карты и надежность. Как уже сегодня сделать так, чтобы ваши сервисы были доступны на 100%? Практики SRE и что такое CRE: как в облаке и на земле обеспечить доступность и отказоустойчивость сервисов (а не только инфраструктуры).

Доклад строится на двух частях: сетевая изоляция зараженной инфраструктуры и то, как ее делать инженерам. И куда бежать, если надо разворачивать новую инфраструктуру.

Говорим о расписании, сессиях и делимся информацией.

Командный воркшоп, где вы тушите боевой инцидент в реальном времени — по механикам настолок.

Основная идея выступления — на практике показать возможности улучшения «стандартного» Kubernetes.

Самые горячие вопросы из трендов найма от интервьюеров из бигтеха. Приходите пропитаться инженерной культурой и освежить знания!

Fail Talks — это откровенные и полезные истории о провалах в DevOps-практиках.

Воркшоп посвящен разбору инцидентов в облачной инфраструктуре в реальном времени: участники исследуют стенд с «ловушками», работают с Kubernetes, PostgreSQL и другими сервисами, а также отрабатывают план восстановления и получают практический опыт.

Скоро на этом месте появится новый доклад.

Рассмотрим на практике популярные open-source инструменты, которые позволяют улучшить безопасность Kubernetes в Runtime.

Подводим итоги конференции, вспоминаем яркие моменты и рассказываем о дальнейших планах.