Корпоративный GPT. Как внедрить так, чтобы все остались довольны

AI-бум в самом разгаре, компании продолжают вкладываться в карточки и разворачивать передовые модели в своих контурах. Кому-то достаточно Ollama на виртуальной машине, а кто-то строит распределенные системы невероятных масштабов. Я хочу поделиться именно той архитектурой, к которой пришли мы, — от вебки до инференса со всеми сопровождающими сервисами.

Расскажу, как мы строили MagnitGPT, какие проблемы решали при разработке и как он помогает сотням и тысячам пользователей ежедневно. Спойлер — про Jupyter в качестве среды исполнения кода тоже поговорим.