LLM/ML: угроза или спасение человечества?

Нейросети и LLM часто воспринимаются как неприступная «магия», но на деле их периметр защищен слабее классических IT-систем. На докладе разберем реальные векторы атак на модели машинного обучения: от адверсариальных воздействий (FGSM, PGD, Carlini & Wagner) и отравления данных (Data Poisoning, бэкдоры) до инверсии модели и утечек через градиенты. Покажем, как незаметные изменения во входных данных заставляют алгоритмы совершать фатальные ошибки.

Фокус на практике, а не на абстрактной теории. Разберем, как выкрасть поведение модели через открытый API (Model Extraction), восстановить обучающие данные из шума (Model Inversion) и внедрить вредоносные инструкции в RAG-системы через прямые и косвенные промпт-инъекции. Также затронем атаки на графовые сети (Node Injection) и методы реверс-инжиниринга внутренних параметров модели (temperature, top-k, top-p) исключительно по ее текстовым ответам.

Доклад построен вокруг живых примеров, скриптов и готовых пайплайнов автоматизации. Продемонстрируем, как заставить AI-агентов автоматически генерировать PoC-эксплойты по описаниям CVE и проводить интеллектуальный анализ уязвимостей в HTTP-трафике. В качестве бонуса покажем практическое применение NLP-моделей для оценки контекста и эмоциональной вовлеченности в диалоге. Все коды, библиотеки и ссылки на репозитории будут предоставлены участникам для самостоятельного изучения.