Top.Mail.Ru

Анатомия атак на мультиагентные ИИ-системы

Безопасность
ИИ в разработ­ке ПО

Тезисы

В докладе разберу реальные уязвимости мультиагентных ИИ-систем и то, как они эксплуатируются на практике. Продемонстрирую современные техники атак и особое внимание уделю громким реальным кейсам про OpenClaw и Claude Code.

Разберём, как влияют на векторы атак архитектуры межагентного взаимодействия handoff, skills и tools. Поговорим, что безопаснее: ReAct или ReWOO. Почему мультиагентные системы ломаются интереснее и непредсказуемее одиночных агентов и как тип координации (swarm/supervisor) открывает новые классы уязвимостей.


Ключевые темы и технологии

AI Безопасность, AI-агенты и агентские системы


Аудитория

Backend-разработчик, QA-инженер / Тестировщик, CTO / Архитектор Уровень


Уровень сложности

Средний

АМА
Александр Князев

Руководитель направления внедрения ИИ-агентов в компании АМА. Лидирует команду инженеров, вместе с которой автоматизируют работу сотрудников, экономят компании миллионы рублей и внедряют передовые мультиагентные системы.

В качестве хобби участвует в развитии практик киберзащиты. Любит пентестить LLM, ломать AI-агентов и пробовать новые технологии.

Другие спикеры трека Безопасность