Взлом мультиагентных ИИ систем
Тезисы
В докладе расскажу про уязвимости AI мультиагентов и способы их эксплуатации. Я буду строить атаку по шагам: обойду guardrail и alignment, отравлю память и вызовы тулов, учитывая особенности разных провайдеров моделей и архитектур AI-систем. Обсудим, чем отличается prompt injection от prompt infection. А также разберём последние резонансные кейсы, где подобные уязвимости привели к реальным последствиям.
В докладе расскажу про уязвимости AI мультиагентов и способы их эксплуатации. Я буду строить атаку по шагам: обойду guardrail и alignment, отравлю память и вызовы тулов, учитывая особенности разных провайдеров моделей и архитектур AI-систем. Обсудим, чем отличается prompt injection от prompt infection. А также разберём последние резонансные кейсы, где подобные уязвимости привели к реальным последствиям.
Информация о спикере
Александр Князев
Руководитель внедрения ИИ-агентов, АМА
В качестве хобби участвую в развитии практик киберзащиты.

Люблю пентестить LLM, ломать AI-агентов и находить уязвимости в новой архитектуре.

Веду свой YouTube-канал и телеграм-канал.
  • Александр Князев
    Руководитель внедрения ИИ-агентов, АМА
    В качестве хобби участвую в развитии практик киберзащиты.

    Люблю пентестить LLM, ломать AI-агентов и находить уязвимости в новой архитектуре.

    Веду свой YouTube-канал и телеграм-канал.
Все доклады секции