Вы наверняка помните, что летом наша “красная команда” опубликовала исследование об использовании LLM для генерации наступательного инструментария. Эксперимент начался с провальной попытки решить задачу одноразовым промптом; но затем был построен успешно работающий конвейер из трёх ИИ-агентов (Оркестратор, Тестировщик, Разработчик), который довольно шустро генерировал работоспособных Mythic-агентов.
В то же время наши эксперты с “синей стороны” проводили эксперименты по использованию LLM для защиты. Например, для генерации фильтров, которые должны отсеивать ложные срабатывания детектирующих правил. Доклад Артемия Обухова на эту тему был представлен летом на OFFZONE, а теперь вы можете познакомиться со всеми деталями этой работы.
В данном исследовании также сравнивались различные подходы: алгоритмический пайплайн на основе FP-Growth, использование запроса к одной LLM, и наконец, конвейер из четырёх ИИ-агентов (Селектор, Генератор, Валидатор, Комментатор).
В результате оказалось, что простой алгоритмический подход не так уж плох: хотя он даёт более низкие показатели метрик оценки, но в двух третях случаев он позволяет получить фильтры, которые устраивают аналитика. Плюсами этого метода являются детерминированность и интерпретируемость, а также независимость от внешних моделей, его можно развернуть в любой среде.
Варианты с использованием одной LLM и группы LLM-агентов показывают более высокий уровень точности, при этом их результативность различается незначительно, а групповой подход является более медленным. Поэтому при наличии доступа к LLM оптимальным выглядит вариант с использованием одной модели для реализации нескольких этапов цикла генерации.
Сравнивая эти результаты с вышеупомянутым исследованием “красных”, можно предположить, что LLM-агенты будут чаще использоваться в нападении (и в offensive security), чем в обороне. Хотя бы потому, что защитники не могут себе позволить ошибаться и предпочитают более детерминированные технологии.
Впрочем, это только наше предположение. Подробности исследования Артемия Обухова смотрите сами в видеозаписи доклада либо читайте в статье “Генерация фильтров на практике: от алгоритмов к LLM”.
