Прочитал несколько статей об использовании агентов в ИИ: Чип Хьюен от 7.01.25 и Д.Визенгер, П.Марлоу…

Прочитал несколько статей об использовании агентов в ИИ: Чип Хьюен от 7.01.25 и Д.Визенгер, П.Марлоу, В.Вускович из Гугла от 9.01.24.
Что могу сказать?
С учётом того, что опыт этого года показал возможность выпуска языковых моделей, которые не требуют так уж много финансирования и вычислительных мощностей — они без этических, да и любых ограничений будут появляться у киберпреступников (а точнее появляются).
И да, конечно, агенты в ИИ улучшают возможности для сектора кибербезопасности, но…для преступности они создают поле прорыва большого чёрного лебедя (который одной лапой уже здесь), и это всё не про дипфейки, интеллектуальный фишинг, написание вредоносного года.. Я вижу колоссальный, повторюсь, прорыв в контрфоренсике, контрдетекшене, контринтеллидженс — все это просто сделает многие компании из легального сектора устаревшими в один день, а клиентов, понятно, совсем к этому не готовыми.
Ещё раз основная мысль: появление ИИ агентов увеличивает возможности для сектора кибербезопасности, но просто увеличивает. Я бы сказал на десятки процентов в лучшем случае, а для компьютерной преступности — дают колоссальный прорыв, где эффективность увеличивается в сотни, а, вероятно, в тысячи раз. То есть огромное количество непрогнозируемых действий в колоссальном масштабе. И, если учесть некоторые структурные и экономические особенности преступности последних лет, то 2025–2026 годы станут новым дивным миром, о котором я хочу порассуждать в следующих постах…
Update:
Пока пост ждал публикации, вышло исследование компании SlashNext об автономной атакующей платформе Xanthox AI , которая позволяет проводить самоуправляемые автономные атаки на основе ИИ, причём с автономной архитектурой, размещённой на серверах её разработчиков. Что, конечно, предоставляет злоумышленникам огромное количество возможностей, а стиль атак, поддерживаемый платформой, может меняться чуть ли не на лету.
Его архитектура состоит из модулей, которые позволяют разрабатывать и запускать разные сложности цепочки кибератак.
Дополнительно об этом еще напишу, но общая суть в том, что таких моделей для злоумышленников будет больше.
Далеко не все будут доступны для продажи (как в конкретном случае), ну и главное, что средства защиты, которая опирается на анализ предыдущих вредоносных действий, практически полностью потеряет свои полезные свойства.
К примеру среди функционала: «сбор данных интернет поиска в реальном времени с использованием более 50 поисковых систем, автономная работа, позволяющая использовать приложение без зависимости от сети, а также хранения данных, что позволяет ему обходить телеметрию ИИ-устройств сторонних разработчиков».
Продолжение в следующем посте …