МОСКВА, 17 февраля. /ТАСС/. В процессе еволюции автономных IT-систем на базе искусственного интеллекта кредитный эксперт ВТБ Вадим Кулик предсказывает возникновение так называемых «великих комбинаторов» среди хакеров. Это означает, что злоумышленники будут сосредоточены на разработке масштабируемых стратегий атак против различных организаций. В аналитическом обзоре ВТБ «Безопасность в банке будущего» он акцентирует внимание на важности ИИ-агентов — систем, которые могут самостоятельно разрабатывать планы действий и решать задачи, что также требует адаптации защиты у организаций.
По мнению Кулика, с ростом числа ИИ-агентов как со стороны бизнеса, так и клиентов, изменятся сценарии взаимодействия. Клиенты будут обращаться к своим личным ИИ-агентам, которые затем взаимодействуют с бизнесами. Это создаст новые цепочки общения и усложнит системы, требуя от поставщиков услуг готовности к подобным изменениям. Данный обзор был подготовлен центром технологических исследований ВТБ для уральского форума «Кибербезопасность в финансах».
Вопрос-ответ
Какие новые риски возникают с появлением «великих комбинаторов» среди хакеров и ИИ-агентов в банковской сфере?
Появляются риски масштабируемых и адаптивных атак, где злоумышленники используют ИИ-агентов для автоматизации и оптимизации цепочек атак на разные организации. Это может усложнить обнаружение, ускорить время атаки и привести к более эффективному заражению систем, краже данных и вымогательству. Также возрастает риск целевых атак на цепочку поставок и на взаимодействие между клиентами и банками через их персональные ИИ-агенты.
Как изменится роль ИИ-агентов в взаимодействии клиентов и банков?
Клиенты будут активно использовать личные ИИ-агенты, которые могут взаимодействовать с банковскими сервисами и сторонними поставщиками. Это приведет к новым каналам коммуникации, потенциально увеличит поверхностность атака на учетные данные и API, потребует усиленной проверки контекстов и доверительных отношений, а также потребует переработки процессов авторизации, мониторинга и реагирования на инциденты.
Ка меры защиты рекомендуют рассмотреть аналитики ВТБ в обзоре для будущего банка?
Рекомендовано усиливать контейнеризацию и изоляцию сервисов, внедрять продвинутый мониторинг поведения ИИ-агентов, tighten IAM и MFA, проводить регулярные моделирoвания атак с участием ИИ-агентов, развивать защиту цепочек поставок, внедрять безопасные API и политики доверия, а также обучать персонал и клиентов распознавать фишинг и манипуляции через чат-ботов и агентов.
Ка задачи требуют от поставщиков услуг готовности к изменениям в системе взаимодействий?
Необходимо обеспечить безопасное наследование контекстов между клиентскими ИИ-агентами и банковскими системами, устойчивость к автообновлениям и новым версиям агентов, мониторинг аномалий в коммуникациях и транзакциях, а также внедрить процедуры быстрого реагирования на инциденты, включая автоматическое отключение доверенных каналов и перевыпуск ключей при подозрительной активности.