Рост внедрения AI-агентов в бизнесе приводит не только к новым возможностям, но и к появлению новых угроз, а также увеличению ИТ-бюджетов. Ниже представлены ключевые выводы из отчёта Salesforce "State of IT", основанного на опросе более 4 000 ИТ-руководителей по всему миру, включая специалистов по безопасности, приватности и комплаенсу.
Основные тенденции и вызовы
Рост ИТ-бюджетов 75% ИТ-организаций ожидают увеличения бюджетов на безопасность для противодействия новым угрозам, таким как отравление данных, сложные атаки и усовершенствованные методы обнаружения угроз. Только 2% компаний планируют сократить расходы на ИТ-безопасность
Доверие клиентов под угрозой 64% клиентов считают, что компании небрежно относятся к их данным, а 61% отмечают, что с развитием ИИ защита данных становится ещё более критичной. Это подчёркивает необходимость для организаций уделять приоритетное внимание ответственному управлению данными
Сложности комплаенса 68% руководителей по безопасности отмечают, что выполнение требований законодательства становится всё сложнее из-за быстрого изменения нормативной среды. 43% специалистов чувствуют себя недостаточно подготовленными к возможным новым регуляциям в сфере ИИ
AI-агенты: новые возможности и угрозы
Двойственный эффект
79% руководителей по безопасности считают, что AI-агенты создают новые вызовы для безопасности и комплаенса, однако 80% отмечают, что они открывают и новые возможности — например, автоматизацию обнаружения угроз, управление уязвимостями и поддержку процессов соответствия требованиям
Основные угрозы
Среди самых опасных угроз выделяют: безопасность облака, отравление данных, вредоносное ПО, фишинг и вымогательское ПО. Самыми эффективными мерами защиты признаны: шифрование данных, резервное копирование и восстановление, управление идентификацией и доступом, стратегии Zero Trust и маскирование данных
Изменение ландшафта кибербезопасности
75% руководителей по безопасности считают, что угрозы на базе ИИ вскоре превзойдут традиционные методы защиты, а 79% уверены, что их практики безопасности должны эволюционировать вместе с ростом использования ИИ
Как AI-агенты могут повысить уровень безопасности
Обнаружение и реагирование на угрозы: автоматическое выявление аномалий и координация реагирования на инциденты.
Аудит моделей ИИ на предмет предвзятости и уязвимостей: обеспечение справедливости и надёжности.
Автоматизация комплаенса: отслеживание соблюдения политик и снижение ручной нагрузки на сотрудников
100% опрошенных руководителей по безопасности уверены, что AI-агенты могут улучшить хотя бы один аспект информационной безопасности, позволяя командам сосредоточиться на стратегических задачах
Проблемы внедрения и управления AI-агентами
55% руководителей по безопасности не уверены, что могут внедрять AI-агентов с нужными ограничениями.
53% не полностью уверены в способности внедрять AI-агентов, соответствующих всем требованиям стандартов и регуляций.
Более 70% компаний уже внедрили протоколы безопасности и приватности для AI, а 64% определили роли и ответственность в области разработки и управления AI
Прозрачность и доверие клиентов
42% клиентов заявляют, что прозрачность использования ИИ повысит их доверие, а 31% считают важной объяснимость результатов работы ИИ.
77% руководителей по безопасности уверены, что клиенты понимают, когда взаимодействуют с ИИ, а 81% считают, что клиенты осведомлены о том, как их данные используются в ИИ-системах.
Несмотря на это, только менее половины компаний могут чётко объяснить, как работают их AI-решения и как используются клиентские данные.
Прогнозы и рекомендации
Усложнение регулирования: управление комплаенсом будет постоянным процессом из-за появления новых регуляций в разных странах.
Проактивное внедрение ИИ: компании, рассматривающие AI-агентов как союзников, смогут получить конкурентные преимущества и новые возможности.
Эволюция компетенций: специалисты по безопасности будут всё больше специализироваться на управлении ИИ, управлении данными и этическом принятии решений
Вывод:
Внедрение AI-агентов — это не только новые возможности для автоматизации и повышения эффективности, но и новые вызовы для безопасности, доверия клиентов и управления комплаенсом. Для успешной цифровой трансформации компаниям необходимы прозрачность, объяснимость решений ИИ и постоянное совершенствование навыков команд в области ИИ и кибербезопасности.
Статья написана на основе данных отчета Salesforce State of IT