Рост внедрения AI-агентов в бизнесе приводит не только к новым возможностям, но и к появлению новых угроз, а также увеличению ИТ-бюджетов. Ниже представлены ключевые выводы из отчёта Salesforce "State of IT", основанного на опросе более 4 000 ИТ-руководителей по всему миру, включая специалистов по безопасности, приватности и комплаенсу.
Основные тенденции и вызовы
Рост ИТ-бюджетов
75% ИТ-организаций ожидают увеличения бюджетов на безопасность для противодействия новым угрозам, таким как отравление данных, сложные атаки и усовершенствованные методы обнаружения угроз. Только 2% компаний планируют сократить расходы на ИТ-безопасность
75% ИТ-организаций ожидают увеличения бюджетов на безопасность для противодействия новым угрозам, таким как отравление данных, сложные атаки и усовершенствованные методы обнаружения угроз. Только 2% компаний планируют сократить расходы на ИТ-безопасность
Доверие клиентов под угрозой
64% клиентов считают, что компании небрежно относятся к их данным, а 61% отмечают, что с развитием ИИ защита данных становится ещё более критичной. Это подчёркивает необходимость для организаций уделять приоритетное внимание ответственному управлению данными
64% клиентов считают, что компании небрежно относятся к их данным, а 61% отмечают, что с развитием ИИ защита данных становится ещё более критичной. Это подчёркивает необходимость для организаций уделять приоритетное внимание ответственному управлению данными
Сложности комплаенса
68% руководителей по безопасности отмечают, что выполнение требований законодательства становится всё сложнее из-за быстрого изменения нормативной среды. 43% специалистов чувствуют себя недостаточно подготовленными к возможным новым регуляциям в сфере ИИ
68% руководителей по безопасности отмечают, что выполнение требований законодательства становится всё сложнее из-за быстрого изменения нормативной среды. 43% специалистов чувствуют себя недостаточно подготовленными к возможным новым регуляциям в сфере ИИ
AI-агенты: новые возможности и угрозы
Двойственный эффект
79% руководителей по безопасности считают, что AI-агенты создают новые вызовы для безопасности и комплаенса, однако 80% отмечают, что они открывают и новые возможности — например, автоматизацию обнаружения угроз, управление уязвимостями и поддержку процессов соответствия требованиям
79% руководителей по безопасности считают, что AI-агенты создают новые вызовы для безопасности и комплаенса, однако 80% отмечают, что они открывают и новые возможности — например, автоматизацию обнаружения угроз, управление уязвимостями и поддержку процессов соответствия требованиям
Основные угрозы
Среди самых опасных угроз выделяют: безопасность облака, отравление данных, вредоносное ПО, фишинг и вымогательское ПО. Самыми эффективными мерами защиты признаны: шифрование данных, резервное копирование и восстановление, управление идентификацией и доступом, стратегии Zero Trust и маскирование данных
Среди самых опасных угроз выделяют: безопасность облака, отравление данных, вредоносное ПО, фишинг и вымогательское ПО. Самыми эффективными мерами защиты признаны: шифрование данных, резервное копирование и восстановление, управление идентификацией и доступом, стратегии Zero Trust и маскирование данных
Изменение ландшафта кибербезопасности
75% руководителей по безопасности считают, что угрозы на базе ИИ вскоре превзойдут традиционные методы защиты, а 79% уверены, что их практики безопасности должны эволюционировать вместе с ростом использования ИИ
75% руководителей по безопасности считают, что угрозы на базе ИИ вскоре превзойдут традиционные методы защиты, а 79% уверены, что их практики безопасности должны эволюционировать вместе с ростом использования ИИ
Как AI-агенты могут повысить уровень безопасности
- Обнаружение и реагирование на угрозы: автоматическое выявление аномалий и координация реагирования на инциденты.
- Аудит моделей ИИ на предмет предвзятости и уязвимостей: обеспечение справедливости и надёжности.
- Автоматизация комплаенса: отслеживание соблюдения политик и снижение ручной нагрузки на сотрудников
Проблемы внедрения и управления AI-агентами
- 55% руководителей по безопасности не уверены, что могут внедрять AI-агентов с нужными ограничениями.
- 53% не полностью уверены в способности внедрять AI-агентов, соответствующих всем требованиям стандартов и регуляций.
- Более 70% компаний уже внедрили протоколы безопасности и приватности для AI, а 64% определили роли и ответственность в области разработки и управления AI
Прозрачность и доверие клиентов
- 42% клиентов заявляют, что прозрачность использования ИИ повысит их доверие, а 31% считают важной объяснимость результатов работы ИИ.
- 77% руководителей по безопасности уверены, что клиенты понимают, когда взаимодействуют с ИИ, а 81% считают, что клиенты осведомлены о том, как их данные используются в ИИ-системах.
- Несмотря на это, только менее половины компаний могут чётко объяснить, как работают их AI-решения и как используются клиентские данные.
Прогнозы и рекомендации
- Усложнение регулирования: управление комплаенсом будет постоянным процессом из-за появления новых регуляций в разных странах.
- Проактивное внедрение ИИ: компании, рассматривающие AI-агентов как союзников, смогут получить конкурентные преимущества и новые возможности.
- Эволюция компетенций: специалисты по безопасности будут всё больше специализироваться на управлении ИИ, управлении данными и этическом принятии решений
Вывод:
Внедрение AI-агентов — это не только новые возможности для автоматизации и повышения эффективности, но и новые вызовы для безопасности, доверия клиентов и управления комплаенсом. Для успешной цифровой трансформации компаниям необходимы прозрачность, объяснимость решений ИИ и постоянное совершенствование навыков команд в области ИИ и кибербезопасности.
Внедрение AI-агентов — это не только новые возможности для автоматизации и повышения эффективности, но и новые вызовы для безопасности, доверия клиентов и управления комплаенсом. Для успешной цифровой трансформации компаниям необходимы прозрачность, объяснимость решений ИИ и постоянное совершенствование навыков команд в области ИИ и кибербезопасности.
Статья написана на основе данных отчета Salesforce State of IT