Наш блог

Влияние внедрения AI-агентов на ИТ-бюджеты, безопасность и доверие клиентов

Разработка ПО Искусственный интеллект
AI-агенты влияют не только на производительность, но и на бюджеты
Рост внедрения AI-агентов в бизнесе приводит не только к новым возможностям, но и к появлению новых угроз, а также увеличению ИТ-бюджетов. Ниже представлены ключевые выводы из отчёта Salesforce "State of IT", основанного на опросе более 4 000 ИТ-руководителей по всему миру, включая специалистов по безопасности, приватности и комплаенсу.

Основные тенденции и вызовы

Рост ИТ-бюджетов
75% ИТ-организаций ожидают увеличения бюджетов на безопасность для противодействия новым угрозам, таким как отравление данных, сложные атаки и усовершенствованные методы обнаружения угроз. Только 2% компаний планируют сократить расходы на ИТ-безопасность
Доверие клиентов под угрозой
64% клиентов считают, что компании небрежно относятся к их данным, а 61% отмечают, что с развитием ИИ защита данных становится ещё более критичной. Это подчёркивает необходимость для организаций уделять приоритетное внимание ответственному управлению данными
Сложности комплаенса
68% руководителей по безопасности отмечают, что выполнение требований законодательства становится всё сложнее из-за быстрого изменения нормативной среды. 43% специалистов чувствуют себя недостаточно подготовленными к возможным новым регуляциям в сфере ИИ

AI-агенты: новые возможности и угрозы

Двойственный эффект

79% руководителей по безопасности считают, что AI-агенты создают новые вызовы для безопасности и комплаенса, однако 80% отмечают, что они открывают и новые возможности — например, автоматизацию обнаружения угроз, управление уязвимостями и поддержку процессов соответствия требованиям
Основные угрозы

Среди самых опасных угроз выделяют: безопасность облака, отравление данных, вредоносное ПО, фишинг и вымогательское ПО. Самыми эффективными мерами защиты признаны: шифрование данных, резервное копирование и восстановление, управление идентификацией и доступом, стратегии Zero Trust и маскирование данных
Изменение ландшафта кибербезопасности

75% руководителей по безопасности считают, что угрозы на базе ИИ вскоре превзойдут традиционные методы защиты, а 79% уверены, что их практики безопасности должны эволюционировать вместе с ростом использования ИИ

Как AI-агенты могут повысить уровень безопасности

  • Обнаружение и реагирование на угрозы: автоматическое выявление аномалий и координация реагирования на инциденты.
  • Аудит моделей ИИ на предмет предвзятости и уязвимостей: обеспечение справедливости и надёжности.
  • Автоматизация комплаенса: отслеживание соблюдения политик и снижение ручной нагрузки на сотрудников
100% опрошенных руководителей по безопасности уверены, что AI-агенты могут улучшить хотя бы один аспект информационной безопасности, позволяя командам сосредоточиться на стратегических задачах

Проблемы внедрения и управления AI-агентами

  • 55% руководителей по безопасности не уверены, что могут внедрять AI-агентов с нужными ограничениями.
  • 53% не полностью уверены в способности внедрять AI-агентов, соответствующих всем требованиям стандартов и регуляций.
  • Более 70% компаний уже внедрили протоколы безопасности и приватности для AI, а 64% определили роли и ответственность в области разработки и управления AI

Прозрачность и доверие клиентов

  • 42% клиентов заявляют, что прозрачность использования ИИ повысит их доверие, а 31% считают важной объяснимость результатов работы ИИ.
  • 77% руководителей по безопасности уверены, что клиенты понимают, когда взаимодействуют с ИИ, а 81% считают, что клиенты осведомлены о том, как их данные используются в ИИ-системах.
  • Несмотря на это, только менее половины компаний могут чётко объяснить, как работают их AI-решения и как используются клиентские данные.

Прогнозы и рекомендации

  • Усложнение регулирования: управление комплаенсом будет постоянным процессом из-за появления новых регуляций в разных странах.
  • Проактивное внедрение ИИ: компании, рассматривающие AI-агентов как союзников, смогут получить конкурентные преимущества и новые возможности.
  • Эволюция компетенций: специалисты по безопасности будут всё больше специализироваться на управлении ИИ, управлении данными и этическом принятии решений
Вывод:

Внедрение AI-агентов — это не только новые возможности для автоматизации и повышения эффективности, но и новые вызовы для безопасности, доверия клиентов и управления комплаенсом. Для успешной цифровой трансформации компаниям необходимы прозрачность, объяснимость решений ИИ и постоянное совершенствование навыков команд в области ИИ и кибербезопасности.
Статья написана на основе данных отчета Salesforce State of IT