За кулисами мероприятия в Лос-Анджелесе операционный директор Google Cloud Фрэнсис деСоуза сформулировал главный тезис о безопасности ИИ: её нельзя «прикрутить потом».
По его словам, компании, внедряющие ИИ, должны сразу строить стратегию вокруг трёх вещей: данных, безопасности и платформенного подхода. Иначе появляется «теневой ИИ» — сотрудники начинают использовать потребительские AI-инструменты без контроля компании, создавая риски утечек и нарушений.
ДеСоуза подчёркивает: единого облака у большинства компаний на самом деле нет. Даже если бизнес выбрал одного провайдера, он всё равно использует SaaS-сервисы, партнёрские системы и сторонние облака. Поэтому защита должна быть единой — для разных облаков, моделей, агентов, промптов и data pipeline.
Угрозы тоже ускорились. По его словам, время между первым взломом и следующим этапом атаки сократилось с 8 часов до 22 секунд. Старые подходы к защите просто не успевают.
Особенно опасны AI-агенты внутри корпоративных систем: они могут находить забытые хранилища данных, старые SharePoint-серверы и устаревшие права доступа — всё то, что годами оставалось незамеченным. А значит, могут случайно или намеренно раскрыть чувствительную информацию.
Решение, по мнению деСоузы, — защита на скорости машин: AI-native и агентные системы безопасности, где люди не управляют каждым действием вручную, а контролируют автономную оборону. Это уже не только задача CISO, а вопрос уровня совета директоров.
Но есть важный нюанс: сами платформы тоже не всегда успевают за рисками.
Недавние публикации The Register показали, что даже крупные облачные платформы вроде Google Cloud сталкиваются с болезненными сбоями на стыке ИИ, API и биллинга. Несколько разработчиков получили счета на тысячи долларов после несанкционированных обращений к Gemini через скомпрометированные API-ключи.
Проблема в том, что ключи, изначально созданные для одних сервисов Google, могли получить доступ к новым AI-возможностям после изменения их области действия. Для пользователей это стало неожиданностью: они не включали эти сценарии осознанно и не рассчитывали на такие расходы.
Отдельный риск — задержка при отзыве ключей. По данным исследователей Aikido, в некоторых случаях удалённый ключ мог продолжать работать ещё несколько минут. Для атакующего этого достаточно, чтобы успеть вывести данные или накрутить расходы.
Главный вывод: даже если платформа говорит о безопасности ИИ, компаниям нельзя полагаться только на настройки по умолчанию. API-ключи, лимиты, доступы и права нужно регулярно проверять самостоятельно.
ИИ может ускорить бизнес. Но без контроля он так же быстро ускорит утечки и расходы.
