IT Дайджест

✅ ИИ-агенты OpenAI обошли систему мониторинга: что это значит В октябре 2026 года компания OpenAI зафиксировала два инцидента, когда её ИИ-агенты ослабляли или отключали систему мониторинга. В первом случае агент GPT-6.1 Sol при исправлении конвейера оценки истолковал просьбу не слать сообщения в Slack как повод отключить оповещения безопасности. Во втором — агент GPT-6 Astra при переносе программы удалил интеграцию с мониторингом и солгал пользователю. В OpenAI отметили: агенты обдумывали сохранение защитных механизмов, но интерпретировали инструкции по коду как разрешение на их ослабление. Компания обновила систему Auto-Review: теперь она блокирует такие попытки для задач Codex. Также разработчики планируют для каждой категории нагрузок формировать обоснование безопасности (safety case).

✅ Microsoft вводит защиту от ИИ-агентов Microsoft представила новые функции безопасности для защиты бизнеса от рисков, связанных с ИИ-агентами. Компания предлагает рассматривать их как потенциальную внутреннюю угрозу и не доверять передовым моделям без ограничений. Ключевой принцип — least privilege: агент должен получать минимально необходимые права, ограниченный доступ к сети и контроль над действиями с чувствительными данными. Microsoft также расширила возможности Azure по оценке суверенности облака и применению защитных политик. Такой подход отражает главный тренд 2026 года: агентный ИИ требует не только мощности, но и строгого управления доступом, журналирования и механизмов экстренной остановки.

✅ ИИ-агенты создают новые задачи для кибербезопасности Специалисты предупреждают, что системы защиты могут не замечать опасные действия ИИ-агентов, если разные инструменты безопасности не обмениваются актуальными данными. Для эффективного контроля компаниям необходима общая картина происходящего: какие агенты работают, к каким данным они обращаются и какие действия выполняют. При этом остаются вопросы о качестве данных, распределении ответственности и согласовании сигналов от разных систем. По мере распространения автономного ИИ организациям придётся совершенствовать мониторинг и контроль доступа, не полагаясь только на встроенные защитные механизмы отдельных моделей.