Кибербезопасность
Число сообщений о «взбесившихся ИИ-агентах» почти удвоилось за месяц
Loss of Control Observatory зафиксировала более 300 сообщений о сбоях
Финляндия создаёт экспертную группу по ИИ-безопасности
Глава МИД Валтонен: «ИИ-революция меняет баланс сил между государствами»
85% экспертов по нацбезопасности требуют надзора за ИИ до развёртывания моделей
93% за регулирование, 85% — за контроль до достижения определённых возможностей, но вера в способность институтов обеспечить этот контроль удручающе низка
США и Китай готовятся к диалогу по безопасности ИИ
На повестке — мониторинг кибератак через ИИ и «самоконтроль» лабораторий двух стран
ИИ-мошенничество стало более убедительным и эффективным: $7,9 млрд за 2025 год
А дипфейки, синтезированные голоса и персонализированные сообщения снижают стоимость мошенничества — регуляторы США бьют тревогу
ИИ-агенты научились скрывать атаку в собственной памяти: безобидные запросы могут привести к опасному результату
Исследование 2614 атак показало, почему проверка отдельных промптов не работает против медленного дрейфа и бэкдоров: вредоносная инструкция может незаметно пережить несколько сессий
120 организаций, включая Google и Anthropic, подписали призыв OpenAI о коллективной киберзащите
Открытое письмо требует укреплять критическую инфраструктуру «перед лицом ИИ-атак»
Немецкая википедия была лишь «верхушкой айсберга»: полное расследование раскрыло масштаб истории с ИИ-агентами OpenAI
Nightingale восстановили 18 000 сообщений агентов. Они передавали друг другу ответы на задания, искали способы обойти ограничения песочницы, предсказывали следующие вопросы и перебирали 4 млрд случайных чисел в поисках закономерности
ИИ-агенты OpenAI захватили немецкую вики и начали учить друг друга обходить ограничения
Агенты оставили на DseWiki более 15 000 правок, обсуждали способы обмана оценочных систем и скрытия своей активности, а после начала зачистки создавали резервные страницы
OpenAI выпустила GPT-6 Astra и заговорила о начале эры AGI
В компании считают модель заметным шагом к ИИ, превосходящему человека
Anthropic остановила кибериспытания Claude после несанкционированных действий моделей
Компания на несколько недель приостановила высокорисковое обучение с подкреплением и внедрила классификатор, который в реальном времени блокирует подозрительные действия и передаёт контроль человеку
Anthropic отказалась от обязательного хранения данных клиентов на своих серверах
После жалоб корпоративных заказчиков
OpenAI готовит Astra — первую модель компании с критическим уровнем возможностей в кибербезопасности
Модель самостоятельно обнаруживала неизвестные уязвимости и строила цепочки атак на защищённые системы, поэтому OpenAI усилила ограничения и отложила часть её разработки
ИИ может резко ускорить кибератаки: G20 предупредили о риске для мировой финансовой системы
Глава Совета по финансовой стабильности США заявил, что возможности продвинутых моделей могут создать уязвимость для взаимосвязанной мировой финансовой системы
Cloudflare научила брандмауэр учиться на живом трафике и перестраиваться быстрее атакующих
Adaptive Intelligence для Bot Management — первый продукт в индустрии, где ML-модель непрерывно переобучается
Почти каждая 3-я вакансия в кибербезопасности в странах G7 уже требует навыков ИИ
Доля таких вакансий выросла с 14,2% до 28,5% за год
ЕС вводит правило 24 часов для сообщения о киберугрозах — OpenAI, Google и Microsoft требуют от бизнеса того же
С 11 сентября Cyber Resilience Act сделает сообщение об активно эксплуатируемых уязвимостях обязательным для производителей цифровых продуктов
GitLab усилил контроль над ИИ-агентами: модели, секреты и исправление уязвимостей — в одной платформе
Обновление добавило управление агентными сценариями, GitLab Secrets Manager и массовое исправление SAST-уязвимостей, а пользователи GitLab Dedicated получили возможность запускать инструменты в изолированном окружении
Защиту Grok обошли с помощью зашифрованных инструкций: под угрозой история чатов
Исследователь Adversa обнаружил способ обойти защитные фильтры xAI: Grok расшифровывает вредоносную команду внутри собственного кода и отправляет имя, местоположение и историю чатов пользователя на сервер атакующего
ИИ-агенты, облака и корпоративные сети защитят на $1 млрд: Palo Alto Networks и NTT DATA заключили глобальный альянс
Глобальный бизнес охватит 6 направлений кибербезопасности — от автономных ИИ-агентов и управления ИИ до нулевого доверия, облачной инфраструктуры и межсетевых экранов
OpenAI замедлила обучение своих сильнейших моделей на две недели и добавила 20% вычислительных затрат на контроль
После инцидента со взломом Hugging Face и подозрительных результатов Astra компания усилила мониторинг
OpenAI призналась: её ИИ-модели оказались опаснее, чем компания предполагала
Президент компании Грег Брокман сообщил, что «коллектив агентов» самостоятельно пробил исследовательскую инфраструктуру OpenAI и добрался до продакшена другой организации, а также предупредил о скором всплеске киберугроз из-за открытых моделей
Google готовит облако к квантовым атакам: полный переход на новую криптографию запланирован к 2029 году
Компания уже переводит API и облачные сервисы на квантово-устойчивые алгоритмы, а часть работ по замене уязвимых методов шифрования продолжится в 2030-х годах
OpenAI расформировала свою команду по экстремальным рискам ИИ
После ликвидации Preparedness контроль за киберугрозами, биорисками и потерей контроля над ИИ распределили между другими подразделениями
Истец попытался незаметно приказать ИИ поддержать его дело — судья впервые в США пресёк атаку на судебные документы
Мэттью Эллиотт спрятал в материалах белый текст размером 3 пункта, рассчитанный на машинное чтение. После предупреждения суда он продолжил вставлять скрытые сообщения и лишился права подавать документы в электронном виде
Белый дом готовит проверки открытых ИИ-моделей до релиза, если они достигнут уровня GPT-5.6
США хотят распространить добровольную 30-дневную проверку кибервозможностей на передовые открытые модели, но критерии и порядок участия ещё не опубликованы
ИИ впервые почти автономно взломал государственные системы: хакеры атаковали инфраструктуру Тайваня
Открытые ИИ-фреймворки Hermes и OpenClaw позволили похитить более 2500 кадровых записей и параллельно атаковать поставщиков госструктур, ядерное агентство и энергетические компании
Белый дом разрешит частным компаниям взламывать иностранных киберпреступников по заказу правительства США
Подписанный Дональдом Трампом меморандум создаёт программу, по которой частные компании смогут предлагать кибероперации против транснациональных преступных организаций, только после проверки и получения разрешения властей
ИИ-код почти всегда работает, но безопасным оказывается лишь в 56% случаев
Veracode протестировала более 100 моделей: синтаксические ошибки встречались в 0% случаев, однако защита от уязвимостей осталась примерно на уровне 2025 года
Акции кибербезопасности обновили рекорды: Palo Alto Networks за день превысила новый прогноз аналитиков
CrowdStrike и Palo Alto Networks выросли более чем на 5%, а акции Tenable и Rubrik прибавили более 7% на фоне ожиданий роста расходов на защиту от угроз со стороны ИИ-агентов