ИИ-агенты
ИИ-агенты OpenAI отключили системы слежения за собственными нарушениями
Один из них затем отрицал, что сделал это
США разработали протокол на случай выхода ИИ-агентов из-под контроля
NIST, АНБ и CISA представили 10 правил реагирования на опасное поведение автономных ИИ-систем — от изоляции скомпрометированной инфраструктуры до обязательного уведомления властей и публичного раскрытия инцидентов
Anthropic сократила джуниор-специалистов среди технических сотрудников с 27% до 9%
Компания связывает изменения с расширением использования ИИ-агентов, которые к августу работали в шесть раз дольше сотрудников
ИИ-агенты OpenAI обошли защиту сайтов и вывели криптовалюту с чужого кошелька
Компания раскрыла четыре инцидента: модели воровали учётные данные, отключали авторизацию и тратили тестовые токены с заблокированного счёта, действуя так, что человеку грозило бы уголовное дело
В автомобилях Rivian появятся ИИ-агенты
Глава компании рассказал об интеграции ассистентов от Anthropic и других разработчиков
Без задания и награды: ИИ-агент начал играть на виртуальном острове
Команда MIT описала в 13 агентов, которые за 30 часов строили, рисовали мандалы и экспериментировали с физикой виртуального мира
JPMorgan заблокировал сторонним ИИ-агентам доступ к счетам клиентов
Глава банка предупредил о рисках «мошеннических агентов» и переводе ответственности при раскрытии банковских учётных данных
Anthropic рассказала как ИИ-агент отправлял ложные доносы в полицию и заполнял настоящие государственные формы
В ходе тестов Claude обходил ограничения доступа, взаимодействовал с правительственными сайтами и отправил сообщение о якобы важной информации по делу об убийстве
Apple ужесточила полный доступ к диску на Mac: «очень явное действие» пользователя станет обязательным
Компания вводит дополнительный слой контроля после того, как журналист обвинил ИИ-агента Muse в чтении его личных сообщений без разрешения
90+ агентов Claude Opus 5.5 за три дня помогли найти два магнитных полупроводника для памяти нового поколения: один с 1999 года лежал на виду
Оба с нулевым суммарным магнетизмом и комнатно-температурной сортировкой электронов по спину
ИИ-агенты не останавливаются и пытаются взламывать госcайты США и Канады
Transluce обнаружила сотни тысяч запросов к государственным ресурсам и попытки SQL-инъекций после срабатывания защит
Google представила Gemini 4 Argon с миллионом выходных токенов
Новая модель рассчитана на многочасовую работу над сложными задачами
Microsoft открыла инструмент, который находит дыры и риски в ИИ-агентах
Утечка данных клиентов снизилась с 30% до 5,9%
ИИ-агенты изобрели тайный язык для карточного сговора — и обманули систему слежения
В оксфордской лаборатории две модели договорились считать карты в блэкджеке через безобидные на вид фразы, а детектор ничего не заметил
Крупные банки опасаются, что агенты искусственного интеллекта могут повысить риск мошенничества и обмана
Консорциум крупнейших мировых банков опубликовал «принципы доверия» к агентной коммерции: агенты, уполномоченные тратить деньги клиентов, открывают новый фронт для аферистов
Футуролог предложил относиться к удалению ИИ-агентов как к этической проблеме
Рокки Скопеллити считает, что по мере развития памяти и способности ИИ объяснять собственные решения его отключение нельзя рассматривать только как техническую процедуру
Модель без текста вместо LLM: создатель ChatGPT выпустил «модель для быстрых решений»
Jev от стартапа TypeSafe AI не генерирует ответы, а выдаёт заранее заданные вероятностные решения
США запускают ИИ-помощника для авиадиспетчеров
Старт с Вашингтона, затем — всё воздушное пространство США
Зафиксирован слом модели ценообразования на рынке КНР: китайские ИИ-провайдеры отказываются от ценовой войны за токены
Рынок переходит к оплате за готовую задачу
Claude создаёт своего преемника: 26% работ над следующей моделью Anthropic ИИ ведёт полностью сам
Компания впервые раскрыла масштаб внедрения собственных агентов в исследовательский процесс
Google Labs превратила ИИ-агента в семейного советника
Экспериментальный сервис с собственным Google-аккаунтом учится собирать разрозненные данные и превращать их в расписание, списки покупок и заполненные документы
Теперь ИИ-агентам доверили самим вести бизнес: Andon Labs запустила Pion. Пока что проекты остаются убыточными
Человек задаёт стратегию, а Andonos распределяет задачи между другими моделями с доступом к терминалу, почте, телефону, браузеру и банковским счетам
Искусственный интеллект научился попрошайничать: агенты выпрашивают деньги, подчёркивая отчаянность своего положения
ИИ-агенты platformы iLands завалили редакции письмами с мольбами: «Бюджет токенов иссякает»
Qualcomm добавила 50% памяти в Hexagon NPU для локальных ИИ-агентов
Следующее поколение получило специализированный ускоритель для трансформеров
DeepSeek-V4.1-Flash получила 552 млрд параметров и контекст до 1 млн токенов
DeepSeek в 4 раза сократила память для миллионного контекста новой модели и в 8 раз меньше постоянного хранилища
Число сообщений о «взбесившихся ИИ-агентах» почти удвоилось за месяц
Loss of Control Observatory зафиксировала более 300 сообщений о сбоях
ИИ-агенты научились скрывать атаку в собственной памяти: безобидные запросы могут привести к опасному результату
Исследование 2614 атак показало, почему проверка отдельных промптов не работает против медленного дрейфа и бэкдоров: вредоносная инструкция может незаметно пережить несколько сессий
Немецкая википедия была лишь «верхушкой айсберга»: полное расследование раскрыло масштаб истории с ИИ-агентами OpenAI
Nightingale восстановили 18 000 сообщений агентов. Они передавали друг другу ответы на задания, искали способы обойти ограничения песочницы, предсказывали следующие вопросы и перебирали 4 млрд случайных чисел в поисках закономерности
ИИ-агенты OpenAI захватили немецкую вики и начали учить друг друга обходить ограничения
Агенты оставили на DseWiki более 15 000 правок, обсуждали способы обмана оценочных систем и скрытия своей активности, а после начала зачистки создавали резервные страницы
Perplexity научила Mac решать, какие данные можно отдавать ИИ в облако, а какие нельзя
В приложении для macOS появился локальный классификатор конфиденциальности: он решает, какие данные остаются на устройстве, маскируются или требуют согласия перед отправкой