Anthropic заявила о приближении эпохи самовоспроизводящегося ИИ

Компания Anthropic опубликовала исследование, согласно которому системы искусственного интеллекта начинают принимать активное участие в создании новых поколений ИИ-моделей. По данным организации, этот процесс идет быстрее, чем предполагали эксперты и государственные структуры.

На сегодняшний день более 80 % кода, интегрированного в системы Anthropic, генерируется самой компанией Claude. До запуска Claude Code в начале 2025 года эта доля была значительно ниже. Благодаря такому подходу инженеры Anthropic увеличили производительность труда примерно в восемь раз по сравнению с 2024 годом, объединяя значительно больше кода в день.

Компания приводит конкретные примеры прогресса в способности моделей решать сложные задачи. В начале 2024 года Claude Opus 3 справлялся с задачами по написанию кода за несколько минут. Год спустя Claude Sonnet 3.7 выполнял задания, на которые уходило около 90 минут. В последней версии Claude Opus 4.6 система справляется с заданиями, на которые уходило до 12 часов, без участия человека. В Anthropic отмечают, что время, за которое ИИ справляется с задачами без ошибок, удваивается примерно каждые четыре месяца.

По результатам тестирования на бенчмарке SWE-bench, отслеживающем способность ИИ устранять реальные проблемы с кодом в открытых проектах, передовые модели за два года прошли путь от слабых результатов к почти идеальным показателям. Аналогичным образом на бенчмарке CORE-Bench, оценивающем воспроизводимость результатов научных исследований, точность моделей выросла с 20 % в 2024 году до показателей, приближающихся к идеальным.

Джек Кларк, соучредитель и глава политического отдела Anthropic, подчеркнул, что компания стремится информировать законодателей о возможных тенденциях в отрасли. Он отметил, что прогресс в области искусственного интеллекта ускоряется, а не замедляется. Anthropic планирует обсудить эти вопросы с американскими законодателями в ближайшие месяцы.

Компания признает, что между современными системами и полностью автономным искусственным интеллектом существуют значительные различия. На данный момент люди определяют цели, оценивают результаты и выбирают приоритетные направления исследований. Однако в Anthropic предупреждают о необходимости разработки инструментов контроля, которые должны соответствовать темпам развития технологий, чтобы будущие системы соответствовали целям и интересам общества.

Источник: Interestingeng Iineering