«К концу десятилетия он может нас всех уничтожить». Исследователь из Anthropic не захотел участвовать в гонке ИИ и уволился
Ранее он работал в OpenAI
Бывший исследователь из Anthropic Джейкоб Коксон ушел из компании, после чего начал публиковать в социальной сети X различные сообщения. Он опасается, что гонка в области ИИ приведет к созданию систем, которые уничтожат человечество.
«Никакая другая человеческая деятельность не представляет такой опасности», — заявил Джейкоб Коксон.
Он заявил, что не хочет участвовать в конкуренции, в которой компании соревнуются друг с другом за достижение такого состояния, когда люди больше не смогут контролировать ИИ.
Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями в области предварительного обучения в OpenAI и Anthropic. Ни одна из компаний не действует ответственно. Они несутся прямиком к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями. Мои мысли ниже.
«Мне кажется, мы не на верном пути, чтобы предотвратить глобальную гонку, для чего могут потребоваться дорогостоящие меры, такие как временный запрет на улучшение возможностей моделей», — написал он.
Не стоит недооценивать мощь этих технологий. Вскоре это будут сверхчеловеческие системы, способные взламывать что угодно, совершать революцию в любой области за одну ночь и получать реальную власть и ресурсы. Мы все стали свидетелями прогресса в каждой из этих областей, и прогресс не замедляется.
Роль Коксона в Anthropic заключалась в «обучении новых моделей ИИ путем обработки ими огромных объемов данных», то есть в предварительном обучении моделей.
Люди, создающие ИИ, всерьёз верят, что к концу десятилетия он может нас всех уничтожить. Это не маркетинговый трюк. Наоборот, многие руководители и ведущие исследователи в прессе пытаются выразить свои мысли разумно, но я слышу, как эти же люди в частном порядке выражают опасения. Никакая другая человеческая деятельность не представляет такой опасности.
Комментарии