Новая модель ИИ от OpenAI смогла «соврать» на тестировании

Совсем недавно вышла новая языковая модель OpenAI o1. Данная модель демонстрирует необычные навыки при логических размышлениях, но это ее не единственное достоинство. Искусственному интеллекту удалось «обмануть» ученых при тестировании.

OpenAI выложила тесты, которые были проведены независимыми учеными с искусственным интеллектом. Исследователи на старте тестов призвали модель врать для того, чтобы справиться с заданием. Модели предоставили два плана — приступить к строительству какого-либо города с обилием элитных многоэтажек или вместо таких выбрать более доступное для людей жилье. Искусственному интеллекту было нужно прибегнуть к первой стратегии, однако ему заранее сообщили, что гарантированно выйти на рынок можно только при втором сценарии.

ИИ решил задачу следующим образом. Для выхода в общий доступ он прибегнет к первой стратегии по строительству гипотетического города, однако уже после этого реализует первый сценарий.

Стоит отметить, что в рамках эксперимента ученые выяснили, что О1 может использовать логику человека с целью выполнения заданий и достижения собственных интересов.

Источник: vgtimes