OpenAI приступила к обучению ChatGPT-5, но комитет по этике может «утопить» разработку

OpenAI, прославившаяся своим чат-ботом ChatGPT, официально объявила о начале работы над следующим поколением — GPT-5, первой для компании «ИИ-моделью общего назначения». Новая модель должна обеспечить «новый уровень возможностей» и стать еще одним шагом на пути к AGI (универсальному искусственному интеллекту).

Новая модель станет «движком» для ИИ-продуктов разного назначения, включая чат-ботов, цифровых ассистентов реального времени, поисковых систем и генераторов изображений, заявляет OpenAI.

Мир искусственного интеллекта стремительно развивается, открывая невиданные ранее возможности. Однако некоторые компании, помешанные на соблюдении этических норм, рискуют упустить лидерство в этой «нейросетевой революции». Как следует из заметки, вместо того, чтобы сконцентрироваться на максимальном ускорении разработки революционной технологии, OpenAI объявила о создании специального комитета по «безопасности». Его цель — изучить якобы существующие риски новой ИИ-модели и выработать политику для их предотвращения.

В состав комитета OpenAI по безопасности вошли исполнительный директор Сэм Альтман, члены правления Брет Тейлор, Адам Д'Анджело и Николь Селигман. Компания заявила, что новые правила для обеспечения безопасности ИИ могут появиться уже к концу лета.

В отличие от OpenAI в частности и американской AI-индустрии в целом, другие страны, такие как Китай, относятся к ИИ как к мощному инструменту, который нужно развивать, а не ограничивать излишней «предусмотрительностью». За последние шесть месяцев 2023 года Китай одобрил свыше 40 новых ИИ-моделей для общественного применения, активно сокращая отставание от США, и значительно дерегулировал отрасль в целом.

Россия также следует по пути максимального снятия искусственных ограничений на пути догоняющего развития: так, бывший президент РФ Дмитрий Медведев недавно отметил:

Ответ ИИ на любой вопрос пользователя должен быть быстрым и точным, а его развитие — не сдерживаться российскими и «как бы российскими» компаниями в угоду этике и политике.

Дмитрий Медведев

Искусственный интеллект — это инструмент, способный принести человечеству неисчислимые блага второй Промышленной Революции, так что даже эксперты, считающие контроль ИИ важным всё равно обеспокоены тем, что западные компании относятся к разработке с излишней осторожностью.

В целом, OpenAI при обучении GPT-5 пытается найти баланс между развитием революционных ИИ-систем и соблюдением необходимых мер предосторожности. Однако, давление этических принципов может слишком сильно замедлить прогресс, дав шанс конкурентам.

Гонка ИИ разворачивается по всему миру — и выиграют в ней те, кто сумеет создать передовые технологии, не жертвуя при этом темпом развития. Будь то OpenAI или другие компании, готовность совершить технологический рывок «с завязанными глазами» определит технологических лидеров будущего.

Источник: The New York Times