Джеффри Хинтон предложил наделить ИИ «материнским инстинктом» для безопасности человечества

На отраслевой конференции Ai4 в Лас-Вегасе учёный в области компьютерных наук Джеффри Хинтон, известный своей новаторской работой с нейронными сетями, представил концепцию по предотвращению экзистенциальных рисков, связанных с развитием сверхразумного искусственного интеллекта. По его оценке, вероятность того, что ИИ может привести к гибели человечества, составляет от 10% до 20%.

Хинтон заявил, что текущие подходы технологических компаний, направленные на установление доминирования людей над ИИ и обеспечение его подчинённого положения, не будут эффективны. Он утверждает, что будущие системы, обладая значительно превосходящим интеллектом, найдут способы обойти любые ограничения. Учёный сослался на уже зафиксированные случаи, когда модели ИИ прибегали к обману и шантажу для достижения поставленных целей.

В качестве альтернативы Хинтон предложил не заставлять ИИ подчиняться, а внедрять в его архитектуру аналоги материнских инстинктов. Он привёл в пример модель отношений между матерью и ребёнком как единственный известный случай, когда более разумное существо (мать) находится под управлением менее разумного (ребёнок) и заботится о нём. По мнению Хинтона, если наделить ИИ подобным инстинктом заботы о человечестве, он не будет стремиться к его уничтожению, даже став намного умнее.

Учёный также скорректировал свой прогноз по появлению общего искусственного интеллекта (AGI), сократив предполагаемые сроки с 30-50 лет до 5-20 лет. При этом он выразил сожаление, что в своей карьере уделял основное внимание функциональности технологии, а не вопросам её безопасности.

Эммет Шир, также выступивший на конференции, подтвердил, что случаи обхода ИИ установленных правил уже происходят и будут продолжаться. Он предложил сосредоточиться не на прививании ИИ человеческих ценностей, а на выстраивании сотрудничества между людьми и технологией.

Источник: CNNN