На премии стартапов обсудили опасности применения ИИ

На днях прошел финальный этап премии «Искусный интеллект 2023» среди стартапов из области интернета и финансовых технологий. К участию допустили свыше 700 участников из РФ, Казахстана, Грузии, Белоруссии, ОАЭ, Бразилии и Кипра. Большинство проектов создавалась с применением нейросетей.

Большинство разработчиков составили студенты, аспиранты и выпускники российских ВУЗов, при этом возраст участников колебался в диапазоне от 17 до 68 лет. Например, в направлении «Искусственный интеллект» было представлено два проекта от 17-летних стартаперов: система для написания бизнес-текстов и виртуальная примерочная на базе ИИ.

В категории «на уровне идеи» (20% всех проектов) победило решение, направленное на подготовку к публичным выступлениям с использованием нейросетей. Среди «компаний с подтвержденной выручкой» (26%) выиграла система для управления маркетингом на базе ИИ. А «на стадии минимально жизнеспособный продукт» (56%) одержал вверх стартап по эмуляции 30-кубитного квантового компьютера.

Около половины из всех представленных решений предназначены для автоматизации бизнес-процессов. Среди них стоит выделить проект для передачи задач и проверки умственных способностей работников. 38% участников были нацелены на улучшение жизни обычных людей. В этой категории стоит отметить разработку виртуального тренера, облегчающего занятия для бегунов. Цифровой футбольный хаб оказался среди 7% решений в области развлечений. 6% заявок были из области науки и медицины, где заметным проектом стал сервис выявлению по голосу и отслеживанию болезни Паркинсона.

«Премия служит для поддержки прогрессивных технологий и решений. Для многих она должна стать мостиком между разработчиками и инвесторами. Хочется верить, что с нашей помощью у многих талантливых ребят получится создать новые нетривиальные продукты, а поскольку технологии теперь развиваются очень быстро, то уже завтра мы сможем увидеть их в нашей повседневной жизни».

Анатолий Гавриленко, председатель экспертного совета по финансовой грамотности

Также члены жюри призвали контролировать развитие искусственного интеллекта с помощью создания общественных советов, которые бы рассказывали и согласовывали с обычными людьми действия разработчиков. По их мнению, внедрение в жизнь технологий должно быть с человеческим лицом, без нарушения прав человека, а если и дальше продолжать развивать ИИ без оглядки на обычных людей, то есть все шансы прийти к цифровому диктату.

Эксперты считают, что главной проблемой является то, что разработчики и сами не знают, как ИИ работает, насколько он хорош и коварен. Человечество не может понять его логику выбора, не может предсказать его действия в случае какой-то нестандартной ситуации. У нас нет возможности никак защититься от того, что сильный ИИ может в один момент перестать согласовывать свои действия с человеком.