Стоит ли бояться сингулярности?

Стоит ли бояться сингулярности — сверхразумного искусственного интеллекта, который будет развиваться, чтобы править над нами вечно?

Конечно же, нет, и вот почему…

Технологическая сингулярность — это гипотетический момент в будущем, когда технологический рост станет неконтролируемым и необратимым, что приведет к непредсказуемым изменениям в человеческой цивилизации. Короче говоря, модернизируемый интеллектуальный агент вступит в «реакцию самосовершенствования»: произойдет взрыв интеллекта, в результате чего получится мощный суперинтеллект, который, качественно, намного превзойдет весь человеческий интеллект.

Идея сингулярности очень популярна, и некоторые футурологи предсказывают, что это исключительно дело времени, когда мы склоняемся перед нашими гипер—интеллектуальными роботами—правителями!

Тем не менее, это полная хрень...

Во-первых, робототехника и искусственный интелект — одна из немногих технологий, которая эксплуатируется в художественной литературе и в хвост и в гриву. Более века фантасты нам пишут о роботах, представляя себе, какими они будут и на что способны. Именно фантастические романы и фильмы сформировали наши ожидания от искусственного интеллекта и робототехники. Плох тот фантаст, который не сделал из робота монстра.

Сегодня искусственный интелект и робототехника становятся все более продвинутыми: закон Мура, глубокое обучение, квантовые вычисления и т. д. могут предполагать неумолимую тенденцию к более умным машинам. А ум-это то, как мы измеряем успех, верно?

Ну, «умность» — это не только вычислительная мощность или эффективность. Это часто означает способность успешно справляться с неопределенностью и принимать обоснованные решения на основе неполной информации. Вот в чем люди хороши. Может ли искусственный интеллект похвастаться тем же?

Глубокое обучение, безусловно, может научить новым вещам, при условии, что есть достаточный учебный стимул для работы. Но что происходит, когда вы сталкиваетесь с действительно новой ситуацией, когда вам не на чем практиковаться? Вы обращаетесь к GOFAI: старый добрый символический искусственный интеллект.

Так как же нам создать или выучить «символы», вовлеченные в символическую логику? Ну, искусственный интеллект часто начинается с аксиом: заранее запрограммированных вещей, которые являются просто «истинной». Остальное выводится (или суммируется) по логике.

Однако, люди идут другим путем...

Человеческий подвижный интеллект сильно поддерживается нашими творческими способностями: нашей способностью думать об альтернативных сценариях и исследовать их в своем воображении. Этому способствует язык; чудесный инструмент для манипулирования — и даже создания — символов.

Теперь языки на самом деле не являются фиксированными, изолированными вещами. Они гибки и эволюционируют, они двусмысленны и хитры. Они передают эмоции так же, как имена и факты. Короче говоря, они веселые. А веселье лежит в основе приобретения подвижного интеллекта...

Млекопитающие умны, потому что они участвуют в игровом поведении. А люди очень умны, потому что мы играем с языком. Игра — это то, как мы учимся создавать и проверять модели мира, а игра воображения — это то, как мы учимся создавать модели вещей, которые на самом деле могут не существовать.

Игровое поведение играет огромную роль в формировании нашей способности использовать подвижный интеллект. Без игры мы страдаем «дефицитом воображения», а без воображения наша способность договариваться о двусмысленности и новизне серьезно снижается.

Так почему мы играем?

Мы играем, потому что это весело! Эмоциональное содержание игрового поведения одновременно стимулирует и регулирует поведение. Без веселья нет смысла играть, и мы теряем эволюционный бонус улучшения наших творческих способностей и ассоциации с нашим подвижным интеллектом.

Эволюция не заботится о том, умны мы или глупы, и она не выбирает интеллект по умолчанию. Быть сверхумным — не обязательно лучшая стратегия выживания: так уж случилось, что мы появились в среде и в то время, когда она была. Ум — это не сверхдержава.

Мы можем создать сверхмощный искусственный интеллект, но без способности к воображению это всего лишь сверхмощный инструмент. Если сингулярность случится, ему понадобится один дополнительный ингредиент, чтобы процветать и выживать. Тот же самый, на который мы полагаемся, чтобы учиться и расти: ощущение веселья!