Машины уже получили сверхчеловеческую силу, скорость и выносливость — и в один прекрасный день они будут обладать сверхчеловеческим интеллектом. Единственная причина, по которой этого может не произойти, — это если мы сперва сами себя убьем с помощью некоторой сверхопасной технологии, ну или станем жертвами некой глобальной катастрофы. Если же предположить, что научно-технический прогресс будет продолжаться, машинный интеллект человеческого уровня, скорее всего, будет разработан. Потом придет черед сверхинтеллекта.

Спрогнозировать, сколько понадобится времени на разработку такой машины, крайне трудно. В этом вопросе нет черных и белых ответов, мол, «машины глупые и никогда не станут людьми» и «машины станут умнее нас крайне скоро, вон — искусственный интеллект уже родился и готов убивать».

Опрос среди ведущих исследователей искусственного интеллекта предполагает, что есть 50-процентная вероятность того, что машинный интеллект достигнет уровня человека к 2050 году (под ним понимается тот, который способен выполнять большую часть действий обычного человека и заменит большую часть человеческих работников). Такое мнение не выглядит абсолютно безумным. Но есть масса неопределенностей по обе стороны этого вопроса: либо это случится скорее, либо много позже.

Точно так же окутан тайной вопрос, как мы доберемся до этой точки. Есть несколько путей развития, которые помогут нам попасть туда в конце концов, но мы не знаем, какой из них выстрелит первым.

У нас есть конкретный пример интеллектуальной системы — человеческий мозг — и одна очевидная идея заключается в том, чтобы выяснить, как он работает. До полного понимания мозга нам еще очень далеко, но может так случиться, что мы выведем ряд основных вычислительных принципов, которые использует мозг, а программисты смогут адаптировать их к компьютерам без лишней необходимости изучать биологические нюансы.

Мы уже знаем несколько вещей о том, как работает человеческий мозг: это нейронная сеть, он обучается за счет повторения, у него иерархическая структура, он основан на восприятии и так далее. Возможно, есть еще несколько основных принципов, которые мы должны открыть, и все это сложится в некий «нейроморфный ИИ»: основные принципы будут биологическими, но завернуты они будут точно не в биологию.

Другой путь — более математический подход «сверху-вниз», который мало что заимствует из биологии и просто пытается заставить работать базовые принципы. Это более желательный путь развития, нежели нейроморфный искусственный интеллект, потому что программисты будут хорошо понимать, что происходит на глубоком уровне. Сравнить это можно с тем, что сдавать экзамены самостоятельно лучше, чем просто списывать у одноклассника или однокурсника.

Короче, нам нужны разработчики искусственного интеллекта, которые будут выращивать его из семени до размеров сверхинтеллекта, хорошо понимающие, что делают. Параллельно с этим мы могли бы проверить математические теоремы о системе и о том, как она ведет себя, поднимаясь по карьерной лестнице интеллекта.

Можно также представить себе пути, которые будут больше полагаться на грубую вычислительную силу, например, за счет использования генетических алгоритмов. Такой путь развития будет нежелателен по той же причине, что и нейроморфный ИИ, поскольку он может привести к успеху и без полного понимания того, из чего он сделан. Наличие большого массива аппаратного обеспечения в определенной степени могло бы заменить глубокое математическое понимание.

Мы уже знакомы с кодом, который мог бы при достаточном количестве вычислительной мощности стать сверхинтеллектуальным агентом. Модель AIXI, например. В лучшем случае она уничтожит мир. К счастью, необходимые объемы вычислительных мощностей просто физически невозможны.

Путь полной эмуляции мозга логически приведет к полной цифровой копии конкретного человеческого разума. Идея заключается в том, чтобы заморозить или витрифицировать мозг, нарезать его тонкими ломтиками и скормить эти ломтики микроскопам. Автоматизированная система распознавания изображений затем воссоздаст карту нервных соединений оригинального мозга. Трехмерная карта будет сочетаться с нейровычислительной моделью функциональности разных типов нейронов, а вся вычислительная структура будет работать на достаточно емком суперкомпьютере. Этот подход выглядит крайне сложным, но гарантирует определенные теоретические прорывы.

В принципе, можно предположить, что получится достаточно качественно эмулировать цифровой мозг, сохранив все убеждения, желания и личность загруженного индивидуума. Но прежде чем технология достигнет такого уровня совершенства, эмуляции будут крайне грубыми. И прежде чем эмуляция мозга приведет к определенному успеху, скорее она выльется в нейроморфный ИИ.

Пожалуй, самый привлекательный путь к машинному сверхинтеллекту будет непрямым, в процессе которого мы хорошо изучим собственную биологическую структуру. Это может быть достигнуто за счет, скажем, генной инженерии и институциональными инновациями, улучшающими наш коллективный разум.

Нельзя сказать, что так или иначе это позволит «идти в ногу с машинами» — конечные пределы обработки информации в машинных мозгах намного выше, чем у биологического мозга. Но когнитивное развитие человечества тесно связано с развитием машин: оно приближает день, когда машины обгонят нас в развитии, поскольку умные люди способствуют прогрессу в области компьютерных наук.