Мы живем в эпоху стремительных перемен, когда научные и технологические достижения появляются, не успеваешь и глазом моргнуть. В результате мы создаем новый язык, описывающий нашу цивилизацию по мере развития. Перед вами 20 терминов и понятий, которые вам понадобятся на вашем пути в будущее. Некоторые из них представлены видными футурологами нашего времени, некоторые прошли через некоторое преобразование, хотя были изобретены еще лет семь-десять назад. Джордж Дворский с io9 собирал все эти термины много лет, и мы не могли пройти мимо.

Футуролог и писатель-фантаст Дэвид Брин предложил такой термин. Это в некотором роде смесь ‘sousveillance’ («подзор» — эдакий надзор с подглядыванием) Стива Манна и «паноптикона участия» Жамэ Кашио, отраженная в зеркале его собственного понятия «прозрачного общества» (Transparent Society). Брин описывает со-наблюдение как «взаимное видение и наблюдение, совмещающее слежку с агрессивным эффективным подзором». Он говорит, что это «внимательное наблюдение снизу». Вот как сам Брин описывает свой термин:

«Люди по праву обеспокоены возможностями слежки, которые растут и набирают мощь изо дня в день. Камеры становятся быстрее, лучше, меньше, многочисленнее и мобильнее, гораздо быстрее, чем закон Мура. Либералы видят в олигархии и безликих корпорациях Большого Брата, тогда как консерваторы обеспокоены тем, что оруэлловские «хозяева» возьмут под контроль академии и безликих бюрократов. Что более страшно? Да все. В то время как миллионы серьезно воспринимают предупреждения Оруэлла, обычный рефлекс — это нытье: хватит на нас смотреть! Но оно не работает. Что, если вместо нытья мы взглянем назад? Противопоставим слежке агрессивный эффективный подзор — внимательное наблюдение снизу? Скажем, поставим гражданские камеры в комнатах с мониторчиками, начнем наблюдать за наблюдателями?».

Брин говорит, что взаимное видение и надзор будет трудно настроить и поддерживать, но у них есть одно преимущество перед законами, запрещающими «смотреть на нас»: они могут сработать.

Конкретно этот мем — предложенный Жамэ Кашио из Института будущего — попал на радары совсем недавно. «Это экстракорпоральное оплодотворение, — говорит он, — но с генетическим изменением на уровне зародыша». Не так давно в Великобритании разрешили использовать биотехнологический прорыв, по которому ребенок может иметь трех генетических родителей — от спермы, яйцеклетки и (отдельно) митохондрии. Изначально это заявлялось как способ побороть надоедливые генетические заболевания. Но его также можно использовать для практики селекции человеческих качеств, или так называемых «дизайнерских младенцев». В США уже рассматривают возможность использования этого метода. Эпоха мультиплексового родителя грядет.

Футуролог и писатель-фантаст Рамез Наам говорит, что мы должны переживать о возможности «технологической безработицы». Он описывает безработицу, созданную развитием технологий, которые могут заменить черный труд людей:

«К примеру, возможно развитие безработицы среди водителей такси, грузовиков и так далее вместе с распространением самоуправляемых автомобилей. Явление это старое, ему сотни лет, и вместе с ним возникло движение луддитов, когда Нед Лудд уничтожал ткацкие станки в страхе, что они заменят ткачей среди людей. Технологическая безработица в прошлом всегда уступала (в долгосрочной перспективе) за счет создания новой ценности от автоматизации и появления новых нишевых работ для людей, все более высоких уровней абстракции. Вопрос современной эпохи заключается в том, сможет ли нарастающее вытеснение людей-рабочих уравновеситься изменениями социальной системы и появлением новых навыков, которые позволят людям остаться при старом уровне благополучия или поднять его за счет распространения новых созданных ценностей».

И правда, потенциал замены работников всех отраслей силами роботов и ИИ весьма высок и вызывает определенные опасения. Эти проблемы привели к возникновению другого термина, который стоит знать и который может служить в качестве потенциального антидота: гарантированный минимальный доход.

В будущем люди не будут ограничены своими мясными телами. Это то, что футуролог и трансгуманист Наташа Вита-Мор описывает как «субстрат-автономную личность». В конечном счете, говорит она, люди смогут формировать идентичности в многочисленных субстратах, вроде «тела для различных платформ» (будущего тела, которое можно будет носить/использовать в физическом/материальном мире, но которое будет также существовать в виртуальных системах), чтобы определять свою сущность в биосфере, киберсфере и виртуальной среде.

«Такой человек будет формировать идентичности, — говорит она. — Но также будет считать, что его индивидуальность, или чувство идентичности, должна быть связана с окружающей средой, а не с одним эксклюзивным телом». В зависимости от платформы, субстрат-автономный человек будет загружать и скачивать форму тела, которая подходит для среды. Таким образом, в биосферной среде человек будет использовать биологическое тело, в метавселенной — аватара, а в виртуальной реальности — цифровую форму.

Пришло время отправить в отставку термин «технологическая сингулярность». Причина этого, по мнению Стюарта Армстронга из Института будущего человечества, в том, что термин накопил слишком много багажа, в том числе и квазирелигиозных коннотаций. Это не самое лучше описание того, что может случиться, когда искусственный интеллект догонит, а потом и превзойдет человеческие способности, говорит он. Более того, разные люди трактуют его по-разному, и он описывает лишь ограниченный аспект более широкой концепции. Армстронг рекомендует использовать термин, изобретенный Ирвингом Джоном Гудом в 1967 году: взрыв интеллекта.

«Он описывает наблюдаемое внезапное увеличение интеллекта искусственной системы вроде ИИ. Есть несколько сценариев: система может радикально улучшать сама себя, обнаружив, что чем умнее она становится, тем проще становиться еще умнее. Также существует возможность, что разум человека не особо отличается от особи к особи, так что медленно совершенствующийся ИИ может быстро сократить дистанцию, которая разделяет сельского дурачка и Эйнштейна. Может быть и такое, что сущность должна быть ненамного умнее человека, чтобы стать намного более могущественной. В любом случае судьба жизни на Земле, вероятно, будет определяться именно такого рода «сверхразумами».

Хотя многие футурологи приветствуют радикальное продление жизни по гуманитарным соображениям, немногие оценивают поразительные финансовые выгоды, которые должны принести биотехнологии, позволяющие победить старение. Дивиденды долговечности, о которых говорит биоэтик Джеймс Хьюз из IEET — это «предположение биогеронтологов, что экономия средств в обществе, которое продлевает здоровую жизнь с помощью терапий, замедляющих процесс старения, намного превысит стоимость их разработки и обеспечения». Долгая счастливая жизнь снизит необходимость в медицинских и сестринских расходах, утверждает Хьюз, позволив при этом большему числу пожилых людей оставаться независимыми и работоспособными. На фоне потенциальных финансовых выгод развернется корпоративная гонка за технологии и снижение расходов за счет профилактической медицины.

Эту концепцию предложили Анна-Ли Ньюитц, главный редактор io9. Идея репрессивной десублимации впервые была разработана политическим философом Гербертом Маркузе в его книге «Эрос и цивилизация». Ньюитц говорит:

«Идея связана с типом мягкого авторитаризма, который предпочитает общества с богатой культурой потребления, которые хотят подавить политическое инакомыслие. В таких обществах поп-культура побуждает людей десублимировать или выражать свои желания, будь то секс, наркотики или жестокие видеоигры. В то же время они не подвергают сомнению действия корпоративных и государственных органов. В результате люди чувствуют, будто живут в свободном обществе, даже если находятся под постоянным наблюдением и вынуждены работать на нелюбимых работах. По сути, потребительство и свободные ценности отвлекают внимание людей от социальных репрессий.

Усиление интеллекта (intelligence amplification, IA) — это конкретная форма улучшения человека за счет дополнения человеческих интеллектуальных способностей технологиями. «Часто это позиционируется либо как дополнение, либо как конкурент созданию искусственного интеллекта, — говорит Рамез Наам. — В реальности нет взаимного исключения между этими технологиями». Наам отмечает, что IA может быть частичным решением проблемы технологической безработицы — позволит людям, или постчеловечеству, «идти в ногу» с достижениями ИИ и оставаться на коне.

Это еще один термин, предложенный Стюартом Армстронгом. Он описывает его так:

«…эффективные траты на благотворительность и другие альтруистические устремления. Подобно тому, как некоторые инженерные подходы могут быть в тысячи раз более эффективными при решении проблем, чем другие, некоторые благотворительные методы в тысячи раз более эффективны, чем другие. Повышение эффективности сказывается на большем числе спасенных жизней, большем числе выгод и возможностей для людей по всему миру. Считается, что если благотворительность может быть эффективнее, нравственный долг — сделать ее такой: неэффективность сродни тому, что дать людям умереть».

Джеймс Хьюз говорит, что нравственное усиление — еще один важный термин для футурологов 21 века. Известный также как добродетельная инженерия, этот метод подразумевает использование лекарств, носимых и имплантируемых устройств для повышения и усиления самоконтроля, эмпатии, сопереживания, честности, внимательности, сообразительности и душевного самочувствия.

Этот термин изобрел Макс Мор, президент и исполнительный директор Фонда продления жизни Alcor. Отчасти это частный случай принципа предосторожности. «Наша свобода в технологических инновациях очень ценна — даже важна — для человечества, — рассказал он. — Это накладывает несколько императивов по части предложения мер предосторожности: проводить оценку рисков и возможностей в соответствии с имеющейся наукой, а не опираться на популярное восприятие. Учитывать, с одной стороны, стоимость самих ограничений, и с другой — упущенных возможностей. Предпочитать меры, которые пропорциональны вероятности и величине воздействия и которые имеют высокую ценность ожидания. Защищать свободу людей в экспериментах, инновациях и прогрессе».

Жамэ Кашио предложил этот термин, хотя и признал, что используется он нечасто. Мулы — это неожиданные события (параллель с «черными лебедями»), которые не только лежат за пределами наших знаний, но и за пределами нашего понимания того, как устроен мир. Это отсылка к Мулу Азимова из серии «Основание».

Еще один термин Кашио, подразумевающий «текущую геологическую эру, характеризующуюся значительными изменениями экосистем за счет человеческой деятельности».

В отличие от закона Мура (Moore’s Law), по которому все ускоряется, закон Рума описывает (как минимум в фармацевтической промышленности) вещи, которые замедляются. По сути, это закон Мура наоборот. Рамез Наам отмечает, что скорость развития новых лекарств на потраченный доллар в этой отрасли упала в 100 раз за последние 60 лет. «Этому предлагали множество объяснений, включая чрезмерную регуляцию, сбор низко висящих плодов, принцип уменьшающейся отдачи в процессе понимания более сложных систем и так далее», рассказал он.

Наташа Вита-Мор описывает это как способность видов производить варианты, которые более устойчивы или которые сильнее существующих ныне в пределах вида:

«Один из способов понять эволюционируемость — рассмотреть любую систему, общество или культуру, например, которая обладает свойствами, способными к эволюции. Современная культура более эмерджентная и изменчивая, чем физиологические изменения, происходящие в человеческой биологии. За несколько тысяч лет инструменты людей, язык и культура изменились, эволюционировали многократно. Использование инструментов в пределах культуры определялось этой культурой и демонстрировал наблюдаемые признаки эволюционируемости — от камней к компьютерам — в то время как физиология людей оставалась по сути такой же».

«Это любое устройство, биологическое или технологическое, которое позволяет людям размножаться без использования матки женщины», — говорит Анна-Ли Ньюитц. Иногда его называют «маточным репликатором»: это устройство способно освободить женщин от биологических трудностей, сопряженных с беременностью, и избавить сам акт воспроизводства от традиционного спаривания мужчин и женщин. «Искусственные утробы смогут развиваться наряду с социальными структурами, поддерживающими семьи с более чем двумя родителями, а также гомосексуальные браки», говорит Ньюитц.

«Полная эмуляция мозга, — говорит Стюарт Армстронг, — это человеческие мозги, которые были скопированы в компьютер, а затем запущены в соответствии с законами физики с целью воспроизвести поведение человеческого разума в цифровой форме.

Такая эмуляция мозга зависит от определенных (легких) предположениях о работе мозга и требует определенных перспективных технологий вроде сканирующих устройств, чтобы воссоздать модель оригинального мозга; хорошего понимания биохимии, чтобы он правильно работал, и достаточно мощных компьютеров, чтобы его запустить. Существуют планы, которые могли бы позволить создать такие эмуляции к 2070-м годам или около того, со множеством неопределенностей. Будь такая эмуляция разработана, она перевернет здравоохранение, общество и экономику. К примеру, позволит людям жить в цифровой форме и копировать «человеческий капитал»: опытных, тренированных и эффективных работников, которых можно будет размножить при необходимости».

Армстронг говорит, что полная эмуляция мозга вызывает ряд опасений, и это неудивительно.

Рамез Наам говорит, что этот термин потерял былую популярность, но остается крайне важным. Он относится к подавляющему большинству всех работ «искусственного интеллекта», которые связаны с производством полезных шаблонов или обработкой полезной информации, но без необходимости создавать разумную сущность с самосознанием. «Поиск Google, Watson от IBM, самоуправляемые автомобили, автономные дроны, распознавание лиц, медицинская диагностика, алгоритмические трейдеры — все это примеры «слабого ИИ», — говорит Наам. — Подавляющее большинство всех коммерческих и исследовательских работ в области ИИ, машинного обучения и связанных областей относится к «слабому ИИ».

Представьте себе фантастическую перспективу создания интерфейсов, которые связывают мозги двух (или более) людей. Уже сегодня ученые создали интерфейсы, позволяющие людям двигать конечностью — или в данном случае хвостом — другого животного. Во-первых, такие технологии будут использоваться в терапевтических целях; с их помощью можно переучивать людей двигаться или использовать ранее парализованные конечности.

Это означает любую ситуацию, в которой новые алгоритмы могут внезапно и резко использовать существующую вычислительную мощность намного эффективнее, чем раньше. Это, вероятно, произойдет, когда тонны вычислительной мощи будут оставаться нетронутыми и когда ранее используемые алгоритмы будут неоптимальными. Это важное понятие в свете развития ОИИ (общего искусственного интеллекта).

Предположим, что вычислительная мощность будет продолжать удваиваться согласно закону Мура, но выяснить алгоритмы работы общего интеллекта человеческого уровня будет слишком трудно. Когда программное обеспечение для общего искусственного интеллекта наконец появится, будет доступен «вычислительный перевес»: огромные объемы доступной и дешевой вычислительной мощи для работы ИИ. Популяция ИИ быстро превзойдет популяцию людей.

Случится взрыв интеллекта или же просто массивное увеличение числа ОИИ, поскольку им будет просто размножаться на бесчисленных компьютерах. Возникнет риск для существования человечества.