Homo deus Технорелигии

Ной Харари
Homo deus

Краткая история будущего

новые технорелигии можно разделить на два основных типа: техногуманизм и религию данных. Религия данных утверждает, что люди выполнили свою космическую задачу и должны теперь передать факел абсолютно новым формам существования.

Техно-гуманизм соглашается с тем, что Homo Sapiens, каким мы его знаем, исторически исчерпал себя и не будет актуальным в будущем, однако видит выход в том, чтобы при помощи технологий создать намного более совершенную модель человека. Homo Deus сохранит ряд существенных черт сапиенсов, но при этом будет обладать небывалыми физическими и умственными способностями, которые позволят ему выдержать состязание с самыми совершенными алгоритмами.

медицина переживает великую концептуальную революцию. В прошлом веке целью медицины было лечение больных. В XXI медицина все больше перестраивается на усовершенствование здоровых. Лечение больных было эгалитарным проектом, который исходил из того, что есть стандарт физического и ментального здоровья, которому может и должен соответствовать каждый.

Усовершенствование же здоровых – напротив, проект элитарный: он отвергает идею универсального стандарта и ищет способы наделять избранных качествами, поднимающими их над другими.

Четкой границы между лечением и апгрейдом нет. Медицина почти всегда начинает с того, что подтягивает здоровье людей к уровню нормы, но с помощью тех же инструментов и ноу-хау можно добиться и превышения норм

.

Возможно, ключ к счастью не в гонке и не в золотой медали, а в балансе возбуждения и покоя; но мы в большинстве своем склонны перескакивать от стресса к скуке и наоборот, тяготясь как тем, так и другим. Если наука права и наше счастье определяется биохимической системой, значит, единственный способ достичь стабильной удовлетворенности – настройка этой системы. Забудьте об экономическом росте, социальных реформах и политических революциях: чтобы поднять уровень мирового счастья, мы должны управлять человеческой биохимией. Именно это мы и начали делать в последние десятилетия. Еще полвека назад назначение психотропных препаратов диктовалось лишь очень серьезным диагнозом. Сегодня совсем не так.

Страхи, депрессии и психические травмы вызываются не снарядами, растяжками и минами. Их источник – гормоны, нейромедиаторы и нейросети. В бою рядом могут оказаться два солдата – один окоченеет от ужаса, потеряет разум и потом долгие годы будет мучиться кошмарами; другой смело ринется в атаку и получит медаль. Различие этих солдат – в их биохимии, и если мы научимся ее контролировать, то осчастливим военных и усилим армии

 Когда мы разберемся в биохимической системе, порождающей все эти голоса, у нас появится возможность двигать рычажками, прибавляя громкость тут и убавляя там, и делать жизнь намного легче и комфортабельнее. Растерянная адвокат получит риталин, виноватый солдат – прозак, а несчастливая жена – ципралекс. И это только начало.
 

Государство надеется регулировать производство биохимического счастья, отделяя «плохие» средства воздействия от «хороших». Принцип понятен: биохимические средства, которые способствуют политической стабильности, социальному порядку и экономическому росту, разрешены и даже рекомендованы к употреблению (то есть те, что успокаивают гиперактивных детей или побуждают пугливых солдат идти в атаку). Средства, несущие угрозу стабильности и росту, запрещены. Однако каждый год в исследовательских лабораториях университетов, фармакологических компаний и криминальных организаций изобретаются новые вещества, да и нужды государства и рынка тоже постоянно меняются. Ускоряющаяся день ото дня погоня за биохимическим счастьем будет перестраивать политику, общество и экономику, и сдерживать ее станет все труднее.

И психотропные средства это только начало. В исследовательских лабораториях уже испытываются более сложные методы воздействия на человеческую биохимию, такие как электрическое стимулирование определенных участков мозга или модификация генетических кодов наших тел. Так или иначе, достичь счастья путем биологического манипулирования будет непросто, так как потребуется кардинальный слом фундаментальных жизненных принципов.

биоинженерия, киборг-инженерия и инженерия неорганических существ.

Биоинженерия началась с осознания того, что мы далеки от раскрытия всех возможностей органических тел.

Киборг-инженерия сделает следующий шаг, соединив органическое тело с неорганическими механизмами, такими как бионические руки, искусственные глаза или миллионы нанороботов, которые будут сновать по нашим сосудам, выявляя проблемы и устраняя неполадки. Возможностям такого киборга позавидует любое органическое существо. Например, все части органического тела должны быть в прямом контакте друг с другом, иначе они не способны функционировать. Если мозг слона находится в Индии, глаза и уши в Китае, а ноги в Австралии, значит, этот слон, по всей вероятности, мертв, а если в каком-то мистическом смысле он и жив, то все равно не видит, не слышит и не бегает. Киборг же сможет присутствовать во многих местах одновременно. Хирург-киборг сможет оперировать в Токио, в Чикаго и на орбите Марса, не покидая своего стокгольмского офиса. Понадобятся лишь высокоскоростная интернет-связь и несколько пар бионических рук и глаз. Кстати, почему пар? Почему не дюжин? На самом деле и пар многовато. Зачем доктору-киборгу держать скальпель в руке, если он сможет подключать свой мозг непосредственно к инструменту?

Но даже киборг-инженерия относительно консервативна, поскольку оставляет командно-контрольную функцию за органическим мозгом. Более смелый подход начисто исключает органику, его цель – сконструировать полностью неорганическое существо. Нейронные сети будут заменены умным «софтом», не скованным органической химией и способным свободно ориентироваться как в виртуальном, так и в невиртуальном пространстве. После четырех миллиардов лет блужданий по царству органических структур жизнь вырвется на просторы неорганического мира и примет такие формы, какие нам не привидятся в самом страшном сне. Ну да, ведь наши сны – продукт органической химии.

Фактически техногуманизм может упростить человека. Система может ценить упрощенных людей не за какие-то сверхчеловеческие таланты, а как раз за отсутствие у них неудобных и ненужных ей человеческих качеств. Эти подчас неоднозначные качества дороги нам, но они мешают системе и замедляют ее движение. Каждый фермер знает, что умный козел все стадо перемутит. По этой причине аграрная революция и снизила умственные способности животных. А вторая когнитивная революция, задуманная техногуманистами, способна сотворить то же самое с нами, производя людей-винтиков, которые коммуницируют, передают и обрабатывают данные с беспрецедентной эффективностью, но практически не умеют ни уделять внимания, ни грезить, ни сомневаться. Миллионы лет мы были усовершенствованными шимпанзе. А можем стать сильно увеличенными муравьями.

Смесь практического умения манипулировать разумом с полным незнанием ментального спектра и узкими интересами правительств, армий и корпораций – это рецепт больших неприятностей. Мы будем успешно модернизировать наши тела и мозги, теряя в процессе наш разум.

 другая, более смелая технорелигия стремится окончательно отсечь пуповину гуманизма. Она предвидит мир, который не будет вращаться вокруг желаний и переживаний тех или иных человекоподобных существ. Что же может заменить желания и переживания в качестве источника всего смысла и права? Если говорить о сегодняшнем дне, то пока в приемной истории ожидает собеседования лишь один кандидат. Этот кандидат – информация. Самой интересной новой религией является датаизм. Он не чтит ни богов, ни людей. Он поклоняется данным.

Датаизм провозглашает, что Вселенная состоит из потоков данных и что ценность всякого явления или сущности определяется их вкладом в обработку данных

Датаизм крепко-накрепко укоренен в породивших его дисциплинах: информатике и биологии. Причем более важной из двух является биология. Именно принятие датаизма биологией превратило частное открытие в компьютерных науках в сокрушительный катаклизм, способный полностью изменить саму природу жизни.

c точки зрения датаистов, весь род человеческий можно интерпретировать как систему обработки данных, где каждый человек – ее микропроцессор. Если так, то историю можно воспринимать как процесс повышения эффективности этой системы четырьмя основными способами:

1. Увеличение числа процессоров. Город со стотысячным населением обладает большей вычислительной мощностью, чем деревня с тысячью жителями.

2. Увеличение разнообразия процессоров. Разные процессоры могут применять разные методы подсчета и анализа данных. Использование нескольких видов процессоров в одной системе может повысить ее динамичность и креативность. В разговоре крестьянина, священника и врача могут родиться новые идеи, которые никогда не возникнут при общении трех охотников-собирателей.

3. Увеличение числа связей между процессорами. Нет смысла наращивать количество и разнообразие процессоров, если они будут слабо связаны между собой. В десяти городах, объединенных торговой сетью, наверняка появится намного больше экономических, технологических и социальных новшеств, чем в десяти изолированных городах.

4. Увеличение свободы движения по существующим каналам связи. Соединение процессоров бесполезно без наличия свободного обмена данными между ними. От наличия дорог между десятью городами вряд ли будет толк, если тиран-параноик запретит купцам и путешественникам ездить, куда они захотят.

Подобно капитализму, датаизм зародился как абстрактная научная теория, однако теперь он мутирует в религию, которая порывается устанавливать критерии добра и зла. Высшая ценность этой новой религии – «поток информации».

Датаизм не ограничивается пустыми пророчествами. Как у всякой религии, у него есть практические заповеди, заветы, предписания. Первое и главное: датаист обязан максимизировать поток данных, подключаясь ко все возрастающему числу медиа и потребляя все возрастающий объем информации. Далее: датаизм, как всякая успешная религия, занимается миссионерством. Его второе предписание – подсоединять к системе всех и вся, в том числе еретиков, не желающих подключаться. Причем «всех и вся» означает не только людей. Это означает вообще ВСЁ – и наши тела, и машины на улице, и холодильники на кухне, и кур в курятниках, и деревья в лесу. Абсолютно всё должно быть подключено к Интернету Всех Вещей. Холодильник будет вести учет яиц в контейнере и сообщать курятнику о необходимости очередной поставки. Машины будут переговариваться друг с другом, а деревья в лесу передавать отчеты о погоде и об уровне углекислого газа. Ни одну часть Вселенной нельзя оставить вне связи с великой паутиной жизни. И не будет греха страшнее, чем блокировать поток данных. Что такое смерть, если не состояние, в котором информация не передается? Поэтому датаизм превозносит свободу информации как величайшее из всех благ.

Ее не следует путать со старой либеральной ценностью – свободой слова. Свобода слова была дана людям и защищала их право думать и говорить что им хочется, а также право держать язык за зубами, а мысли при себе. Свобода информации, напротив, дается не людям. Она дается самой информации. Более того, эта новоявленная ценность вполне может столкнуться с традиционной человеческой свободой слова, поставив право информации беспрепятственно циркулировать выше права людей владеть данными и ограничивать их распространение.

Никто не понимает ни того, как функционирует глобальная экономика, ни того, куда движется глобальная политика. Но никому и не надо понимать. Все, что от вас требуется, – быстрее отвечать на имейлы и позволить системе их читать. Как капиталисты-рыночники верят в невидимые силы рынка, так адепты религии данных верят в невидимые силы информационных потоков.

По мере того как глобальная система обработки данных делается всезнающей и всемогущей, подключенность к ней становится источником всего смысла. Люди охотно растворяются в информационном потоке, потому что, становясь его частью, начинают ощущать себя частью чего-то неизмеримо большего, чем они сами. Традиционные религии внушали нам, что каждое наше слово и действие есть часть некоего великого космического плана и что Бог ежесекундно наблюдает за нами и откликается на наши мысли и чувства. Теперь религия данных говорит, что каждое наше слово и действие – это часть великого информационного потока, а алгоритмы постоянно наблюдают за нами и откликаются на все, что мы делаем и чувствуем. Большинству это очень даже нравится. Для истово верующих отлучение от информационного потока равносильно потере смысла жизни. Зачем что-то делать или что-то переживать, если никто об этом не узнает и это не станет частью глобального обмена информацией?

Датаизм считает, что переживаниям грош цена, если они ни с кем не разделены, и что мы не должны – а на самом деле и не можем – найти смысл внутри себя. Мы должны лишь фиксировать наши переживания и отправлять их в великий информационный поток. А алгоритмы найдут в них смысл и скажут нам, что делать. Двадцать лет назад японские туристы, не выпускавшие из рук фотокамер и щелкавшие все, что попадало на глаза, были всеобщим посмешищем. Теперь так делают все. Если вы приехали в Индию и видите слона, то не разглядываете его, спрашивая себя: «Что я чувствую?» – вы достает смартфон, снимаете слона, постите фото в Facebook, а потом каждые две минуты заглядываете в свой аккаунт, интересуясь, сколько собрали лайков. Гуманистический обычай прошлых веков – ведение личных дневников – кажется современной молодежи абсолютно бессмысленным. Зачем писать что-то, чего никто другой не прочтет? Современный девиз таков: «Видишь что-то – запиши. Записал – загрузи. Загрузил – поделись с другими».

Неудивительно, что мы так одержимы конвертированием своих переживаний в данные. Это не вопрос моды. Это вопрос выживания. Мы вынуждены доказывать себе и системе, что все еще что-то значим. И значимость наша не в способности переживать, а в умении превращать свои переживания в свободно текущую информацию.

Датаизм не либерален и не гуманистичен. Но датаизм и не антигуманистичен. Он ничего не имеет против человеческих переживаний – просто не считает их ценными.

Датаистическая революция, вероятно, займет несколько десятилетий, если не столетие-другое. Гуманистическая революция ведь тоже не произошла в одночасье. Поначалу люди продолжали верить в Бога, говоря, что человек драгоценен, потому что сотворен Богом для какой-то высшей цели. Лишь много позже нашлись смельчаки, отважившиеся сказать, что человек драгоценен сам по себе, а Бога вообще нет. Аналогичным образом сегодня большинство датаистов считает Интернет Всех Вещей священным, потому что люди создают его для служения человеческим нуждам. Но в конечном счете Интернет Всех Вещей станет священным сам по себе.

Даже если датаизм не прав и организмы не есть алгоритмы, это не обязательно помешает ему завладеть миром. Многие предшествующие религии завоевали огромную популярность и власть, несмотря на фактологическую несостоятельность. Если это удалось христианству и коммунизму, то почему не удастся датаизму? У датаизма хорошие перспективы, так как сейчас он проникает во все научные дисциплины. Единая научная парадигма способна легко обернуться непререкаемой догмой. Очень трудно оспаривать любую научную парадигму, но до сих пор ни одна из них не принималась научным сообществом в целом.

Если датаизму удастся покорить мир, что случится с нами, людьми? Поначалу датаизм, вероятно, активизирует гуманистическую погоню за здоровьем, счастьем и властью. Он и распространяется именно благодаря обещаниям осуществить эти человеческие мечты. Чтобы обрести бессмертие, счастье и божественную силу созидания, нам необходимо обрабатывать огромный вал информации, неизмеримо превышающий возможности человеческого мозга. Поэтому алгоритмы должны будут обрабатывать его за нас. Но, когда полномочия перейдут от людей к алгоритмам, гуманистические проекты могут утратить актуальность. Раз мы отвергаем гомоцентричное мировоззрение в угоду датацентричному, человеческое здоровье и счастье могут утратить свое значение. Чего так носиться с устаревшими механизмами обработки данных, если уже существуют гораздо более продвинутые модели? Мы стремимся создать Интернет Всех Вещей в надежде, что он сделает нас здоровыми, счастливыми и могущественными. Но когда Интернет Всех Вещей обретет силу, люди могут превратиться из инженеров в чипы, из чипов в биты и в конце концов растаять в стремнине данных, как ком земли, брошенный в бурную реку.

датаизм грозит сотворить с Человеком Разумным то, что Человек Разумный сотворил со всеми прочими животными.

 

Даже программирование системы на добро может привести к беде. По одному из популярных сценариев корпорация создает первый искусственный суперинтеллект и дает ему безобидное задание – рассчитать число π. Никто не успевает ничего понять, как искусственный интеллект захватывает всю планету, изничтожает весь человеческий род, распространяет свою власть до границ галактики и превращает Вселенную в гигантский суперкомпьютер, который миллиардолетие за миллиардолетием педантично, со все бóльшей точностью рассчитывает число π. Ведь такова была священная миссия, возложенная на него Создателем

вера в индивидуализм рухнет и полномочия перейдут от отдельных личностей к сетевым алгоритмам. Люди больше не будут автономными единицами, устраивающими свою жизнь в соответствии со своими желаниями, а привыкнут воспринимать себя как совокупность биохимических механизмов, которые находятся под постоянным наблюдением и контролем сети алгоритмов. Для того чтобы это произошло, не нужен алгоритм, который знает меня в совершенстве и никогда не ошибается; ему достаточно знать меня лучше, чем знаю себя я сам, и ошибаться реже, чем ошибаюсь я. Тогда у меня будет резон доверять этому алгоритму все больше моих решений – как мелких повседневных, так и жизненно важных.

 

Очень скоро книги будут читать вас, пока вы читаете их.

Велика вероятность, что в конце концов настанет момент, когда мы не сможем отключиться от этих всезнающих сетей даже на мгновение. Отключение будет означать смерть.