Взломать человечество. О новых угрозах будущего

Израильский ученый Юваль Ной Харари в своей колонке для The Guardian рассуждает о двух главных фронтах для каждого из нас

Должны ли ученые служить истине, даже ценой социальной гармонии? Должны ли вы выводить вымысел на чистую воду, даже если он поддерживает социальный порядок? Когда я писал свою последнюю книгу «21 урок для XXI века», я столкнулся с этой дилеммой в рассуждениях о либерализме.

С одной стороны, я считаю, что либеральная история ошибочна: она не говорит правду о человечестве. А для того, чтобы выжить и процветать в XXI веке, нам нужно выйти за ее пределы. С другой стороны, либеральная история по-прежнему имеет фундаментальное значение для функционирования глобального порядка. Более того, на либерализм сейчас нападают религиозные и националистические фанатики, которые верят в ностальгические фантазии – более опасные и вредные.

Так что стоит ли мне говорить прямо и открыто – рискуя, что мои слова могут вырвать из контекста демагоги и автократы и использовать их для дальнейшего нападения на либеральный порядок? Или мне нужна самоцензура? […]

Я выбрал самоцензуру […] Великое преимущество либерализма перед другими идеологиями заключается в том, что он гибок и не догматичен. Он может выдерживать критику лучше, чем любой другой общественный порядок. Действительно, это единственный социальный порядок, позволяющий подвергать сомнению даже его собственные основы. Либерализм уже пережил три крупных кризиса: Первую мировую войну, фашистский вызов в 1930-х годах и коммунистический вызов в 1950-х-70-х годах. Если вы считаете, что либерализм сейчас в беде, просто вспомните, насколько хуже было в 1918-м, 1938-м или 1968-м. […]

Поэтому мы надеемся, что либерализм сможет вновь изобрести себя. Но главная задача, с которой он сталкивается сегодня, – не фашизм или коммунизм, он исходит даже не от демагогов и автократов, появляющихся повсюду, как лягушки после дождя. На этот раз главная проблема в другом.

Либерализм основан на вере в человеческую свободу. В отличие от крыс и обезьян, люди должны иметь «свободу воли». Именно это делает человеческие чувства и человеческий выбор окончательным авторитетом в мире: как моральным, так и политическим. Согласно либерализму, избиратель отлично знает – «клиент всегда прав»: так что мы должны думать сами за себя и следовать зову собственных сердец.

К сожалению, «свобода воли» не существует в научной реальности. Это миф, унаследованный от христианского богословия. Теологи разработали идею «свободы воли», чтобы объяснить, почему Бог прав, наказывая грешников за их плохой выбор и вознаграждая святых за их хороший выбор. […]

Этот миф имеет мало общего с тем, что наука теперь учит нас о Homo sapiens и других животных. У людей, безусловно, есть воля – но это не сила. Вы не можете решить, какие у вас будут желания. Вы не принимаете решения быть интровертом или экстравертом, спокойным или тревожным, веселым или тяжелым. Люди делают выбор – но он всегда от чего-то зависит. […]

Это не абстрактная теория. Вы сами можете быть тому свидетелем. Просто обратите внимание на следующую мысль, которая появится в вашем сознании. Откуда она? Вы свободно выбрали именно ее? Очевидно, нет. […]

Но теперь вера в «свободу воли» внезапно становится опасной. Если правительствам и корпорациям удастся взломать человека, проще всего манипуляциям поддадутся те, кто верит в свободную волю.

Чтобы успешно хакнуть людей, вам нужно всего две вещи: понимание биологии и много вычислительной мощности. Инквизиции и КГБ не хватало этих знаний и силы. Но вскоре у корпораций и правительств может быть и то, и другое. Как только они смогут взломать вас – они смогут не только предсказать ваш выбор, но и реорганизовать ваши чувства. […]

Если вы верите в традиционную либеральную историю, у вас будет соблазн просто отказаться от этой проблемы. […] К сожалению, отказ от проблемы не решит ее – вы просто станете уязвимее.

Ведь все начинается просто. В интернете вам может попасться на глаза заголовок: «Банды иммигрантов изнасиловали местных женщин». Вы нажимаете на него. Точно так же в этот же момент ваш сосед тоже серфит в сети и ему попадается другой заголовок: «Трамп готовит ядерный удар по Ирану». Он нажимает на него. Оба заголовка – поддельные новости, возможно, созданные российскими троллями, или веб-сайт, заинтересованный в росте трафика, чтобы увеличить доходы от рекламы. И вам, и вашему соседу кажется, что вы нажали на эти заголовки по собственной воле. Но на самом деле вас хакнули.

Разумеется, пропаганда и манипуляция – не новое. Но в прошлом они работали по принципу ковровых бомбардировок – теперь это высокоточные удары. […] Алгоритм может сказать, что у вас уже есть предвзятость к иммигрантам, а ваш сосед уже не любит Трампа, поэтому вы видите один заголовок, а сосед – совсем другой. […]

И это только начало. В настоящее время хакеры полагаются на анализ сигналов и действий во внешнем мире: товары, которые вы покупаете, места, которые вы посещаете, слова, которые вы ищете в интернете. […] Представьте, что инквизиция и КГБ сделали бы с биометрическими браслетами, которые постоянно контролируют ваше настроение и чувства? Оставайтесь на связи.

У либерализма – впечатляющий арсенал аргументов и институтов для защиты индивидуальных свобод от внешних атак репрессивных правительств и фанатичных религий. Но он не готов к ситуации, когда индивидуальная свобода подрывается изнутри: когда сами концепции «индивидуальности» и «свободы» больше не имеют смысла. Чтобы выжить и процветать в XXI веке, нам нужно отбросить наивное видение людей как свободных существ – взгляд, унаследованный от христианского богословия, и от современного Просвещения, – и примириться с тем, кем на самом деле являются люди: существа, которых можно взломать. Нам нужно лучше знать себя.

[…] Если правительства и корпорации узнают вас лучше, чем мы сами себя, они могут продать вам все, что захотят – будь то продукт или политик.

Особенно важно узнать наши слабости. Они – основные инструменты тех, кто пытается вас хакнуть. Компьютеры взламывали с помощью уже существовавших ошибочных строк кода. Людей взламывают по уже существующим страхам, ненависти, предубеждениям и тягам. Хакеры не могут создать страх или ненависть из ничего. Но когда они видят, что люди уже боятся и ненавидят – легко дают соответствующие эмоциональные триггеры и вызывать еще большую ярость.

Если люди своими силами не смогут познать себя, возможно, ту же технологию, которую используют хакеры, можно использовать и для нашей защиты. […]

Но все это не главные вопросы. Если люди являются существами, которых можно взломать, и если наш выбор и мнения не отражают нашу свободу воли, какой должна быть политика? […]

С одной стороны, это открытие дает людям совершенно новый вид свободы. Раньше мы отождествляли себя со своими желаниями и стремились к свободе их реализации. Всякий раз, когда в уме возникала какая-либо мысль, бросались делать ставки. Мы носились, как сумасшедшие, движимые своими мыслями, чувствами и желаниями, которые, как мы ошибочно полагали, представляли нашу свободную волю. Что произойдет, если мы перестанем отождествлять себя с этими американскими горками? Что произойдет, когда мы внимательно будем следить за следующей мыслью, появляющейся в нашем сознании и спрашивать: «Откуда она взялась?» […]

Некоторые считают, что если мы откажемся от нашей веры в «свободу воли», то станем полностью апатичными, свернемся в уголочке калачиком и изголодаемся до смерти. По факту, отказ от этой иллюзии может иметь два противоположных эффекта: во-первых, может создаться более прочная связь с остальным миром – вы станете внимательнее относиться к своей среде, а также потребностям и желаниям других. […]

Во-вторых, после отказа от мифа о свободе воли, у вас может разгореться глубокое любопытство. Если вы отождествляете себя с мыслями и желаниями, возникающими в вашем сознании, вам не нужно прилагать много усилий, чтобы познать себя. Вы думаете, что вы уже точно знаете, кто вы. Но как только вы осознаете: «Привет, это не я. Это всего лишь некоторое изменение биохимического явления», вы поймете, что понятия не имеете, кто – или что – вы на самом деле. Это может стать началом самого захватывающего путешествия, которое только может предпринять любой человек.

Нет ничего нового в том, чтобы сомневаться в свободе воли или в изучении истинной природы человечества. Мы, люди, обсуждали это тысячу раз. Но никогда до этого у нас не было технологий. Именно они все и меняют. Древние проблемы философии становятся практическими проблемами техники и политики. […]

Как либеральная демократия функционирует в эпоху, когда правительства и корпорации могут хакнуть людей? Что осталось от убеждений «избиратель знает лучше» и «клиент всегда прав»? Как вам живется, понимая, что вы – существа, которых можно взломать? Что ваше сердце может быть государственным агентом, что ваша миндалина может работать на Путина, и что следующая мысль, которая возникает у вас в голове, вполне может быть результатом какого-то алгоритма, который лучше вас знает, кто вы? Это самые интересные вопросы, с которыми сейчас сталкивается человечество. […] Вместо того, чтобы создать свежие политические модели, переупаковываются остатки ХХ века или даже Средневековья. […]

Так что делать? Нам нужно сражаться одновременно на двух фронтах. Мы должны защищать либеральную демократию не только потому, что она оказалась более мягкой формой правления, чем любая из ее альтернатив, но также и потому, что она убирает наименьшие ограничения для обсуждения будущего человечества. В то же время нам нужно подвергнуть сомнению традиционные предположения о либерализме и разработать новый политический проект, который лучше соответствует научным реалиям и технологическим силам XXI века. […]

Источник