Дэвид Брин. Сингулярность и кошмары

18 снежня 2017

Дэвид Брин (англ. Glen David Brin, род. 6 октября 1950) — известный американский писатель-фантаст. Лауреат премий Хьюго и Небьюла, а также премии Interstella War Award. Наиболее известен по циклу книг «Возвышение». Живёт в Южной Калифорнии, является консультантом НАСА и профессором физики. Источник: Nanotechnology Perceptions: A Review of Ultraprecision Engineering and Nanotechnology, Volume 2, No. 1, March 27, 2006. Reprinted with permission on KurzweilAI.net March 28, 2006. Перевод А.В.Турчина в редакции Андрея Егорова.

Для того, чтобы сегодня вам приснились хорошие сны, позвольте мне предложить вам описание нескольких возможностей ближайшего будущего, которое скоро наступит – перемен, которые могут произойти в течение следующих примерно двадцати лет, приблизительно за одно человеческое поколение. Возможностей, которые рассматриваются всерьёз некоторыми лучшими умами современности. Потенциальных трансформациий человеческой жизни на Земле, и, возможно, даже самого смысла слова «человек». <…>

Но готовы ли мы к новой эре, когда дилеммы вовсе не так просты? В наступающее время самые худшие опасности для цивилизации могут возникать не от идентифицируемых и исчислимых противников, – которые стремятся победить в ясном, точно просчитанном соревновании – а от общей доступности средств нанесения вреда.

Новые технологии, распространяемые через интернет и усиливаемые легко доступными инструментами, предложат всё большему числу разъяренных людей доступ к разным видам разрушительных сил, которые будут использованы по причине оправданной обиды, алчности, возмущения, или просто потому, что они есть.

РЕТРО-РЕЦЕПТ — ОТКАЗ 

Теодор Джон Качинский по прозвищу “Унабобмбер”

Сталкиваясь с внезапным развитием технологий в биотехе, нанотехе, искуственном интеллекте и т. д., некоторые выдающиеся люди – вроде Билла Джоя (Bill Joy), бывшего ведущего учёного фирмы Sun – видят мало шансов для выживания полностью отрытого общества. Возможно, вы читали грустный манифест Джоя в журнале «Wired Magazine», в котором он цитирует Унабомбера (не кого-нибудь, а именно его) в поддержку предположения, одновременно старого и нового – что нашей единственной надеждой на выживание может быть отказ, уничтожение или остановка нескольких видов технологического прогресса.

Идея об отказе получила поддержку повсюду на философской и политической карте, особенно на крайне правых и крайне левых её полюсах. <…>

Хотя некоторые из катастрофических сценариев, упоминаемых Биллом Джоем, Ральфом Петерсом (Ralph Peters) и Фрэнсисом Фукуямой, выглядят убедительными и стоящими исследования, всё же непонятно, как мы можем справиться со всем этим, став нео-луддитами. Законы, которые направлены на ограничение технологического продвижения, наверняка будут нарушаться группами, которые варятся в бульоне социального экстремизма, где как раз и сконцентрированы наибольшие опасности. Даже если будут введены свирепые репрессии – вероятно, усиленные всевидящим и универсальным контролем – это не предотвратит исследованиий и использования таких технологий элитами. (Корпорации, правительства, аристократы, преступники, иностранцы – выберите на свой вкус богему с неограниченной властью.) Годами я бросал вызов отрицателям прогресса – привести хотя бы один пример из всей человеческой истории, когда власть имущие позволяли бы такому случиться. Особенно, когда они не безосновательно полагают, что могут выиграть от чего-то нового.

По теме:

Глобальное потепление после холодной войны

 

Будучи неспособными ответить на этот вызов, некоторые отрицатели возражали, что новые мега-технологии – включая биотех и нанотехнологии – могут использоваться и развиваться гораздо лучше, если контроль над ними будет осуществляться только учеными элитами, возможно даже в секрете от остальных. Когда на кону столь много, не должны ли лучшие и самые знающие люди принимать решения за всех? В действительности, справедливости ради, я должен признать, что есть один исторический пример, который дает некоторое основание в поддержку такого мнения – это ядерное вооружение. Определённо, в этом случае главным спасшим нас обстоятельством было ограниченное число лиц, принимающих решения о начале губительной войны.

Однако, не был ли тогда весь политический процесс под внимательным наблюдением общественности? Не были ли эти лидеры контролируемы обществом, хотя бы и с одной стороны? Более того, решения об атомных бомбах не были сильно подвержены влиянию эгоистических интересов. (Говард Хьюз не стремился иметь и использовать частный ядерный арсенал.) Но эгоистический интерес определённо будет воздействовать на правящие элиты, когда они будут оценивать огромные выгоды и потенциальные издержки биотехнологий и нанотехнологий.

И с другой стороны, не является ли элитарная секретность именно таким создающим ошибки положением вещей, который Кричтон, Атвуд и многие другие рисовали столь живо, раз за разом произнося гневные проповеди в адрес технологического высокомерия? <…>

РЕДКО УПОМИНАЕМАЯ АЛЬТЕРНАТИВА — ВЗАИМНАЯ ПОДОТЧЁТНОСТЬ

И всё же, несмотря на весь скептицизм, я в действительности гораздо больше поддерживаю Джоя, Атвуда, Фукуяму и др., чем кто-либо мог бы ожидать. В своей работе «Прозрачное Общество» («The Transparent Society»), я хорошо отзываюсь о тех социальных критиках, которые громко предупреждают нас, когда видят потенциальные опасности на пути. В мире быстрых изменений единственный способ максимизации выгод от научного прогресса и минимизации его неизбежного ущерба – это использование прекрасно зарекомендовавших себя средств открытости и подотчетности. Эта коллективная версия «мудрости» – почти наверняка то, что спасало нас до сих пор. У нее нет почти никакого сходства с индивидуальной прозорливостью, которую мы привыкли ассоциировать со священниками, гуру и бабушками… но она менее зависима от непогрешимости. Менее склонна к катастрофе, когда миропомазанный Центр Мудрости совершает неизбежный просчёт.

В силу этого, на самом деле, я нахожу раздражающих нас торговцев беспокойством довольно полезными! Одно только их присутствие помогает прогрессу двигаться вперёд посредством озадачивания чрезмерно восторженных энтузиастов. Это процесс называется взаимной подотчётностью (reciprocal accountability). Без искренних ворчунов, стремящихся указать на потенциальные сценарии катастроф, мы действительно можем оказаться в той опасности, в которой мы, по их словам, находимся. Забавно, но в открытом обществе – где брюзги-Кассандры прекрасно слышны – вряд ли потребуются те самоограничения, или драконовский контроль, который они предписывают.

О, я понимаю общий смыл идеи отрицателей прогресса! Если общество останется столь же глупым, как думают некоторые люди – или даже если оно столь же умно, как я полагаю, но не станет ещё умнее – то тогда вряд ли получится хоть что-то из того, что народ планирует на тысячах исполненных благих намерений футурологических конференций. Получится не более, чем отсрочка неизбежного.

По теме:

Одержимость инновациями

 

В этом случае мы, наконец-то, получим ответ на одну из тайн современной науки – почему мы не нашли ни одного подлинного признака внеземной цивилизации среди звезд?! И ответ будет прост. Всякий раз, когда технологическая культура добивается своего, она разрушает себя. Эта возможность катастрофы всегда маячит на горизонте, напоминая, чем мы рискуем.

С другой стороны, я вижу все основания полагать, что у нас есть шанс преодолеть этот неизбежный риск. Являясь членами открытой и пытливой цивилизации, – такой, которая использует взаимную подотчетность, чтобы находить и исследовать все возможные сценарии катастроф, – мы, возможно, в достаточной степени оснащены для того, чтобы справиться с предстоящими вызовами.

Во всяком случае, полагаю, что так намного веселее.

ОПТИМИСТИЧЕСКИЙ СЦЕНАРИЙ – СИНГУЛЯРНОСТЬ.

Мы выслушали мрачных отрицателей прогресса. Давайте посмотрим на иной сценарий будущего. Сценарий тех, кто – буквально – верит, что только небо им предел. Среди многих наших величайших мыслителей вращается одна мысль – новый «мем», если хотите, – который говорит, что мы находимся на пороге взлета. Я имею в виду идею о наступающей Технологической сингулярности.

Рэймонд Курцвейл

Фантаст Вернор Виндж (Vernor Vinge) считается главным популяризатором этой идеи, хотя она уже существовала во многих формах на протяжении веков. Недавно Рэй Курцвейл в книге «Сингулярность рядом» доказывал, что наша научная компетентность и технологическая сила скоро резко возрастут и вытолкнут человечество в полностью новую эру.

Можно назвать это современной хай-тек версией апофеозиса (apotheosis – богоуподобление) ноосферы Тейяра де Шардена (Teilhard De Chardin) – приближающегося времени, когда человечество может перейти, ярко и решительно, на более высокий уровень осознания или бытия. Однако, вместо достижения трансцендентности через медитацию, добрые дела или благородство духа, идея нынешнего времени состоит в том, что мы можем использовать ускоряющийся цикл образования, творчества и компьютерно-опосредованного знания для достижения интеллектуального господства как над окружающей средой, так и над нашими примитивными страстями. <…>

В действительности, многие оппоненты науки и технологии вцепились в свои собственные образы мессианской трансформации, – образы, которые, говоря по правде, разделяют многие эмоциональные посылы технико-оптимистического восприятия, даже если они различаются в вопросе о средствах достижения изменений. Исторически, большая часть этих размышлений останавливалась на духовном пути, на идее о том, что человеческие существа могут достичь более высокого уровня развития посредством молитвы, морального поведения, ментальной дисциплины или повторения правильных заклинаний. Возможно, потому что молитва и заклинания были единственными доступными на то время средствами.

В прошлом столетии, интеллектуальная традиция, которая может быть названа «техно-трансцендентализм», добавила еще одну возможность: идею о том, что новый уровень экзистенции или более благодатное состояние бытия может быть достигнуто посредством знания и умения. <…>

Эта давняя традиция великих людей, направляющих свою веру и энтузиазм на трансцендентные мечты, говорит многое об одном аспекте нашей натуры, о характерной особенности, которая пересекает все культуры и эпохи. Довольно часто этот энтузиазм сопровождается презрением к современному обществу – вере, что некий вид спасения может быть достигнут только за пределами обычной культурной среды, которая часто недобра к настоящим философам и умникам. Крайне редко обсуждается, как много эти энтузиасты имеют общего – во всяком случае эмоционально – с теми, кто верит в более старые, более традиционные виды апофеозиса, настаивающих на путях в большей мере ментальных или духовных.

Мы должны помнить всю эту длинную историю, когда мы обсуждаем последнюю фазу: веру в исключительно позитивные эффекты экспоненциального роста возможностей вычислительных устройств. В то, что ускоряющаяся мощь вычислений предложит соответствующее глубокое увеличение наших знаний и сил. Нашей мудрости и нашего счастья.

Вызов, который я неоднократно бросал, состоит в следующем: «Назовите хотя бы один пример в истории, когда эти верования действительно сбывались. Помня все прошлые поколения, которые были уверены в своей идее изменения, не должны ли вы подходить к своему новомодному набору с некоторой предосторожностью… и, может быть, небольшим сомнением?» <…>

УСТРАШАЮЩАЯ ЗАДАЧА ПО ПЕРЕСЕЧЕНИЮ МИННОГО ПОЛЯ

После всего сказанного выше, позвольте мне поторопиться добавить, что я верю в высокую вероятность наступающей сингулярности!

Я верю в это, потому что альтернативы слишком ужасны, чтобы их принять. Потому что, как мы обсуждали выше, средства массового уничтожения, от атомной бомбы до бактериологического оружия, всё больше «демократизируются» – распространяются столь быстро среди наций, групп и индивидуумов – что нам лучше было бы видеть столь же быстрое распространение здравого смысла и мудрости, иначе мы все обречены.

На самом деле, не смотря на крайне распространённые стереотипы, я предполагаю, что есть твёрдые свидетельства, дающие некоторые основания для предварительного оптимизма. Восходящий тренд уже набирает силу. Суммарный уровень образованности, знания и благоразумия в Западной цивилизации – и у составляющих её граждан – никогда не был столь высок, и уровень этот может продолжить быстро повышаться в следующем веке. Возможно, достаточно быстро, чтобы предотвратить некоторые наиболее распространённые представления о грядущей катастрофе, с которыми вы выросли. Например, мы не увидим будущего в духе фильма «Бегущий по лезвию бритвы» или любой другой киберпанк-антиутопии. Такие миры, – в которых мощь технологий не соответствует мудрости и ответственности, – просто не смогут сами себя поддерживать.

Перед нами, кажется, открыты четыре категории альтернатив:

  1. Саморазрушение. Жертвоприношение или разорение, или массовое уничтожение. Или экологическое самоубийство. Или социальный коллапс. Выберете вариант по вкусу. Последующая долгая эра, в которой немногие выжившие (если таковые вообще будут) оглядываются на нас с завистью. Для чудесно депрессивного и информативного взгляда на этот вариант, смотрите книгу Джареда Даймонда «Коллапс». (Jared Diamond. Collapse: How Societies Choose to Fail or Succeed.) (Заметьте, что Даймонд ограничивает себя экологическими катастрофами, которые напоминают гибель цивилизаций прошлого; в силу этого он только чуть-чуть касается всего разнообразия возможных катастроф). Мы привыкли представлять, что саморазрушение происходит из-за ошибок правящих элит. Но в этой статье мы рассмотрели, как это может случиться, если общество вступит в эпоху всеобщей демократизации средств массового уничтожения, – или, как Томас Фридман обозначил это, «сверхусиления разгневанных молодых людей», – без комплементарного прогресса в социальной зрелости и всеобщей мудрости.
  2. Достигнуть некой формы «Позитивной Сингулярности» – или, по крайней мере, фазового перехода к более развитому и знающему обществу (которое может иметь свои собственные проблемы, которые мы не можем сейчас даже представить себе). Позитивные сингулярности могут, в целом, предоставить каждому нормальному человеческому существу возможность участвовать в колоссальных прорывах, пережить добровольное, решительное самоулушение, без какого-либо принуждения… или предательства базовых ценностей, которые мы все разделяем.
  3. Затем идёт «Негативная Сингулярность» – та версия самоуничтожения, в которой происходит резкий рост технологического прогресса, но таким образом, который представители нашего поколения сочли бы несколько неприятным. Конкретные сценарии, которые попадают в эту категорию, могут включать унижения, наносимые нам новыми, сверхинтеллектуальными наследниками (как в «Терминаторе» или «Матрице»), или мы можем быть просто «оставлены позади» некими сверхсущностями, которые погладят нас по голове и направятся к великим свершениям, которых мы никогда не сможем понять. Даже самые мягкие и умеренные версии такой «Негативной Сингулярности» воспринимаются как нечто отвратительное такими отрицателями прогресса как Билл Джой, мрачно смотрящими на перспективу того, что люди могут стать чем-то меньшим, чем вершиной эволюции жизни на Земле. <…>
  4. Наконец, имеется крайний исход, предполагаемый любым сценарием ограничения прогресса: возвращение к некой более традиционной форме человеческого общества, подобной тем, что поддерживали статичное единообразие посредством пирамиды иерархического контроля, по крайней мере, четыре тысячелетия. Это вариант, в котором сокрушаются технологии, способные привести к альтернативам 1 или 2 или 3. Имея 4 тысячи лет опыта в этом процессе, сверхконсервативные иерархии, вероятно, смогут справиться с соответствующей задачей, если мы дадим им достаточную власть. То есть, они смогут это делать некоторое время. <…>

Когда различные альтернативы разложены таким образом, становится понятно, какое ошеломительное будущее нас ждёт. Возможно, настанет эпоха, когда решится судьба человечества. Но определённо это не такая эпоха, которая выпадет из «истории». Читатель может обратиться к прекрасной книге Джоела Гарро «Радикальная эволюция» (Joel Garreau, Radical Evolution) за похожими, но более детально проработанными идеями. Она даёт прекрасный обзор двух экстремальных сценариев будущего – «Небес» и «Ада», а затем постулирует третий – «Преодоление», который кажется наиболее правдоподобным.

По теме:

Иллюзия свободы в эпоху цифровых технологий

 

Итак, какой из этих исходов кажется наиболее правдоподобным?

Во-первых, несмотря на то, что это может выглядеть привлекательным и соблазнительным для многих, я должен выразить сомнение в том, что 4-ый исход может быть успешным в течение продолжительного периода. Да, он резонирует с тайной нотой, которую каждый из нас чувствует внутри себя и которая унаследована от бессчётных тысячелетий феодализма и бесспорной феодальной преданности иерархии, нотой, которая нынче отражена во множестве популярных историй и фильмов в духе фэнтези. Несмотря на то, что мы воспитаны в привычке держать одни элиты под подозрением, в каждом из нас есть удивительная склонность закрывать глаза на другие элиты – или фаворитов – и предполагать, что они будут править мудро.

Определённо, квази-конфуцианская социальная модель, которая реализуется бывшими коммунистическими правителями Китая, кажется убедительным, твёрдым и новаторским походом к усовершенствованию авторитарного правления, так, чтобы в нём сочетались преимущества как капитализма, так и меритократии. Эта решительная попытка предполагает, что усовершенствованная и модернизированная версия иерархизма может преуспеть в подавлении всего беспокоящего, в то же время позволяя существовать прогрессу, который тщательным образом отслеживается. Это, очевидно, является отвержением Просвещения и всего, за что оно борется, включая установку Джона Локка о том, что процесс регулируемого, но в целом свободного человеческого взаимодействия может решать проблемы лучше, чем элитарные правящие касты. <…>

В действительности, мы уже убедились, в одной только этой статье, что есть более чем достаточно причин, чтобы понять, почему откат в развитии просто не может работать в течение длительного времени. Человеческая природа обуславливает то, что никогда не было успешного правления просветлённого, бесстрастного и мудрого «короля-философа». Этот подход подвергался справедливой проверке – в течение, по крайней мере, 40 столетий – и почти по любому счёту он провалился.

Что же касается оставшихся трёх путей, никаким образом никто – начиная с наибольших энтузиастов, сторонников «экстопии» и утопических трансценденталистов, вплоть до наиболее скептических и пессимистических предсказателей гибели – никто не может доказать, что один путь более вероятен, чем другой. (Как могут модели, созданные более ранней и грубой системой, симулировать и предсказывать поведение более поздней и сложной системы?) Всё, что мы можем сделать – это пытаться понять, какие процессы могут улучшить наши шансы на достижение благоприятных, более жизнеспособных исходов. Эти процессы наверняка будут как технологическими, так и социальными. Они будут в большой степени зависеть от нашей способности избегать ошибок.

Джон Локк, 1632-1704 гг.

Мой тезис – противоречащий многим предписаниям как справа, так и слева – состоит в том, что мы должны продолжать доверять Локку. Наша цивилизация уже обладает набором уникальных методик, чтобы справляться с быстрыми изменениями. Если мы обратим пристальное внимание на то, как эти методы работают, они могут значительно улучшиться, возможно, в достаточной степени, чтобы мы могли справиться с проблемами и даже процветать. Более того, наименее полезной модификацией может оказаться та, на которой настаивают сторонники Профессиональных Каст – увеличение патерналистского контроля. <…>

Фактически, если вы посмотрите на нашу современную культуру с исторической перспективы, она выглядит глубоко аномальной в своей склонности к индивидуализму, прогрессу, и, более всего, подозрительности к власти (suspicion of authority (SOA)). Эти темы активно и настойчиво подавлялись в огромном большинстве человеческих культур, потому что они угрожали стабильному равновесию, от которого правящие классы всегда зависели. В Западной Цивилизации, наоборот, – кажется, будто каждое творение масс-медиа, от фильмов до песен и романов, продвигает подозрительность к власти как центральную человеческую ценность. И, может быть, это в действительности наиболее уникальное качество нашей культуры, даже в большей мере, чем наше богатство и технологическое могущество. <…>

И хотя мы горды получившимся обществом – тем, которое поощряет эксцентричность, принятие разнообразия, социальную мобильность и научный прогресс – мы всё ещё не имеем права заявлять, что этот новый путь жизни является чем-то само собой разумным и очевидным. Многие в других частях мира считают жителей Запада безумными! И не без оснований. В действительности только время нас рассудит. Например, если мы доведём нашу подозрительность по отношению к властям до предела, и начнём параноидально не доверять даже нашим самым лучшим институциям – как это было в случае с Оклахомским террористом Тимоти Маквейем – то вполне возможно, что Западная цивилизация может распасться на части до достижения своих хвалёных целей и быстро направиться по одному из многих путей к исходу номер 1.

Определённо, позитивная сингулярность (исход 2) не может произойти, если будут действовать только центробежные силы и не будет компенсирующих центростремительных добродетельных сил, чтобы удержать нас вместе как общество взаимноуважающих друг друга независимых граждан.

Более того (как я указал в «Прозрачном Обществе», наши величайшие нововведения, – пространства ответственности, в которых решаются важнейшие задачи (наука, юриспруденция, демократия и свободные рынки) – не являются произвольными и не базируются на прихоти или технологии. Все они зависят от противников, соревнующихся в специально организованных игровых пространствах, с установленными твёрдо-заученными договорённостями для предотвращения разных видов жульничества, которые обычно правят бал, когда в процессе участвуют человеческие существа. Превыше всего наука, юриспруденция, демократия и свободные рынки зависят от взаимной подотчётности, которая происходит из открытого течения информации. Секретность – это враг, который разрушает все из них, и легко может распространиться, как инфекция, и разрушить наш хрупкий расцвет.

ЛУЧШИЕ МЕТОДЫ ИЗБЕГАНИЯ ОШИБОК

Очевидно, что наша самая срочная задача – найти и избежать множества ям с зыбучим песком – потенциальных способов возникновения катастрофы – по мере того, как мы с головой погружаемся в будущее. Рискуя повторить наше сверх-упрощение, можно сказать, что мы делаем это двумя путями. Первый – предвидение (anticipation). Второй – устойчивость (resiliency).

Первый метод использует наши знаменитые префронтальные области мозга – наши самые недавние и самые пугливые нейронные органы – чтобы вглядываться вперёд, производить мысленные эксперименты, предвидеть проблемы, создавать модели и предпринимать контрмеры заранее. Предвидение может быть спасительным средством… или одним из наиболее красочных путей к саморазрушению.

Другой подход – устойчивость – включает в себя создание сильных систем, наборов для реагирования, инструментов и распределенных сил, которые могут справиться практически с любой проблемой, когда она возникнет – даже с проблемами-сюрпризами, которые хвалёные лобные доли не могли даже представить себе. Нынче оба этих метода совместимы, даже взаимодополнительны. Нашей компьютерной промышленности способствовало то, что, помимо прочего, часть её сконцентрирована в Бостоне, а часть – в Калифорнии, где правят разные корпоративные культуры. Компании, взошедшие на северо-восточной ментальности, стараются создать совершенные продукты. Работники остаются в одной и той же компании, зачастую, десятилетиями. Они чувствуют ответственность. Они вычищают баги до релиза и отгрузки. Этим людям мы бы предпочли поручить создание банковской программы, или оборонного радара, потому что мы не можем позволить много ошибок даже в бета-версиях таких устройств, за исключением банкоматов! С другой стороны, люди, работающие в Силиконовой долине, кажется, думают как представители другого вида. Они кричат: «Давайте немедленно вынесем это на прилавок! Сначала нововведения, а потом ловля глюков! Наши потребители скажут нам, что нужно починить на лету! Они хотят новейшую вещь и к чёрту совершенство!» Сегодняшний Интернет вырос из вот такого творческого фермента, быстро приобретя эмерджентные качества системы, которая оказалась гораздо более сложной и плодотворной, чем предполагали её изначальные творцы. В действительности, в наибольшей степени они заслуживают славы за своё предвидение того, что могут возникнуть непредвиденные возможности!

По теме:

Словарный запас: БЛОКЧЕЙН

 

Иногда наилучшее планирование включает в себя оставление пространства для неизвестного. Это трудно, особенно когда твоя обязанность – готовиться к возможным катастрофам, которые могут повредить великой стране или уничтожить её. Военная и правительственная культура всегда была культурой предвидения, стремилась анализировать потенциальные краткосрочные угрозы и вырабатывала детальные планы, чтобы предотвратить их. Это привело к методологии «малых шажков» (incremental approach) в мышлении о будущем. Одно классическое клише состоит в том, что генералы всегда планируют воевать в модифицированной версии прошлой войны. История учит, что те, кто потерпели поражение – те, кто проиграли последнюю кампанию или испытывают горькую зависть, – часто обращаются к новаторским или жизнеспособным стратегиям, в то время как недавние победители находятся в большой опасности завязнуть в неподходящих решениях из прошлого, часто с катастрофическими последствиями.

Противоположной крайностью является жанр научной фантастики, чьи попытки предвидеть будущее являются – когда сделаны удачно – частью танца устойчивости. Когда достигается согласие относительно образа будущего, как это произошло с «киберпанком» в поздние восьмидесятые, наиболее яркие представители научной фантастики начинают скучать от этого сюжета и начинают искать альтернативы. В действительности, скука может рассматриваться в качестве одной из движущих сил творческих новаций, не только в научной фантастике, но и в нашей буйной цивилизации в целом. Как автор фантастических романов я могу сказать вам, что ошибочно думать, что авторы научной фантастики пытаются предсказывать будущее. С нашей большей склонностью к устойчивости, чем к предвидению, мы больше заинтересованы в открытии возможных видов катастроф и трясин на нашем пути, чем в получении детального пророческого путеводителя по будущему.

В действительности, можно попытаться доказать, что самым сильным видом фантастической сказки является самопредотвращающееся пророчество – история, роман или фильм, которая изображает мрачное будущее столь живо, пугающе и убедительно, что миллионы людей стремятся предотвратить исполнение этого сценария. Примерами этого благородного (хотя и пугающего) жанра, вместе с пророческими научно-популярными книгами, являются «Безотказный» (Fail-Safe), «О Дивный Новый Мир» (Brave New World), «Зелёный Сойлент» (Soylent Green), «Капитал», «Горячая зона», и – величайшая из всех, – «1984» Оруэлла, уже более 60 лет пугающая читателей до полусмерти. Оруэлл показывает нам провал, ждущий цивилизацию, которая соединяет страх с технологией и с чёрной, циничной традицией тирании. Сделав так, он вооружил нас против этой ужасной судьбы. Исследуя сумеречную территорию будущего нашими сердцами и умами, мы иногда можем обнаружить возможные сценарии катастроф достаточно рано, чтобы предотвратить их. Подводя итог, можно сказать, что этот процесс мысленного экспериментирования подходит как для предвидения, так и для устойчивости. Но он наиболее эффективен при массированном применениі, на рынках и других пространствах, где открытое соревнование между бесчисленными хорошо информированными умами может сотворить уникальную синергию, которая сделала нашу цивилизацию столь отличной от ведомых иерархией культур прошлого. Синергия иссушит плохие идеи с помощью критики, и вместе с тем позволит хорошим соединяться и процветать. Я не могу гарантировать, что этот сценарий будет работать на будущих опасных территориях. Открытая цивилизация, наполненная широко образованными, сильными и знающими гражданами, сможет направить очищающий свет взаимной подотчётности столь совершенно, что наступающие технологии не смогут быть использованы ужасным вредоносным образом ни секретными элитами, ни разгневанными молодыми людьми.

Или наоборот… возможно… это решение, которое продвинуло нас столь далеко в 20-м веке, не будет подходить ускоряющемуся 21-му веку. Возможно, ничего не будет работать. Может быть, это объясняет Великую Тишину, там, среди звёзд.

Вот то, что я знаю. Никакие другие рецепты не имеют даже малейших шансов сработать. Открытое знание и взаимная подотчётность, во всяком случае, стоят того, чтобы на них сделать ставку. Это – трюки, которые забросили нас столь далеко, если сравнивать с 4000 годами почти непрерывного провала систем иерархического контроля. Любой, кто говорит, что мы должны внезапно развернуться назад к дискредитированным и подверженным провалам путям секретности и иерархии, должен найти этому очень веские основания.

РАЗНООБРАЗИЕ ОПЫТА СИНГУЛЯРНОСТИ

Ну хорошо, что, если мы останемся наплаву и достигнем чего-то вроде Позитивной Сингулярности? Можно бесконечно обсуждать, что здесь является наилучшим или хотя бы желательным. Например, можем ли мы обменивать наши тела – и мозги – на более успешные модели, сохраняя ядро человечности… или душу?

Если судьба органических людей – быть заменёнными искусственными созданиями, которые будут гораздо более совершенны, чем мы, усовершенствованные обезьяны, – можем ли мы спроектировать тех, кто нас заменит, чтобы они хотя бы считали себя людьми? (Эту необычную идею я исследовал в нескольких коротких рассказах.) В этом случае, будете ли вы столь предвзяты, что будете ворчать на свою внучку в силиконовом теле, тогда как она будет навещать вас регулярно, удачно шутить, выражать симпатию и будет добра к своим собственным детям? Или они просто пройдут мимо, уделив лишь секунду для того, чтобы помочь нам примириться с нашим элегантным моральным устареванием?

Некоторые люди по-прежнему остаются поклонниками апофеозиса (apotheosis) Тейяра де Шардена – идеи о том, что мы все объединимся в единую макрообщность, буквально богоподобную в своём знании и восприятии. Физик Франк Типлер говорит об этой судьбе в своей книге «Физика бессмертия», и Айзек Азимов предлагает подобное восприятие как долгосрочную цель человечества в Крае Основания (Foundation’s Edge). Я никогда не находил эту идею особенно привлекательной – по крайней мере, в её стандартном представлении, согласно которому некая макро-общность просто складывает в себе все меньшие индивидуальности, и затем продолжает думать глубокие мысли. В «Земле» я пишу о разновидности этой идеи, которая может быть гораздо более приятной, в которой мы все остаёмся индивидуумами, и в то же время все вместе делаем новый вклад в планетарное сознание. Другими словами, мы сможем одновременно съесть пирожок и сохранить его.

В противоположной крайности, в «Триумфе Основания», моём сиквеле к знаменитой вселенной Азимова, я сделал более явным то, на что Айзек указывал всё время – на возможность того, что консервативные роботы будут бояться человеческой трансцендентности и по этой причине активно работать против человеческой Сингулярности. Боясь, что это нам повредит. Или позволит нам соревноваться с ними. Или даст нам силу оставить их позади. В любом случае, Сингулярность является очаровательной вариацией всех тех трансцендентальных идей, которые, как кажется, произрастали, естественно и спонтанно, из человеческой натуры с начала письменной истории. Даже более, чем другие, как раз эта может однажды оказаться разочаровывающей. В конце концов, хороший родитель хочет лучшего для своих детей – чтобы они были лучше и действовали лучше. И всё же может быть мучительно представлять их (или, возможно, их внуков) живущими, как боги, с почти что всеведущим знанием и восприятием и почти бессмертными – и принимающими это как должное.

Возникает соблазн ворчать: «Почему не я? Почему я тоже не могу быть богом?».  Но, впрочем, когда человеческое существование не было мучительным? В любом случае, что ещё более впечатляюще? Быть богоподобным? Или быть природными созданиями, продуктами хрюкающей эволюции, которые едва выползли из пещер… которые, тем не менее, сумели выучить правила природы, стали уважать их и затем использовать для создания полезных вещей, хороших потомков, хороших судеб? Даже богоподобных.

Все наши размышления и построения (включая это) могут, в конце концов, показаться забавными и наивными для этих ослепительных потомков. Но я так же надеюсь, они испытают моменты уважения, когда обратят свой взор на нас.

Они могут даже остановиться и осознать, что мы были в действительности совсем не плохи… для усовершенствованных пещерных людей. И наконец, какое чудо может быть более впечатляюще для таких ущербных созданий, как мы, чем спроектировать и породить богов? Возможно, нет более высокой цели. Или такой, которая бы лучше классифицировала нас как самонадеянных гордецов.

Или ещё… возможно… исполнение нашего предназначения и смысл всей этой боли в том… чтобы выучиться состраданию и мудрости, которые нам понадобятся, более, чем что-либо ещё, когда светлые ученики покинут лабораторию Мастера. Надеющиеся заслужить оценки и одобрения, напоследок, пока мы не начнем творить снова.

Полную версию текста на английском можно найти здесь.

ЛЯТУЧЫ ЎНІВЕРСІТЭТ — гэта некамерцыйная ініцыятыва, дзе любы жадаючы можа навучацца бясплатна.
Але гэтага ўсяго не было б без падтрымкі неабыякавых.
Напішыце каментар