Мечты алгоритмов: наше "посчитанное" бытие

Апублікавана: 17.05.2017

Предлагаем вашему вниманию рецензию Торстен Ботс-Борнштейна на книгу французского социолога Доминика Кардона «О чем мечтают алгоритмы?» (What Are Algorithms Dreaming Of?), опубликованную The Berlin Review of Books. Перевод на русский – редакции «Летучего».

Торстен Ботс-Борнштейн (Thorsten Botz-Bornstein) – адъюнкт-профессор философии в Кувейтском научно-техническом университете (Gulf University for Science and Technology). Автор книги «Фильмы и мечты: Тарковский, Бергман, Сокуров, Кубрик и Вонг Карвай» (2007), а также ряда книг, затрагивающих такие темы как межкультурная эстетика и философия архитектуры.

Доминик Кардон (Dominique Cardon) – французский социолог, работающий над социальными вопросами, касающимися интернета. В своей третьей книге «О чем мечтают алгоритмы?» («What Are Algorithms Dreaming Of?»[1]) он срывает маску с мира интернет-алгоритмов, которые заполонили нашу повседневную жизнь. Алгоритм – это автономная математическая операция, используемая для обработки данных и автоматизации формулирования логических выводов. Название книги дает основания предполагать, что алгоритмы, возможно, о чем-то «мечтают»: при этом, «логический ход мысли» алгоритмов не имеет ничего общего ни с чистым разумом Канта, ни с практическим разумом Аристотеля. Наибольшие опасения вызывает то, что мы, как предполагается, обязаны воспринимать их мечту как нечто реальное.

Существует не так много сфер в нашей жизни, которые не поддаются вычисляющим инфраструктурам: походы в магазин, путешествия, секс, решения, принимаемые на личном и профессиональном уровнях, и т.д., все это «калькулируемо». Мы не всегда склонны относиться к подобным вычислениям серьезно и не предпринимаем серьезных попыток избавиться от них. В основе такой алгоритмизации «всего и вся» лежит мысль о том, что наши жизни, наши тела, общение, прием пищи и сон поддаются измерению, и что правильный подсчет соответствующих данных сделает наши жизни более эффективными. Проблема состоит в том, что деятельностью, связанной с измерениями, к которой в прошлом доступ имелся только у специалистов, работавших в основном на правительство, в настоящее время может заниматься любой желающий. Еще одна проблема состоит в том, что персонализация данных создает новую категорию социального, что приводит к возникновению «поведенческого общества» (behaviour society), в котором кардинальным образом меняются отношения между центральной властью и отдельным индивидуумом, т.к. каждодневная реальность начинает переосмысливаться с точки зрения статистики. В конечном счете, люди начинают приспосабливаться к этой действительности, а это значит, что алгоритмы не просто измеряют, но и преобразовывают реальность. При этом еще одна проблема состоит в том, что большую часть времени сами эти вычисления остаются непрозрачными.

Например, очень легко управлять измерениями онлайн-аудитории при помощи «clickbait» или посредством продажи «third-party cookies» таким рекламным сетям как Weborama, Double-Click или Right Media, задача которых состоит в том, чтобы связывать онлайн-рекламу с браузерами. Для размещения ссылок обычно создаются фейковые веб-сайты; также существуют целые «фермы» таких сайтов (site farms) (стр. 27): «Фейсбук и Твиттер не предпринимают ничего для того, чтобы избавиться от ложных аккаунтов и мошенников» (стр. 81). Такая искусственная фальсификация власти стала «слоном в комнате» (нечто совершенно очевидное, о чем никто не осмеливается заговорить).

Несмотря на то, что сторонники алгоритмов утверждают, что они вышли за рамки традиционных систем власти (и их профессиональных представителей, таких как журналисты, редакторы, специалисты по маркетингу и т.д.) во имя децентрализации, – в действительности же они создали новую власть, которая рано или поздно избавится от всех тех, кто не находится в ее центре. Рассмотрим, к примеру, интернет-траффик. В настоящее время, один процент интернет-пользователей захватывает девяносто процентов полной видимости (overall visibility) (стр. 95). Какая же это децентрализация? Внимание привлекает еще большее внимание. В мире традиционной власти внимание необходимо было заслужить, в то время как в этом дивном новом мире «цифровой близости» (numerical affinities) внимание – это просто вопрос накрутки (стр. 28). Кардон объясняет это явление при помощи теории о «gloriometers» (измерители славы; «триумфометры») Габриеля Тарда (Gabriel Tarde), которая недавно привлекла к себе внимание таких социологов как Бруно Латур (Bruno Latour). В сущности, социальные сети являются огромными «фабриками экспрессивных знаков». Данные знаки определяются в количественной форме и классифицируются в соответствии с основополагающими принципами абстрактной формы совершенства. Ты должен быть самым «лучшим» с точки зрения кликов и линков. Неизбежным последствием этого станет то, что цифровая реальность, изобретенная алгоритмами, станет совершенно несовместимой с действительностью, в которой мы живем, в которой проходит наше повседневное существование.

Свои основные аргументы Кардон подкрепляет эмпирическими исследованиями, представленными при помощи интересной дидактической схемы. Кардон полагает, что относительно сети (web) вычисление занимает четыре различных положения: сверху, внизу, рядом с сетью и внутри сети – при этом «калькулятор» постоянно перемещается с одного места в другое, чтобы ослабить стандартную модель социальной статистики (стр. 40-41). Когда калькулятор расположен сверху сети, он подсчитывает маркировочные знаки «распознавания», такие как частота связей. Будучи расположенным внизу или под сетью, он делает записи следов, оставленных пользователями. Когда он рядом с сетью, он подсчитывает количество кликов, чтобы охватить посещаемость целиком. Наконец, будучи внутри сети, он сам пытается произвести видимость (visibility).

Ложная свобода

Алгоритмы принято считать авторитетными не потому, что они способствуют глубокому пониманию содержания веб-страницы, а потому, что они измеряют социальную силу веб-страницы в структуре интернета: то есть, они измеряют то, сколько раз кликнули на ту или иную страницу. Эта революционная идея вдохновила Сергея Брина и Ларри Пейджа создать Google, первую поисковую систему, основанную на «рейтинге страниц». Если говорить более широко, то алгоритмическая культура заявляет (в духе позитивизма), что ей удалось преодолеть идеологии и традиционные системы власти, делающие людей несвободными. Получается, что человек, который следует за алгоритмом, в некотором смысле, просто следует за самим собой. Интернет-юзеры, следующие за алгоритмами, не обязаны придерживаться «фундаментальных» законов, связанных с их этнической принадлежностью, национальностью, религией и даже полом (гендером). Каждый пользователь действительно индивидуален, поскольку он никак не связан ни с одной более многочисленной группой. Разве это не свобода? Когда Amazon.com рекомендует новый компакт-диск пользователю, то он делает это не потому, что пользователь является мусульманином или американкой, а потому, что алгоритм оценил предыдущее поведение человека. Эта свобода, однако, заканчивается, когда алгоритмы запихивают нас в свою собственную мечту о человеке, выраженном в количественной форме. Основывая все свои знания на количественном анализе интересов, алгоритмический подход преобразовывает отдельных людей и всё общество. Он низводит человека до его поведения, и от этого образа, единожды сложившегося, человеку будет очень сложно избавиться. В конце концов, пользователь оказывается заключенным в мыльном пузыре, который, как ему внушают, является результатом максимально возможной свободы. Однако по-настоящему реальная свобода задушена стремлением калькуляторов сконструировать воплощение статистической закономерности, которую мы считаем само собой разумеющейся и которую мы воспринимаем как результат нашего свободного выбора. «Подталкивания», которые Касс Санстейн (Cass Sunstein) анализирует в своей книге «Почему подталкивания?» (Why Nudge?), могут служить наглядным примером «добровольного патернализма» по ассоциации с культами и религиями, когда людям внушают мысль, что «выбор», который их фактически заставили сделать, на самом деле является добровольным.

Классическая экзистенциалистская тема приходит на ум, когда Кардон утверждает, что люди вверяют свою судьбу «воронке вероятного» (funnel of the probable) (стр. 16), потому что истинный объем выборки личной информации, используемой для создания алгоритма, просто несоразмерен. Вероятностный выбор стал сущностью (essence), к которой мы, как предполагается, обязаны свести всё наше существование, – вместо того чтобы, как призывал Сартр, спроецировать наше собственное существование на окружающий нас мир (и только после этого – определить какие бы то ни было потенциальные сущности). При помощи алгоритмов вероятностный выбор становится сущностью. Мы принимаем нашу собственную «essentialization» (эссенциализация; процесс создания сущностей) через количественный анализ (цифровое описание) и рассматриваем это как акт свободы, т.к. то, что было измерено количественно, является нашим собственным выбором. И всё же, задается вопросом Кардон, «может ли профиль, полученный в результате анализа моих действий в интернете, не приводить к искаженным и пристрастным решениям?» (стр. 80). Учитывая тот факт, что статистическая закономерность рассчитывается автоматически, нам следует более осторожно относиться к любым аргументам, касающимся таких тем как Свобода. Действительно ли автоматически созданный выбор совместим с такой экзистенциально насыщенной идеей как Свобода? Конечно, нет. У людей могут быть свои собственные «странные» экзистенции, которые не обязательно вписываются в схемы статистической закономерности.

Кардон подчеркивает, что быть свободным означает иметь право совершать ошибки, из которых можно извлечь урок (стр. 105-6). Заблудиться в городе, потерять время и деньги, рисковать, восхищаться чем-то, чего совсем не понимаешь, принимать на себя ответственность за ошибки… Всё это – экзистенциальные события, которые человек должен пережить во имя Свободы. Которой у нас больше не будет в мире алгоритмов.

Конец гипотез

Свободный человек также имеет право делать предположения, основанные на ограниченном количестве данных, и надеяться, что эти предположения верны. Естественно, у науки данных нет никакого заранее подготовленного набора догадок и умозаключений. Есть только оптимистично настроенные ученые, которые опираются в своей работе на точные науки. Так как компьютеры в состоянии обрабатывать огромные объемы данных в мгновение ока, высказывать предположения или даже выдвигать гипотезы стало фактически бесполезным занятием (стр. 53). В силу того, что мы обладаем знанием обо всём, всё, что нам остается сделать, – это сравнить различные наборы данных. Результаты не заставят себя ждать. Единственное оставшееся допущение – предполагать, что правильный и предсказуемый набор характеристик всё-таки существует.

Когда у вас есть GPS, вы не обязаны думать о том, какую дорогу выбрать, чтобы быстрее добраться до места назначения. Знание автоматизировано. Всё это очень эффективно, но в процессе автоматизации экзистенциальный акт выбора утрачивается. Свободный человек должен иметь право на рефлексию и тщательное обдумывание, если и когда он посчитает это необходимым. Следовательно, по-настоящему свободный человек также должен иметь право на полное удаление следов своего пребывания в интернете в любой момент. К сожалению, это уже почти невозможно: единственный вариант – «полное забвение». Только в случае полного отказа от сети мы можем надеяться на то, что мы опять станем полноправными хозяевами самих себя, что нас не будут постоянно анализировать с точки зрения нашего поведения, и что наше существование не будет автоматизировано алгоритмами.

Как это ни парадоксально, алгоритмизация жизни идет вразрез с тем, что свободный гражданин ценит больше всего. Люди обычно с подозрением относятся к централизованной власти, будь то власть политиков, журналистов или союзов. Они также ненавидят, когда их классифицируют и записывают в какие-либо группы, полагая, что их индивидуальность не вписывается ни в какую «категорию». И эти же самые люди позволяют запирать себя в тюрьму алгоритмов – частично из-за того, что этот новый алгоритмический авторитаризм успешно разрекламирован как не-авторитаризм, и частично потому, что людей впечатляют скорость и эффективность алгоритмической координации.

Существование, точно так же как опыт, не может быть определено количественно. В количественной форме могут быть выражены клики (щелчки кнопкой мыши), покупки, действия или взаимодействия. Простое определение количества никому не интересно, поэтому собранные данные превращают в алгоритмы, чтобы вычислять и сравнивать с другими кликами, покупками, действиями и взаимодействиями. Вот как об этом говорит Кардон:

«Единая теория поведения заменена калькуляторами с постоянно изменяющейся мозаикой случайных микро-теорий, формулирующих локальные псевдо-объяснения вероятного поведения. Предполагается, что эти вычисления должны привести нас к самым вероятным объектам. Их не нужно – а зачастую невозможно в принципе – понять. Такой перевернутый способ конструирования общественной жизни ведет к полной перестановке причинно-следственных связей, лежащих в основе статистических вычислений. Цель состоит в том, чтобы принять во внимание индивидуализацию наших обществ и увеличивающуюся неопределенность сил, которые определяют наши действия». (стр. 53)

Как ни странно, получается, что социальный индетерминизм привел нас к новому детерминизму (или бихевиоризму; «comportementalisme») новых методик вычислений (стр. 68). Свобода, обретенная нами в постмодернистских обществах, теперь привела нас к новым ограничениям, на сей раз наложенным на нас не диктаторами или капитализмом, а с помощью технологий. В книге Кардона содержатся выводы, сделанные на основе исследований, проведенных французскими учеными, которые еще не очень хорошо известны международному научному сообществу. Работы Алена Дерозиэра (Alain Desrosiеres), Пьера Ласкума (Pierre Lascoumes), Патрика ЛеГалеса (Patrick Le Galеs), Изабель Бруно (Isabelle Bruno), Эммануэля Дидье (Emmanuel Didier), Жильбера Симондона (Gilbert Simondon) и многих других создали философскую культуру техно-критики, которая до сих пор остается в значительной степени незамеченной за пределами Франции. Данная книга, написанная простым для понимания нетехническим языком, изменит ваш взгляд на интернет.

 

[1] Dominique Cardon: A quoi rêvent les algorithmes: Nos vies à l’heure des big data. Paris: Seuil, 2015. ISBN: 9782021279962. Paperback, 112 pp.

Share: