Дискриминация по уму: как интеллект стал оправданием расизма, тирании и насилия

25 кастрычніка 2017

Интеллект тысячелетиями служил оправданием самых страшных явлений в истории — таких как колонизация, рабство, тирания и дискриминация, уверен философ и исследователь будущего интеллекта в Кембриджском университете Стивен Кейв. «Теории и практики» перевели его статью о том, как на основе умственных способностей веками строилась иерархическая лестница и почему ее новой ступенью стал страх человека перед искусственным разумом.

Текст публикуется в сокращении. Полная версия доступна на сайте “Теории и практики”.

© Dorothy

 

Я рос в Англии во второй половине XX века, в это время представление об интеллектуальных способностях постоянно расширялось. К ним стремились, их обсуждали и, что самое главное, их измеряли. Десятки тысяч одиннадцатилеток по всей стране собирались в разлинованных столами залах, чтобы пройти IQ-тест под названием «11-Plus». Результаты этого недолгого испытания определяли, кто попадет в гимназию, чтобы подготовиться к университету и получить престижную профессию, кому суждено учиться в техникуме и потом выполнять квалифицированную работу, а кто направится в среднюю общеобразовательную школу, где вызубрит основы и будет заниматься физическим трудом до конца своей жизни.

Когда я проходил тест, чтобы найти свое место в мире, идее того, что интеллект можно измерить как давление или рост, едва ли исполнилось сто лет. Но представление о том, что интеллект может определить положение человека в жизни, гораздо древнее. Оно красной нитью проходит через всю историю западной мысли, от философии Платона до политики премьер-министра Великобритании Терезы Мэй. Упоминание о чьем-то уме или его отсутствии никогда не было просто комментарием по поводу способностей человека. Это также и суждение о том, что человеку позволено делать. Другими словами, интеллект — это политическое понятие.

По теме:

Заблуждения (относительно) искусственного интеллекта

 

Иногда такое ранжирование разумно: нам не нужны глупые доктора, инженеры или правители. Но у этого явления есть обратная сторона. Уровень интеллекта — или его отсутствия — определяет не только то, что может делать человек, но часто и то, что другие могут делать с ним. Стоит вспомнить историю западного мира: те, кто считался недостаточно умным, вследствие этого суждения были колонизированы, порабощены, стерилизованы или убиты (и даже съедены, если мы берем в расчет животных). Это, правда, очень старая история. Но в XXI веке благодаря развитию искусственного интеллекта в ней наметился интересный поворот. Специалисты считают, что сегодняшние открытия в этой области неизбежно приведут к новым. Ученые мечутся между волнением и страхом, украшая свои посты в твиттере цитатами из «Терминатора». Чтобы понять, почему мы беспокоимся и чего боимся, сначала мы должны понять интеллект как политический концепт — и, в частности, долгую историю разума как логического обоснования господства.

Сам термин «интеллект» (intelligence) никогда не пользовался популярностью среди англоязычных философов. Также у него нет точного перевода на немецкий или древнегреческий — два других великих языка западной философии. Но это не значит, что философы им не интересовались. Напротив, они были на нем помешаны, точнее на отдельном его аспекте: на разуме, или рациональности. В политических и общественных обсуждениях термин «интеллект» сумел затмить своего старомодного родича только с развитием новой дисциплины — психологии, которая заявила о своих исключительных правах на его исследование. Хотя сегодня многие ученые выступают за более широкое понимание интеллекта, разум по-прежнему считается его основой. Поэтому, когда я говорю о роли интеллекта в истории, я имею в виду и этого его «предка».

История интеллекта начинается с Платона. Во всех своих работах он приписывает высокую ценность размышлениям, заявляя (устами Сократа), что неизученная жизнь не стоит того, чтобы ее прожить. Платон вышел из мира, погруженного в мифы и мистику, и пришел к новому — к тому, что правду о реальности можно установить с помощью разума. Отсюда он сделал вывод в своем «Государстве», что идеальный правитель должен быть «правителем-философом», поскольку только философ может расставить все по своим местам. Таким образом он выдвинул идею о том, что самый умный должен править всеми остальными — по принципу интеллектуальной меритократии.

Эта мысль была революционной для своего времени. Афины уже экспериментировали с демократией, властью людей, но там это касалось любого гражданина мужского пола, необязательно умного. В других странах правящие классы состояли из наследственной элиты (аристократия) или из тех, кто, как верили, получил божественные указания (теократия) или просто из сильнейших (тирания).

Новая идея Платона заинтересовала интеллектуалов, включая его ученика Аристотеля. Аристотель всегда был более практичным мыслителем, склонным к систематизации. Он использовал мысль о главенстве разума для установления того, что считал естественной общественной иерархией. В своем трактате «Политика» он объясняет: «Ведь властвование и подчинение не только необходимы, но и полезны, и прямо от рождения некоторые существа различаются [в том отношении, что одни из них как бы предназначены] к подчинению, другие — к властвованию». Правителя отличает наличие у него «рассудочного элемента». Чаще всего им обладают образованные мужчины, поэтому они, естественно, должны управлять женщинами — а также мужчинами, «чья деятельность заключается в применении физических сил» и которые «по своей природе рабы». На еще более низких ступенях стоят животные, которые настолько неразумны, что «для них предпочтительнее находиться в подчинении у человека».

© Dorothy

 

Таким образом, в момент зарождения западной философии интеллект ассоциировался с европейским образованным мужчиной. Разум становится аргументом в пользу его права властвовать над женщинами, представителями более низких классов, нецивилизованными народами и животными. Если Платон доказывал превосходство разума и положил эту мысль в основу довольно неуклюжей утопии, то всего лишь поколение спустя Аристотель представлял власть думающего мужчины как нечто очевидное и естественное.

Стоит ли говорить, что более двух тысяч лет спустя отправленный этими людьми поезд мысли все еще не сошел с рельсов. Австралийский философ и борец за охрану природы Вэл Пламвуд считала, что великие умы греческой философии выстроили ряд связанных дуализмов, которые и сегодня по-прежнему влияют на наше сознание. Противоположные категории, такие как умный/глупый, рациональный/эмоциональный и разум/тело, связаны прямо или косвенно с другими категориями: мужчина/женщина, цивилизованный/примитивный, человек/животное. Эти дуализмы и сами по себе являются оценочными, а также они подпадают под более широкий дуализм — доминирующий/подчиняющийся и хозяин/раб. Благодаря им отношения, основанные на доминации, например, патриархат или рабство, считаются в порядке вещей.

По теме:

Мечты алгоритмов: наше «посчитанное» бытие

 

Существует мнение, что западная философия в своем современном виде началась с закоренелого дуалиста Рене Декарта. В отличие от Аристотеля, он и не подумал выстраивать лестницу убывания интеллекта у животных. Познание, по его мнению, — это исключительно человеческий удел. Эта мысль — следствие более тысячи лет христианской теологии: она сделала интеллект собственностью души, божественной искрой, прибереженной только для счастливчиков, созданных по образу и подобию Божию. Декарт считал, что природа буквально безмозглая и поэтому лишена подлинной ценности, — эта теория узаконила притеснение других видов и избавила притеснителей от чувства вины.

Идея о том, что интеллект является определяющим показателем человечества, продолжила существовать и в эпоху Просвещения. Ее с энтузиазмом воспринял Иммануил Кант — возможно, самый влиятельный представитель моральной философии с древних времен. По Канту, моральные принципы присущи лишь разумным созданиям. Рациональных существ нужно называть «лица», и они являются «целями сами по себе». С другой стороны, нерациональные существа имеют «только относительную ценность как средства и называются поэтому вещами». Мы можем делать с ними, что захотим.

В соответствии с Кантом, разумное существо обладает бесконечным количеством достоинства, в то время как неразмышляющее и неразумное не имеет вообще никакого. Его аргументы более изощренные, но, в сущности, он приходит к тому же выводу, что и Аристотель: существуют хозяева от природы и рабы от природы, а интеллект — то, что их различает.

[…]

Сэра Фрэнсиса Гальтона считают основателем психометрики, «науки» измерения интеллекта. Его вдохновило «Происхождение видов» (1859), труд его кузена Чарльза Дарвина. Он заставил Гальтона поверить, что интеллектуальные способности являются наследственными и их можно повысить через селекционное скрещивание. Он решил найти способ, который позволит научно определять наиболее подходящих членов общества и поощрять их активное размножение друг с другом. Менее интеллектуально одаренных, в свою очередь, стоит отговаривать от размножения или даже предотвращать его ради блага вида в целом. Таким образом, евгеника и тесты на интеллектуальное развитие шли рука об руку. В следующие десятилетия многие женщины в Европе и Америке были принудительно стерилизованы после того, как показали низкие результаты на тестах: только в Калифорнии таких случаев было около 20 тысяч.

Интеллект использовался в качестве оправдания самых страшных актов варварства в истории. Но у господства разума всегда находились и критики. От Дэвида Юма до Фридриха Ницше, от Зигмунда Фрейда до постмодернистов — существует множество философских традиций, которые ставят под вопрос идею того, что мы действительно такие умные, как нам хотелось бы верить, и что интеллект — это высшая добродетель.

© Dorothy

 

Интеллектуальная меритократия всегда была только одним из факторов социальной значимости, хотя и очень весомым. Поступление в определенные школы, доступ к определенным профессиям (таким как госслужба в Соединенном Королевстве) зависят от результатов тестов на уровень интеллекта, но в других областях акцент делают на других качествах, например, на креативности и предпринимательской жилке. И хотя некоторые из нас надеются, что наши чиновники умны, мы не всегда спешим выбирать политиков, которые кажутся умнее других (по-прежнему показательно то, что даже такой популист, как Дональд Трамп, счел необходимым заявить по поводу своей администрации, что это «кабинет с самым высоким IQ из всех кабинетов, созванных до настоящего момента»).

[…]

Поэтому, когда мы размышляем о том, как люди идеей интеллекта оправдывали привилегии и доминацию в течение более чем двух тысяч лет, удивительно ли, что неминуемая перспектива появления суперумных роботов навевает ужас?

Сценаристы (начиная с фильма «2001 год: Космическая одиссея» до «Терминатора») неоднократно фантазировали на тему восстания машин против нас. Теперь мы видим почему. Если мы привыкли верить, что власть в обществе должна принадлежать самому мозговитому, то, конечно, следует ожидать, что в эпоху умных роботов мы станем лишними и отправимся на самое дно. Если мы сжились с идеей, что более умные имеют право колонизировать менее умных, то, естественно, нас пугает перспектива порабощения собственными суперумными творениями. Если мы оправдываем свою власть и процветание такой добродетелью, как ум, то понятно, почему превосходящий наши возможности искусственный интеллект кажется нам угрозой.

[…]

Я не хочу сказать, что все наши переживания по поводу неконтролируемого искусственного интеллекта необоснованны. Существуют реальные риски, связанные с использованием продвинутого искусственного разума (так же как и огромные потенциальные выгоды). Но вряд ли в списке угроз для человечества первым номером идет притеснение роботами людей, которое можно было бы сопоставить, например, с тем, как австралийские аборигены притеснялись европейскими колонистами.

Скорее следовало бы побеспокоиться о том, что может сделать с искусственным интеллектом человек, чем о том, что ИИ может сделать сам по себе. Мы, люди, скорее настроим интеллектуальные системы друг против друга или станем слишком сильно зависеть от них. Как в басне об ученике чародея: если искусственный интеллект и причинит вред, то, вероятно, из-за того, что мы, руководствуясь благими намерениями, давали ему плохо продуманные команды, а не потому, что машины желают нас завоевать. Самым большим риском остается природная глупость, а не искусственный интеллект.

По теме:

Этика 2.0: зачем машинам учиться принимать сложные решения

 

Интересно предположить, как мы смотрели бы на расцвет искусственного разума, если бы у нас были другие взгляды на интеллект. Платон верил, что философов надо будет упрашивать, чтобы они стали правителями, поскольку они от природы предпочитают господству над людьми размышления. В соответствии с другими традициями, особенно восточными, умный человек пренебрегает ловушкой власти, поскольку в ней ничего нет, кроме тщеславия, и удаляется от суеты и ежедневных проблем.

Представьте, если бы такой взгляд на жизнь был повсеместным: если бы все мы думали, что самые умные люди — не те, кто требует права на власть, а те, кто уходит медитировать в уединении, чтобы освободить себя от земных желаний, или если бы самыми умными были бы те, кто возвращается, чтобы нести мир и просвещение. Интересно, боялись бы мы тогда роботов, которые умнее нас?

Stephen Cave is executive director and senior research fellow of the Leverhulme Centre for the Future of Intelligence at the University of Cambridge. A philosopher by training, he has also served as a British diplomat, and written widely on philosophical and scientific subjects, including for The New York TimesThe Atlantic, Guardian and others.

Текст публикуется в сокращении. Полная версия доступна на сайте “Теории и практики”.

Тэмы: