В своей новой книге «The Rise and Fall of the Artificial State» Джилл Лепор предупреждает: технологические компании всё активнее подменяют собой функции демократического государства. По её словам, это «возврат к тирании и мистификации в форме власти алгоритмов, корпораций, машин».
Лепор — историк Гарварда и штатный автор The New Yorker, недавно получившая Пулитцеровскую премию за исследование истории Конституции США. В свежем выпуске подкаста Equity от TechCrunch она рассказала об эволюции идеи, которую сама описывает как «представление о том, что мы должны жить под властью искусственного государства, под управлением машин».
«Я не противник технологий», — настаивает Лепор. — «Моя претензия в другом: в том, как частные корпорации всё активнее берут на себя функции государства».
Хотя книга исследует технократические философии, уходящие корнями на века назад, Лепор утверждает, что многие «харизматичные или не очень харизматичные лидеры» Кремниевой долины — в первую очередь Илон Маск — как будто ведут человечество в будущее, списанное с неверно прочитанной бульварной фантастики и комиксов.
«Забавно в Маске то, что вещи, которые ему нравятся, на самом деле полностью противоречат всем его политическим убеждениям», — говорит она.
Разговор также коснулся знаменитой рекламы Apple «1984» для Macintosh, того, почему называть Twitter цифровой городской ратушей — «полный абсурд», и текущей волны протестов против дата-центров. Ниже — основные моменты беседы в сокращённом и отредактированном виде.
Что такое «искусственное государство»
Под искусственным государством Лепор понимает своего рода государство, которое замещает либерально-демократическое национальное государство в США и во всём мире. Это одновременно и реальная вещь, конструкт, и идея.
В книге «The Rise and Fall of the Artificial State» она прослеживает возникновение идеи о том, что человечеству следует жить под искусственным государством или властью машин. Параллельно прослеживается и другая идея — о неизбежном крахе такого государства, о том, что оно не может выжить, — эта тема проходит через всю историю научной фантастики.
Почему подъём искусственного государства — это возврат к тирании
Лепор признаёт, что смотрит на происходящее довольно негативно, но подчёркивает: важно отличать искусственное государство от самой технологии или технологических методов.
«Я не противник технологий. Я замужем за специалистом по компьютерным наукам. Меня по-настоящему увлекают интеллектуальные революции, свидетелями которых мы сейчас становимся. Моя претензия не в этом. Она в том, как частные корпорации всё активнее берут на себя функции государства. Никто на это не соглашался. Это было постепенной, во многом случайной трансформацией того, как работают многие национальные государства мира — впервые это произошло в США».
По её мнению, поначалу внедрение новых технологий в работу государства часто было благонамеренным — им двигал интерес к эффективности, скорости и дешевизне. И лишь в последние 20–25 лет подобные решения стали целенаправленными, превратившись в своего рода узурпацию роли национального государства.
«Это не моя догадка. Многие видные технологические предприниматели прямо говорят о желании выйти за пределы эпохи национального государства. Многие футурологи 90-х были либертарианцами и целенаправленно хотели использовать развитие интернета и последующие инновации как инструмент для искоренения национального государства».
Можно ли отделить технологии от философии, стоящей за ними
Отвечая на вопрос, можно ли создать версию интернета и соцсетей, которая не вела бы к нынешнему будущему, Лепор подчёркивает, что подходит к теме как историк, а не как технологический журналист или программист.
«Я историк, причём в первую очередь политический историк, хотя занимаюсь и историей литературы. Одна из вещей, которые мне действительно интересно распутать для читателей в этой книге, — это все "а что если", все альтернативы, пути, которые не были выбраны, и причины этого».
В 1990-х шла оживлённая дискуссия о том, каким должен стать открытый интернет, и итогом стал Закон о телекоммуникациях 1996 года — по мнению Лепор, многие сочли бы это скорее ошибкой, чем злым умыслом.
«Это был продукт конкретного политического момента, глубоко подверженного влиянию Ньюта Гингрича и его "Контракта с Америкой", и к этому решению было очень трудно вернуться. Стоит подумать о том, какие альтернативы существовали в тот момент».
Реклама Apple «1984» как точка отсчёта
То же самое, по словам Лепор, можно сказать и о персональном компьютере. Если искать точку отсчёта для обещания, что лучшие компьютерные технологии приведут к лучшей демократии, стоит обратиться к январю 1984 года — той самой рекламе, которую Apple показала во время Super Bowl к выходу Macintosh, обыгрывающей тему романа Джорджа Оруэлла «1984».
«Apple очень активно продвигала идею, что мейнфреймы олицетворяют тоталитаризм. Компания пыталась разрушить гигантские серые IBM-машины, представляя их в этой рекламе как тоталитарное государство. А гибкий, красивый, быстрый, милый персональный Macintosh должен был стать топором, который уничтожит эту машину и откроет новую эру, в которой "1984-й не станет '1984-м'"».
Это была умная реклама, отмечает Лепор, но она сомневается, что кто-то в Apple всерьёз верил, что персональный компьютер станет инструментом личного освобождения — скорее он открывал возможности для множества интересных вещей.
«Помню, когда у меня появился первый Macintosh — это точно был не 1984-й, но это было действительно круто, весело, увлекательно, я делала на нём много всего. Мне бы никогда не пришло в голову, что он повышает мою способность к гражданскому участию или помогает мне лучше функционировать в гражданском обществе. Это был классный инструмент».
Но если промотать плёнку вперёд, к 2026 году, — через выборы 2016-го, когда Facebook в ответ на критику создал собственный "Верховный суд", через прошлый год, когда Anthropic наняла философа-моралиста для написания "конституции", вплоть до недавнего выступления, когда Сэм Альтман в подкасте Джо Рогана заявил, что «ИИ-президент был бы отличной идеей».
«В некотором смысле это забавные примеры. Но видно, как эти корпорации, эти технологические компании из Кремниевой долины, и особенно их харизматичные или не очень харизматичные лидеры, просто перенимают атрибуты национального государства и функции демократии. У них нет сложной политической философии — это как карикатурная версия той рекламы Macintosh 1984 года, только воспринимаемая абсолютно всерьёз. И у этих компаний огромная власть».
Twitter как «городская ратуша»: миф и реальность
Лепор напоминает, что Twitter — хороший пример подобной трансформации.
«Когда Джек Дорси запустил сервис, он не объявлял: "Мы спасём человечество, спасём цивилизацию от вымирания". Это было скорее баловством, и люди, пользовавшиеся Twitter на самых ранних порах, воспринимали это как: "Знаешь, это правда весело". Что-то вроде: "Я сделал сэндвич с тунцом сегодня, а что у тебя было на обед?" Twitter как компания не выходил на сцену со словами: "Мы здесь, чтобы спасти демократию"».
Реальность, по её словам, была иной: политики и выборные должностные лица начали использовать платформу так, что это усиливало их политическую власть, помогало доносить сообщения, охватывать более молодую аудиторию и поддерживать постоянную связь с ней.
«Политики и избирательные кампании фактически убедили Twitter — по крайней мере, насколько я это вижу со стороны, у меня нет инсайдерской информации о компании, — что Twitter стал настолько большим, а люди так часто пишут о политике, что это почти городская ратуша».
К 2012 году, спустя много лет после запуска, компания выпустила «Справочник по политике и выборам в Twitter» — руководство для кандидатов и должностных лиц о том, как эффективнее использовать платформу. Так началось продвижение идеи «карманной городской ратуши», якобы возрождающей традицию собраний жителей Новой Англии.
«Это полный абсурд. Объективно ничто не может быть дальше от истины. В то время аккаунт в Twitter имел лишь каждый пятый американец. Большинство обладателей аккаунтов никогда ими не пользовались, а более 90% всех твитов о политике публиковали менее 10% активных пользователей. Twitter никак не мог представлять электорат — он представлял наиболее экстремальных, политически активных, гиперпартийных американцев, которые жадно следили за политикой. Сейчас видно: это просто машина искажения. И если политики использовали её, чтобы понять настроения электората, они получали совершенно искажённую информацию».
Twitter, подчёркивает Лепор, не пытался участвовать в построении искусственного государства или подрывать демократию — компания просто вела бизнес, наращивала аудиторию и продавала рекламу. Но непредвиденные последствия этого процесса компания в итоге приняла и обжилась в них.
Научная фантастика как притча об искусственном государстве
Отвечая на вопрос о структуре книги — первая половина посвящена истории технологий и идей, вторая — научной фантастике, — Лепор объясняет, что её заинтересовало, как часто фантастические истории предсказывают появление того, что она называет искусственным государством.
«Мне хотелось выделить литературную традицию, которую я называю притчей об искусственном государстве: машины становятся всё более совершенными, берут на себя всё больше функций людей, включая функции управления, и в итоге начинают властвовать над людьми, а затем, возможно, уничтожают их всех, потому что больше в них не нуждаются. А может, просто порабощают — тут уж как повезёт: мы в "Терминаторе" или в "Звёздном крейсере "Галактика"? Есть разные версии, и эти истории уходят очень далеко в прошлое — к 1850-м годам и первым десятилетиям размышлений о последствиях индустриализма».
По наблюдению Лепор, многие люди — в том числе её студенты — искренне верят, что технологические перемены равнозначны прогрессу, причём единственно возможному виду прогресса. Это, по её словам, довольно новое явление в истории человечества, интеллектуальное изобретение XIX века, отчасти совпавшее с ускорением технологических изменений в тот же период, когда Чарльз Дарвин разрабатывал и публиковал теорию эволюции.
«Возникает странный союз между эволюцией как прогрессом и технологическими изменениями как прогрессом, и из него выпадают все прочие, более ранние представления о прогрессе — прежде всего нравственном: мир становится лучше, потому что люди становятся лучше, или потому что люди становятся свободнее. Есть множество других способов думать о прогрессе, но сегодня доминирует именно это представление XIX века — будто технологический прогресс единственно возможен, а значит, любые технологические изменения автоматически считаются прогрессом, хотя объективно прогресс — это только когда становится лучше».
По мнению Лепор, слияние идей технологического прогресса и эволюции в XIX веке заставило многих задуматься: что если машины продолжат становиться лучше, быстрее, способнее не только выполнять физический труд, но и говорить, мыслить, передвигаться — что если они в итоге превзойдут людей во всём? Из этой мысли выросла колоссальная тревога, вновь и вновь находившая форму в научной фантастике.
Одна из любимых историй Лепор — рассказ Э. М. Форстера «Машина останавливается», опубликованный примерно в 1909 году, когда автор писал «Комнату с видом».
«Его можно было бы назвать "Комната без вида". Форстер представляет ближайшее будущее, в котором все живут в маленьких комнатах-ячейках. Люди никогда не видят друг друга, потому что всё необходимое доставляется прямо в комнату — как DoorDash: еда привозится, есть экран для связи с другими людьми, все потребности удовлетворены. Больше всего люди боятся природного мира — никто не хочет видеть солнце, немного в духе "Матрицы", — и все поклоняются машине, которая организует их жизнь и доставляет в их каморки всё необходимое. История о том, как люди фактически становятся рабами машины, которая сильнее, мощнее и обладает большими возможностями, чем они сами, а люди утратили те способности, что имели прежде. Кульминация наступает, когда машина останавливается».
По словам Лепор, если прочитать этот рассказ сегодня, он покажется написанным едва ли не сейчас — только сегодня он воспринимается не столько как научная фантастика, сколько как дневник очень несчастного видеоблогера.
Илон Маск, Сэм Альтман и плохое чтение фантастики
Лепор проводит параллель между этой литературной традицией и людьми, которые сегодня руководят компаниями и, по её мнению, отчасти управляют аспектами государственной жизни — в частности, Илоном Маском. По сути, она утверждает, что такие люди — очень плохие читатели научной фантастики: воспринимают предостерегающие или как минимум неоднозначные истории как готовые руководства к действию.
«Хотя, как ни странно, это скорее Хайнлайн, а не Азимов и не Дуглас Адамс. Да, в научной фантастике действительно есть эта технократически-либертарианская линия. Не знаю, кажется, [Джефф] Безос — большой поклонник Роберта Хайнлайна. Можно сказать: "Хорошо, это логично сходится. Они читают буквально, но по крайней мере улавливают то политическое послание, которое любой разумный человек мог бы найти в этом произведении". Но забавно в Маске то, что вещи, которые ему нравятся, на самом деле полностью противоречат всем его политическим убеждениям».
Почему искусственное государство обречено на провал
Отвечая на вопрос, почему искусственное государство в его нынешней форме неизбежно потерпит крах, Лепор ссылается на общий для всей рассматриваемой ею фантастики мотив.
«Это не рассказ Азимова, но один из его любимых с детства — "Человек, который проснулся" Лоуренса Мэннинга — о будущем, в котором лесники победили расточителей. Война будущих людей шла между "расточителями", считавшими, что всё можно использовать и выбросить, и "лесниками", веровавшими в то, что сегодня мы назвали бы лесовосстановлением и возвращением дикой природы».
Именно это напряжение — между искусственным государством и природным миром — обычно лежит в основе подобных сюжетов, поясняет Лепор: чтобы построить искусственное государство и властвовать над людьми внутри него, нужно отчуждить их от природы, поскольку она в процессе уничтожается. При этом само искусственное государство разрушает природный мир, но остаётся зависимым от его ресурсов для собственного функционирования.
«Обречённость в том смысле, что не существует возможности сохранить пригодную для жизни человека планету при полном построении искусственного государства и опоре на его механизмы. Так, по крайней мере, устроена логика научной фантастики».
Как выглядит поражение искусственного государства
На вопрос, что, по её мнению, означало бы поражение искусственного государства — демонтаж всех этих компаний, снос дата-центров, или скорее взятие процесса под контроль, — Лепор признаёт, что готового рецепта у неё нет, кроме одной рекомендации: жить в демократии, где решения принимаются в согласовании с теми, кого они касаются, даже если эти решения непопулярны.
Она указывает на многочисленные локальные конфликты вокруг дата-центров — от города к городу, от округа к округу, от штата к штату, — которые отчасти стали следствием упадка местных газет и разрушения журналистики, в том числе из-за соцсетей, а в случае с [Марком] Цукербергом, по её мнению, отчасти намеренного.
«На этих собраниях жителей люди говорят: "У нас нет даже жилья. Нет здравоохранения. Нет рабочих мест. Кто вообще решил строить этот дата-центр? Мне нужно знать гораздо больше. Каковы будут затраты на электроэнергию? Расскажите о потреблении воды. Появятся ли рабочие места? Они будут постоянными или только на полгода? Что будет с цаплями, которые живут в этой местности?" — что бы людям ни хотелось узнать».
По её словам, всё чаще происходят ситуации, подобные случаю в Солт-Лейк-Сити, где свыше 70% жителей выступили против строительства дата-центра, а их представители его поддержали.
«Это не представление интересов народа. Думаю, за это придётся заплатить политическую цену, и мы начнём это видеть на выборах. Или не увидим — для того чтобы люди могли реагировать на злоупотребления своих представителей, должна сохраняться достаточная часть демократических механизмов».
Спор о «дисрапшене» десять лет спустя
Часть размышлений Лепор об искусственном государстве восходит к её знаменитой статье более чем десятилетней давности в The New Yorker, где она критиковала концепцию «дилеммы новатора» и «подрывных инноваций» Клейтона Кристенсена — идею, тесно связанную с самим TechCrunch, поскольку издание проводит крупную конференцию Disrupt.
На вопрос, как она сейчас относится к этой идее спустя десять лет, Лепор отвечает однозначно.
«Я подписываюсь под каждым словом той статьи».
(Тогда Лепор писала: «Подрывная инновация — теория о том, почему компании терпят неудачу. Не более того. Она не объясняет перемены. Это не закон природы». Кристенсен ответил, что Лепор сама нарушила «все правила научной работы, в нарушении которых обвиняла его».)
Лепор перечитала статью прошлым летом, работая над книгой, и считает проблемой то, что историки в целом мало вовлечены в подобные дискуссии.
«Одна из причин, по которой я написала ту статью о подрывных инновациях — это была не моя идея, а редакционное задание, — в том, что я почувствовала: "Подрывная инновация — это теория истории. Теория исторических перемен, основанная на архивных данных". И как историк я подумала: это не имеет смысла. Использование источников совершенно неприемлемо с точки зрения корректной исторической методологии. Аргументация не опирается ни на какое содержательное понимание того, как происходят перемены».
Она провела собственное исследование заново — и концепция не выдержала проверки.
«Я чувствовала, что должна была это написать. И жаль, что за прошедшие годы академические историки не стали активнее включаться в осмысление природы перемен — вопросов, которые по-настоящему и искренне интересуют людей, занятых разработкой новых технологий».
По её словам, у людей есть настоящий интерес разобраться: что это такое, чем они на самом деле занимаются, какими будут последствия, чему можно научиться у истории.
«Что случилось, когда автомобиль вытеснил лошадь? Что произошло с законодательством? Как появились водительские права? Как появились правила дорожного движения — их же не существовало до автомобиля? Как возникли определённые виды страхования, экзамены на вождение? Как формировались эти защитные механизмы вокруг технологии, которая была невероятно захватывающей, во многом улучшила жизнь людей, полностью изменила ландшафт, произвела революцию в деликтном праве? Может, стоит подумать именно об этом».
Лепор сожалеет, что историки за эти годы недостаточно активно общались с технологами и предпринимателями — не для того, чтобы читать лекции об истории, а потому что здесь возможен по-настоящему содержательный диалог.