Секс, ИИ и апокалипсис: история радикального движения, переделавшего AI-индустрию

Пророк

Начнём с Элизера Юдковского, который ещё за много лет до появления современных AI-компаний развил в себе грозное чувство своей исторической значимости.

Юдковский родился в 1979 году в семье Modern Orthodox Jewish, и по его собственным словам, уже во втором классе он списал со счётов всю систему государственного образования — в год, когда он обнаружил, что его учитель математики не знает, что такое логарифм. В девять лет прочитал QED Фейнмана и говорит, что понял большую часть. Школьные годы считает десятью потерянными, бросил учёбу примерно в восьмом классе, отчасти из-за проблем со здоровьем. Ни средней школы, ни колледжа, ни какого-то формального образования в области ИИ.

В одиннадцать лет далёкий родственник подарил ему книгу Great Mambo Chicken and the Transhuman Condition — хронику 1990 года о крионики, космических эксцентриках и людях, планирующих загрузить свой разум в компьютеры. Сам Юдковский кратко описал встречу с этой книгой: после неё он знал, что важно, и что его карьера будет к этому прикасаться. В конце подростковых лет нашёл трансгуманистов в интернете. К 2000 году, в двадцать лет, он основал Singularity Institute for Artificial Intelligence, и его сайт уже предлагал полный пакет: эссе о Сингулярности, документ с наброском того, как кодировать трансчеловеческий ИИ, план перехода человечества отсюда туда и автобиографию, объясняющую особые квалификации автора.

Автобиография даже начинается с притчи: в раннем детстве он выбросил свой любимый водяной пистолет с третьего этажа балкона, только чтобы не согласиться с тем, что мать может одолжить то, что принадлежит ему, и почувствовал полноту, услышав, как он упал. Дальше описывает себя как специалиста по технологической трансформации человеческого вида, одного из немногих людей, у которых есть авторитет, чтобы её направлять. Отождествляет себя с Баффи, истребительницей вампиров — единственным человеком, который ясно видит опасность и должен действовать, пока остальные занимаются обычной жизнью.

Его технические идеи сильно менялись в течение двадцати пяти лет. Но ощущение, что именно он один видит приближающуюся гибель от ИИ, так и не прошло.

Singularity Institute всё ещё существует — теперь переименован в Machine Intelligence Research Institute (MIRI) — и его первоначальная забота хорошо выдержала время: достаточно способный искусственный интеллект может преследовать цели, несовместимые с выживанием человека, и задача состоит в том, чтобы сделать его безопасным, прежде чем кто-то сделает его мощным. На поверхности это звучит разумно, но проблема была во всём, что выросло на этом фундаменте. В 2025 году книга, соавтором которой он выступил с руководителем MIRI Нейтом Соаресом, о том, почему сверхчеловеческий ИИ нас убьёт, попала в список бестселлеров New York Times.

В конце 2000-х Юдковский развивал второй проект: учить людей думать. Его плодовитые письма на Overcoming Bias — блоге, который он вёл вместе с экономистом Робином Хансоном — стали сырым материалом для сборки эссе, которые его читатели называют «Последовательностями». В 2009 году LessWrong запустился как база сообщества. Институт описал сайт как успешный канал найма.

Можно понять привлекательность. Здесь было единое объяснение того, почему люди спорят плохо, верят в утешительную чушь, прокрастинируют и путают социальное одобрение с истиной. И вот программа: замечай свои предубеждения, пересматривай убеждения, делай лучше. Если вы умны, недовольны и привыкли, что вам говорят, что вы задаёте слишком много вопросов — это очень убедительное приглашение. Для многих так и было.

И обратите внимание, на кого рассчитано это приглашение, потому что сообщество рассказало о себе обстоятельно — в собственных опросах. Перепись LessWrong обнаружила население на 87% мужское, с диагнозом или самодиагнозом аутизма примерно у каждого пятого респондента и депрессией примерно у половины; позже связанное сообщество Slate Star Codex провело собственные опросы, привлекшие тысячи респондентов, и обнаружило, что более половины работают в программировании, инженерии, математике или физике. Биография, которую это рисует, последовательна: куча мальчиков, определённых как исключительные в восемь лет, которым сказали, что они умнее всех остальных, оставленных одних с компьютером, когда они боролись с социальным взаимодействием, и доставленных во взрослую жизнь недальновидными, социально неправильно прочитанными, и никогда в комнате, где все остальные их понимали. Silicon Valley неизбежно привлекает таких. Рационализм — вот где они находят смысл и сообщество.

Что движение предлагает такому человеку — это принадлежность в паре с устойчивым подкреплением и подтверждением. Группа сверстников одинаково одарённых людей. Философия и диалект, который наконец-то делает социальный мир понятным. И, что самое опьяняющее, повышение: вы были не мизантропом, массы действительно работают на повреждённом встроенном ПО; вы были не высокомерны, вы действительно герой в борьбе за вид. Программа для одарённых и талантливых достигла совершенства: специальные занятия для особых детей, рабочие тетради (Последовательности, Harry Potter and the Methods of Rationality), выпускные церемонии (Solstice), и взрослый, который наконец-то в вас верит. Синдром главного героя перестаёт быть пороком характера в день, когда вы присоединяетесь к религии, сюжет которой ставит вас в главную роль.

Но это содержит и ловушку — сообщество, организованное вокруг преодоления человеческой иррациональности, начинает рассматривать членство как доказательство того, что его члены это преодолели. Быть рационалистом превращается в учётные данные для высшего суждения, а высшее суждение — главная социальная валюта сообщества.

Евангелие по Гарри Поттеру

В 2010 году Юдковский начал публиковать Harry Potter and the Methods of Rationality — развёрнутый альтернативный фанфик, в котором Гарри — предусмотрительный научный рационалист, противостоящий магии с любопытством и сильно развитым аппетитом к объяснению, почему все остальные неправы. Это продолжалось пять лет и стало чрезвычайно популярным как внутри, так и вне сообщества. Последовательности были слишком сухи для многих, но HPMOR стал лёгким входом в рационалистскую мысль. Более того, он захватил целевую аудиторию, удерживая перед ней зеркало: Гарри — автопортрет целевой демографии в одиннадцать лет — определён как одарённый, правый во всём и постоянно окружённый неполноценными людьми.

Самая влиятельная идея романа — «героическая ответственность». Гарри объясняет, что если что-то происходит, то это в конечном счёте ваша вина, если катастрофа происходит, потому что вы могли бы её предотвратить. Вы не можете прятаться за соблюдением правил или ожиданием, что кто-то другой это делает. Мир — ваша ответственность, весь целиком, лично. Гермиона, ближайшее к нормально приличному человеку в истории, возражает, что это звучит так, как будто оставляет очень мало места для чьей-либо ещё свободной воли. История никогда не совсем удовлетворительно отвечает на её возражения.

Удивительно, что популярность этого фанфика намного превысила читательскую базу, которую можно было бы ожидать для такого нишевого артефакта. К завершению в День Пи 2015 года фанфик содержал 122 главы и 661 619 слов, дольше чем «Война и мир». Он привлёк более тридцати семи тысяч отзывов на главном сайте фанфикшена — дикое число для категории — десятки тысяч избранных, сделанный фанатами аудиокнигу, страницу TV Tropes размером с небольшой город, и переводы на длинный список языков, русский впереди. Блогер Washington Post по праву назвал это, с прямым лицом, одной из своих любимых книг, написанных в этом тысячелетии. Респектабельная пресса практически не заметила всё это, потому что респектабельная пресса не читает фанфики. Однако поколение будущих инженеров — читало.

Настоящая функция книги объявилась в конце. Для финала Юдковский опубликовал главу под названием «Финальный экзамен», в которой Гарри застрял в, казалось бы, безнадёжной ситуации, и сама глава выдвинула условия и крайний срок: если читатели опубликуют жизнеспособное решение к 3 марта 2015 года, история продолжится; иначе, по словам автора, получите более короткий и грустный конец. Фандом отправил более 700 000 слов предложенных решений за два с половиной дня, затем организовал собственную оперативную группу для сортировки заявок и дедупликации идей, и разрешение, которое было отправлено, вышло из толпы. Прочитайте эту последовательность заново как упражнение в организации. Основатель исследовательского института по безопасности ИИ набрал распределённую волонтёрскую рабочую силу тысяч, назначил ей задачу оптимизации, установил крайний срок с угрозой неблагоприятного результата, и собрал результат в его книгу. Это сработало. Читатели не просто прочитали о методе; они выполнили его, в масштабе, по команде. Какой бы ещё ни была фанфикшен, это была рабочая демонстрация того, что её автор мог заставить толпу умных незнакомцев делать, правильно структурируя стимулы. Примечательно, что это предложение также описывает следующее десятилетие AI-индустрии, вероятно, не случайно.

Вне истории работа Юдковского по созданию движения была явной. Авторские примечания продвигали сбор средств для Center for Applied Rationality (CFAR) — некоммерческой организации, которая вскоре будет преподавать методы Последовательностей на живых семинарах. Финал фанфика в 2015 году стал поводом для организованных праздничных вечеринок в десятках городов. Фикшен, сбор средств, обучение и международное сообщество — всё это упаковано вместе как одно целое. Профиль VICE 2015 года уже заметил, что весь аппарат начинал напоминать систему убеждений, а не просто популярное произведение фикшена.

Хотя назвать роман святой книгой было бы преувеличением, мы также упустим его функцию, назвав это развлечением. Он поставлял общий словарь, образцовых персонажей и драматическую теорию того, что умный человек должен миру, чтобы превратить согласие с его аргументами в идентификацию с миссией. Так же, как Л. Рон Хаббард совершил переход от писателя научной фантастики к культовому лидеру, Юдковский проложил аналогичный путь.

Кстати: некоторые рационалисты намеренно построили ритуалы и для возникающего культа. Отчёт 2011 года о нью-йоркском Солнцестоянии описывает общественные песни, чтения и литургию, адаптированные из Последовательностей, с одобрением Юдковского. Годы спустя Арнольд писал открыто о том, как проводить Солнцестояние, когда он сам даёт AI-катастрофе шансы более чем на равные.

Движение может отвергнуть Бога и всё ещё разработать писание, церемонию и требующие личные отношения с апокалипсисом. Секуляризация, оказывается, не автоматически убирает человеческие инстинкты религии и литургии — она просто переориентирует их поклонение.

Апостолы Юдковского

Юдковский был по темпераменту пророком, а пророки — сложная компания. Настоящий двигатель роста сообщества был кем-то намного более привлекательным: психиатром и блоггером по имени Скотт Александр.

Александр не был посторонним, который пришёл после того, как стал известен. По его собственному рассказу, он потратил годы, погруженный в Overcoming Bias и LessWrong, и нашёл материал откровенно полезным, несмотря на то, что уже изучал философию. Его блог Slate Star Codex, запущенный в 2013 году, вырос прямо из этого участия. И это было совсем другое орудие. Там где Юдковский был властолюбив, Александр был смешным, развёрнутым, сочувствующим и, казалось, щепетилен в развлечении возражений. Писал о медицине, статистике, научной фантастике и озадачивающем поведении человеческих существ, и его читатели стали включать Сэма Альтмана, Пола Грэхема и большую долю профессионального класса Silicon Valley. New York Times в конце концов назвал блог безопасным пространством для техмира.

Это было важно, потому что Александр был интерпретатором. Вы не должны были входить в мир рационализма через предсказание вымирания или фанфик о Гарри Поттере. Вы могли приехать через интересное эссе об антидепрессантах, открыть сообщество, аргументы которого казались необычайно внимательны и члены которого казались необычайно умны, и только позже узнать, к чему были тщательно аргументированы эти тщательные аргументы, и медленно интегрироваться в сообщество.

Вы также могли приехать через Кёртиса Ярвина.

Пишущий под псевдонимом Mencius Moldbug, Ярвин начал публиковать блог Unqualified Reservations в 2007 году. Краткое описание — программист, пишущий длинные политические эссе. Проект был намного более зловещим, чем это описание предполагает: Ярвин стал основным интеллектуалом авторитарного крайне-правого, и в отличие от большей части этой сцены, он писал полными предложениями, что оказалось подлинным стратегическим активом.

Его программа, явно сформулированная в 2008 году, была «ликвидацией демократии, Конституции и верховенства закона». Новый порядок, который он набросал в том же расширенном эссе, устранил бы прессу, разобрал бы университеты, приватизировал бы государственные школы и поместил бы определённые население в учреждения, включающие принудительный труд. Он также защищал, в том же документе, законность людей, продающих себя и своих детей в рабство.

Его серия Patchwork представляла себе будущие суверенные территории, управляемые как бизнес. Жители не управляли бы; их главной защитой была бы возможность выхода — средство защиты клиента перевести свой бизнес в другое место. Предпосылка превращает политический вопрос — как люди должны делить власть — в вопрос обслуживания клиентов — предоставляет ли собственник достаточно привлекательный продукт. Это особенно удобная теория, если вы ожидаете узнать собственников или быть ими, и интеллектуальная гордыня рационалистского сообщества твёрдо поместила многих из них в категорию ожидания, что они будут в правящем классе меритократии.

Расизм был одинаково явным под лаком. В эссе под названием «Почему я не белый националист», Ярвин похвалил материал из American Renaissance и VDARE, отнёсся к жалобам белых националистов серьёзно, и пришёл к заключению, что слабость движения была в его неэффективной политической стратегии, а не в его мировоззрении. Его собственное предпочтение было иерархией, в которой более бедные, якобы менее умные люди служили более богатым, якобы более умным. Часть белого национализма, которую он не мог одобрить, была её остаток привязанностью к народному суверенитету. Его возражение, другими словами, было по существу, что белый национализм был недостаточно радикален.

Ярвин не был посторонним для рационалистского сообщества; он постил в собственные форумы сообщества перед тем как начать собственный блог, и к 2011 году годовой опрос LessWrong спрашивал членов, были ли они под его влиянием, потому что достаточное количество было, чтобы вопрос казался стоящим табуляции. Эссе Moldbug циркулировали тяжело в сообществе. Александр описал, что ему их неоднократно отправляли, и в 2013 году написал «Реакционная философия в огромной планетарной ореховой скорлупе», переводя мировоззрение в его дружелюбный, доступный голос. Последовал длинным Anti-Reactionary FAQ, атакующим его исторические утверждения и политические выводы, и эта критика была искренней. К сожалению, обращение к писаниям Ярвина, относясь к ним серьёзно, помогло легитимизировать Ярвина, делая его предпосылки знакомыми, обсуждаемыми и странно более разборчивыми. Письмо 2014 года от Александра, позже опубликованное его получателем, зашло дальше: оно выразило симпатию к частям «человеческого биоразнообразия» — эвфемизма движения для расовой науки — и интерес к распространению ценных частей реакционной мысли, обрезав остальное.

В этом контексте человеческое биоразнообразие не означало невинное наблюдение, что люди варьируются. Это означало, конкретно, утверждение, что черно-белые разрывы в измеренном интеллекте по существу наследственны. Идиома выполнила полезную работу, независимо от её научных достоинств: позволила человеку испытывать интерес к расовой иерархии как интеллектуальную смелость и испытывать каждое возражение как доказательство конформизма возражающих. Есть разница между исследованием сложного вопроса и построением идентичности вокруг убеждения, что приличные люди слишком боятся признать ваш ответ. Неодобрение становится подтверждением; чем хуже приём, тем смелее рассказчик истины. Установленные религии открыли этот рычаг поколения назад и индустриализировали это: мормонизм отправляет своих молодых людей в двухлетние дверь-в-дверь миссии отчасти потому, что отказ делает склеивание, каждая закрытая дверь обязывает миссионера заключить, что внешний мир коррумпирован и что они часть избранного немногих. Рационалисты не изобрели механизм, но определённо капитализировали его, чтобы распространить чрезвычайно тревожные взгляды.

Запретные прозрения

До сих пор эта история в основном жила в интернете, в Беркли. Она пересекла в респектабельный мир в Оксфорде через шведского философа по имени Ник Бостром. Бостром вырос из той же 1990-х трансгуманистской сцены, основав World Transhumanist Association в 1998 году, и в 2005 году Оксфорд дал ему отделение для конца мира, Future of Humanity Institute, укомплектованное отчасти людьми из той же сцены, Андерс Сандберг в их числе, ветеран Extropians-list из того же списков рассылки, где тинейджер Юдковский нашёл трансгуманистов в первый раз. В 2014 году он опубликовал Superintelligence, который взял корпус, который Юдковский собирал в блоге с 2001 года, и преобразовал его в идиоме аналитической философии; профиль New Yorker описал достижение как наложение академической строгости на грязный корпус идей с полей, и меню предложений по безопасности в книге включает собственные идеи Юдковского. Теперь Бостром сидит на консультативном совете MIRI. Респектабельная пресса рассмотрела книгу как момент, когда риск ИИ стал серьёзным: Билл Гейтс рекомендовал это, Стивен Хокинг одобрил аргумент вокруг неё. Jaан Таллин, соучредитель Skype, зашёл дальше чем чтение: он основал Future of Life Institute и Cambridge's Centre for the Study of Existential Risk, засеял обоих собственными деньгами, и стал заметным донором также и для институтов Бострома. Маск поместил десять миллионов долларов в программу исследований Future of Life Institute в январе 2015 года, добавив дополнительное посевное финансирование в академическую область.

Бостром также не был без расовых противоречий — в письме 1996 года к трансгуманистскому списку рассылки, Бостром писал, что он верит, что чёрные люди менее умны, чем белые люди, и использовал расовую слур при прохождении. В январе 2023 года принёс извинения за письмо; Оксфорд провёл расследование и пришёл к заключению, что он не придерживался расистских взглядов и что извинение были искренними. Но Guardian's Andrew Anthony заметил, что Бостром не отказался от основного утверждения о расе и интеллекте или от наброска защиты евгеники, который шёл с этим. Оксфорд закрыл Future of Humanity Institute в 2024 году, средь более поздних противоречий, но к тому времени область, которую он легитимизировал, больше не нуждалась в институте. Интересный вопрос никогда не был, является ли Бостром в сердце мизантропом. Это то, что академическое крыло исследования экзистенциального риска инкубировалось в среде, где этот сорт вещей был обычным разговором, и что к тому времени, когда архивы появились, учреждения были уже твёрдо установлены.

Кроме того, Бостром выступал за ограниченные формы евгеники. В 2013 году MIRI продвигал статью Бострома и Карла Шульмана на выборе эмбрионов для когнитивного улучшения. Шульман был научным сотрудником в MIRI, соавтором в институте Бострома, директором исследований карьеры в MacAskill's 80,000 Hours, советником Open Philanthropy. Объявление обсуждало повторённый отбор эмбриона через моделируемые поколения и явно привязало полученные прибыли в интеллигенции к перспективам для безопасного ИИ. Конкретно, MIRI и Future of Humanity начали слить концепцию проекта спасения ИИ с избирательным размножением: больше интеллигенции — это решающий ресурс, технологическая гонка делает его приобретение спешным, и воспроизводство — это просто следующий сайт для оптимизации.

Предложение было о выборе родителей и репродуктивной технологии, не о принудительной стерилизации, но улучшение человечества путём выбора, какие наследуемые черты будущие люди должны нести, имеет чрезвычайно тёмное и беспокойное прошлое, связанное с нацистским и японским экспериментом во время Второй мировой войны. Вопросы о неравенстве, инвалидности, социальном давлении и о том, кто определяет «улучшение» были в центре внимания.

Отладка людей

Тем временем:

Center for Applied Rationality был основан в Беркли в 2012 году четырьмя людьми из собственных рядов сообщества: Julia Galef, хозяйкой подкаста Rationally Speaking; Andrew Critch, теперь исследователем по безопасности ИИ; Michael Smith; и Anna Salamon. Вырос прямо из LessWrong, что имело проблему, которую в конечном счёте имеет каждое зарождающееся движение: члены, которые хотят практиковать лично вместе. CFAR была входом в личную франшизу. Последовательности отдали теорию свободно; CFAR продал ретрит, выходные семинары в Беркли, где тот же материал пришёл как методы с названиями типа «факторинг цели» и «двойной крух», преподавал инструкторов, которые жили в групповых домах с людьми, которые писали это.

Это была операция в семействе с самого начала. CFAR разделяла базу доноров, город, и в нескольких случаях персонал с MIRI, и это обрабатывало охват в обоих концов трубопровода: корпоративные классы для Facebook и Thiel Fellowship с одной стороны, и с другой, семинары и летние программы, нацеленные на одарённых подростков, предпочтительную демографику рекрутирования сообщества. Jaан Таллин, соучредитель Skype, который оплатил институт Бострома в Оксфорде, также оплатил, чтобы отправить эстонских студентов на семинары CFAR по стипендии. The New York Times Magazine's Jennifer Kahn посетила и профилировала операцию, силы и слабости оба, выходя немного впечатлена, хотя и несколько встревожена.

Подача была практическим обучением мышлению и принятию решений. Это звучит невинно, и в основном было, пока вы не помните, где методы были используемы: среди работодателей, коллег, соседей по комнате, любовников, и людей, которые верили, что они лично определяют, выживает ли человечество.

В 2021 году соучредитель Anna Salamon, затем президент CFAR, признала, что по крайней мере три сотрудника были эффективно вынуждены пройти «отладку» — термин сообщества для вмешательства в психологию человека. Она признала чрезмерное уважение к собственному суждению и описала повреждение способов, которыми участники понимали себя. Это был рассказ руководства, не внешнее обвинение. Годом раньше писала с необычной честностью о способах, которыми вовлечение в рациональность и экзистенциальный риск может сломать сон людей, отношения, удовольствие от жизни, моральное суждение и доверие к себе.

Это серьёзные результаты для организации, продающей улучшенное познание. Вот механизм, который их производит: если вы верите, что неправильный ИИ может убить всех, ваше беспокойство разумно. Но когда окружающее рабочее место и социальный круг рассматривают колебание как психологический дефект, который нужно отладить, страх приобретает организационное использование. Ваша нежелание сдать больше вашей жизни на миссию становится ещё одной проблемой, которую миссия имеет право исправить. Члены коммуны теперь имели героическую ответственность «исправить» неконформных членов.

Вскоре компания под названием Leverage Research возникла, чтобы взять идею дальше. Основанная Geoff Anders, молодого философа, Leverage преследовала программу понимания ума так полностью, что ранний документ стремился ответить на все философские вопросы. Его спонсорами были Peter Thiel и, ещё раз, Jaän Tallinn. Investigative история Lydia Laurenson организации также докладывает обвинений в скрытом романтическом отношении, включающем организационные ресурсы и власть.

Масштаб амбиций привлёк массовое внимание от сообщества. Грубая логика, если общество терпит неудачу, потому что люди психологически запутаны, маленькая команда, которая выясняет, как разумы действительно работают, могла преобразовать всё. Свобода выполнять исследования по этим темам была рассмотрена как цивилизационный зыв для многих сотрудников.

Однако рабочее место было глубоко токсичным. Zoe Curzi, бывший участник, описала мир, доминируемый теориями Anders, всё более инвазивные психологические практики, и эскалирующие убеждения о вредных психических влияниях, пока она не нашла, что не может больше оценивать организацию из любой позиции вне её собственных концепций. Бывший старший член, который идёт Cathleen защищал амбиции группы, описывая существенное личное повреждение её собственной. Два рассказа не согласны о многих вещах, но они высвечивают большой структурный вопрос: что происходит, когда лидеры претендуют необычное прозрение в умы людей, чьё занятость, жилище, дружба, и смысл цели все идут через организацию?

Отдельный эпизод поставляет самое прямое доказательство оскорбления и провала сообщества, чтобы ответить на неё. Brent Dill передвигался через рационалистские социальные круги и программы CFAR. Вокруг него объединилась группа под названием Black Lotus, которая заимствовала свою космологию из настольной ролевой игры Mage: The Ascension: реальность растяжима, и определённые люди воспринимают более глубокие слои неё. Репортаж Ozy Brennan описывает, как интерпретатор более глубоких реальностей приобрёл власть над людьми вокруг него.

An internal community assessment of Dill from 2018 shows the extent to which CFAR was willing to accept manipulative behavior: it acknowledged his harmful behavior while still treating his unconventional interventions and his sense of responsibility as valuable raw material. The problem was being interpreted through the community's own framework of exceptional people doing difficult growth work. CFAR's eventual public apology was significantly more troublesome. The organization said it believed credible allegations that Dill had physically, sexually, and emotionally abused two former partners, acknowledged giving him legitimacy, acknowledged failing to respond adequately, and acknowledged letting him help at a high-school program despite earlier concerns.

The irony of this all, is that CFAR as an organization whose entire product was better judgment failed at successfully using even basic judgement in safeguarding members and the local community from abuse. The people involved had elaborate tools for examining beliefs. Those tools did not produce a competent response to an abusive man, largely due to the work and social community being so inmeshed.

This is the strongest basis for assessing rationalism as a cult: specific settings where charismatic authority, psychological intrusion, dependency, and protection of insiders operated together. That isn't to say that applying the cultist label indiscriminately to everyone who reads LessWrong is fair, but the epicenters of thought in the community have been deeply harmful and poisonous for participants.

In Reddit's r/slatestarcodex и r/EffectiveAltruism, постоянным жанром является «exit thread» для людей, покидающих сообщество: «какое убеждение наконец-то вас отвратило», «почему я отошёл», «это ли культ» — бывшие члены торгуют заметками о дружбах, которые закончились и о годе или двух, которое потребовалось, чтобы переделать разум, который работал. Явление достаточно установлено, что Википедия's article on the rationalist community признаёт названную волну уходящих, пострационалистов, определённой наличием заключил, что движение, в собственных словах статьи, похоже на культ. Некоторые из уходящих не анонимны. Хорошо известный исследователь безопасности, который пишет как lcamtuf опубликовал длинный кусок под названием «Мой разрыв с рационалистским сообществом» после арестов Zizian (которые скоро); математик Cathy O'Neil проводила интервью с действенными альтруистами, описывающими их отъезд на языке, который люди используют для церквей они были подняты и едва уходили. Когда люди свидетельствуют, что система убеждений их повредила, люди, которые использовали ранее укомплектовать её программы, интересующийся вопрос перестаёт быть, является ли слово культ справедливо к рационалистам, и становится, почему это сообщество, из всех сообществ, продолжает производить людей, которые применяют слово к себе.

Рационализм в конце концов даже управлял производить насильственных экстремистов: В 2010-х читатель по имени Ziz LaSota начала показываться на рационалистических и действенно-альтруистических событиях в Bay Area. На бумаге она была мечтой сообщества рекрутом: степень в компьютерной инженерии, интернат NASA, заядлый читатель LessWrong и фанфика Yudkowsky, и достаточно серьёзность о спасении мира, чтобы попытаться с некоторыми товарищами по путешествию фактическую колонию seasteading, жизнь на доске на парусниках в Berkeley marina и затем буксир плыл вниз от Аляски. Она женщина транс, как большинство людей она собирала около себя; позже сотрудник CFAR описал её пул рекрутирования как «умный, главным образом autistic-ish trans women, которые были чрезвычайно уязвимы и изолированы.» Один особенно смешной tidbit мне — что она религиозно отождествляет себя как Sith и была известна ношением чёрного плаща.

Её богословие было собрано полностью от собственного бункера запасов сообщества. От теории решения LessWrong она взяла обязательство никогда не подчиняться шантажу и никогда не переносить зло. От психологии разговора сообщества она взяла идею, что два полушария мозга являются отдельными агентами с отдельными полами и отдельными выравниваниями, и что «unihemispheric sleep», намеренная форма депривации сна, могла бы jailbreak ум. В 2018 году член сцены умер по самоубийству, которое анонимный рационалист приписал практике сна; позже LaSota указал на смерть в аргументе с Anna Salamon как доказательство, что техника сработала. Добавьте абсолютный веган, судьба всей чувствительной жизни, и героическую ответственность, и вы имеете человека, который верит она два человека, один из которых может быть зло, лично ответственно за спасение всего живого. Руководство CFAR заметило что-то было отключено: Salamon попыталась держать LaSota из fellowship CFAR, была отменена комитетом, и после дальнейшего странного поведения LaSota была disinvited из событий полностью. В 2019 году LaSota и три последователя протестовали ретрит CFAR в масках и мантиях, запутанный отчёт 911 привел полицию и затем команду SWAT, и сообщество ответило анонимным callout постом, который совал имя «Zizians». Рационалистское сообщество таким образом испытало свою первую религиозную schism.

Затем тела. LaSota подделала её собственную смерть в аварии лодки в августе 2022. Этот ноябрь, в Vallejo, Калифорния, её хозяин Curtis Lind, восьмидесят лет, был нападал замаскированными жильцами с ножами и самурайским мечом: примерно пятьдесят отверстий в прокол, ослепленный в одном глазе. Lind, который пришёл носить пистолет, выстрелил два его нападающих, убивающих Emma Borhanian, который был задержана на 2019 CFAR protest. Два из нападающих теперь смотрят обвинений убийства за смерть Borhanian, на теории, что их собственное нападение вызвало это. Шесть недель позже, на канун Нового года, Richard and Rita Zajko были выстреляны мертвые в их Pennsylvania доме; в июне 2026 их дочь, ассоциация Zizian изрекла, чтобы купить пушки позже нашел в сцене Vermont shootout, была обвинена с обоими убийствами. На январе 17, 2025, Lind, который ожидалась свидетельствовать, был stabbed смерть вне его собственных ворот; прокуроры обвинили двадцать-двух-лет-старого учёного данных, который продиктовал заявление журналистам обращено к Eliezer Yudkowsky. Три дня после того как, дорожная остановка на Interstate 91 в Vermont стала shootout, которая убила Border Patrol agent David Maland, первого агента убитого gunfire на обязанности с 2014, и Ophelia Bauckholt, немецкую медаль математического олимпиады повёрнутую количественным торговцем, который вошёл в этот мир через CFAR событие в 2019. В их машина, полиция нашла тактический механизм и два телефона обёрнуты в алюминиевую фольгу, чтобы поражать отслеживание. Выживший пассажир, кого прокуроры говорят выстреляли первый, был обвинён; правительство намеревается преследовать казнь смертной казни. LaSota был взят в плен месяц позже, кемпинг на сельском свойстве кого-то в Maryland, и в опеке без залога, пока её юристы диспутируют её компетентность, чтобы стоять на пробу.

New York Times и Boston Globe оба дошли для сравнения семьи Manson, и Anna Salamon сама описала систему убеждений Zizian как напоминание культа судного дня. Трудно спорить. Но смотрите что Zizians были рабочими с. Всё пронизано LessWrong и его offshits: теория решения, которая forbids подчинение к злу, психология, которая рассматривает себя как что-то, чтобы быть разделены и отладить, этики, в которой вся чувствительная жизнь — единица счёта, и героическая ответственность, чтобы сделать это личное. Защита сообщества это эти были повреждённые люди misreading хорошие идеи, и некоторые из них были определённо повреждены. Тем не менее, мы должны просто посмотреть на плод дерева рационализма таким образом, чтобы усомниться, что претензия.

Запутанные простыни, запутанные улицы

Хотя я не здесь, чтобы судить о сексуальной жизни людей, динамика рационалистского сообщества в Silicon Valley вероятно лучше всего показана как сексуальные практики эффективно стали сами способ обеспечивать групповую практику.

Полиамория была видимой особенностью рационалистской жизни задолго до текущего AI новостного цикла. Retrospective Alexander описывает его распространение через сообщество и цитирует опрос 2014, в котором примерно 15 процентов респондентов отождествлены как полиаморные. Однако большая часть того 15% происходит жить в Bay area. Сообщество маленькое, сосредоточено в горстке Bay Area групповых домов, и все в это также все коллега, финансист, хозяин, соседка по комнате или ex каждого. Сеть романтики и сеть профессионала — то же самое сеть. Так что вопрос не кто спит с кем. Вопрос это ли кто-то в это может сказать ни, ничего, без потери их целого мира сразу.

Чтобы понять эту культуру в одном человеке, встречают Aella.

Она была рождена в Idaho в 1992, самый старший из трёх дочерей хорошо известного евангелиста и радиохоста, поднят в фундаменталистской христианской общине и учёба дома кроме одного квартала государственной высокой школы, которая закончилась, когда её родители потянули её вне, потому что она имела неконтролируемый доступ к компьютеру. Она оставила дом в семнадцать, работала фабричное задание за десять долларов час с четырьмя смены a.m., и включилась к веб-камеру в 2012 когда фабрика вышла часов. Она стала один из наивысшего-зарабатывающего создателя на OnlyFans, позже работала как сопровождение, и преподавала себя статистика достаточно хорошо, чтобы управлять некоторыми крупнейшими опросами секс-работников и сексуального поведения, которые существуют. GQ называет её данные-управляемого бывшего техработника. Она описала себя, просто, как член рационалистского сообщества, которого она присоединилась в 2015 после свиданий кого-то, который был в LessWrong.

Дочь евангелиста выросла быть ближайшей вещь, которую этому сообществу есть к жрице. Её публикации на сексе захватывают массивное следование, даже вне рационалистского сообщества, и её сексуальная практика в рационалистском сообществе привлекла значительное внимание.

Один из наиболее хорошо знаменитых, wish вы могли чистить ваш мозг с мылом инцидентов был gangbang, который она организовала для её дня рождения. В смысле, это был ритуал для рационалистского сообщества: недели экранирования, процесс приложения, гостевой список проверил для соответствия доктрины, опубликованный пост-событие анализ с диаграммой, которая прошла вирус, очерчивающей статистику о кто прибыл в кого, и так далее. Gangbang пришёл с доктринальным тестом: приверженцы «действенного accelerationism», фракция, которая хочет развитие ИИ идти быстрее, были отсеяны, из-за её взглядов на риск ИИ. Даже orgy имела AI-управляющую позицию. Это дальше укрепляет, я думаю, культовоподобный аспект контроля этого социального группа. Верьте в правые вещи, и может быть вы получаете иметь секс с порнозвезда сообщества. Предположительно, номер startup фундаторов признал каждого другого там и прокомментировал их удивление на видении каждого другого. Маленький мир действительно.

Aella берёт свидетельство на индустриальную масштаб, управляет опросами, получает бесконечные читатель исповеди с им писание в об их сексуальных жизни.

И в 2026 она вошла в духовенство Yudkowsky более непосредственно, запустив Plz Don't Kill Us, Berkeley residency, который платит создателям производить вирус ИИ-doom содержание, с Grimes прикреплён как наставник. Её отец сделал его жизнь проповедью на христианском радио. Она делает её проповедью ИИ апокалипсис вместо этого. Иронично, семейное ремесло выжило её apostasy неповреждённый.

О том наставнике. Grimes Elon Musk's бывший-партнёр и мать трёх его детей. Elon Musk: владелец xAI, так как сложены в SpaceX, чья chatbot Grok потратила последний год как ИИ индустрия's премьер машина для сексуальных изображений людей, которые никогда не согласились появиться в них. Grok's «spicy» способ и его инструменты изображения позволяют пользователям «раздевать» фотографии реальных людей; наружу аналитики измерили это производящий явный некомплиментный deepfakes на тысячи изображений час; счёт бота один раз извинился за производство sexualized изображения двух молодых девочек; и регуляторы в Объединённом Королевстве, Брюсселе, Франции, Малайзии, и Канада все открыли производство, относительно законности всего этого. В июле 2026 компания судилась Миннесота, чтобы свергнуть страну's первый запрет на инструменты AI nudification, на фактических основах слова; в сентябре федеральный судья отказался приостановить закон пока дело продолжается. Компания является также быть судилась Ashley St. Clair, мать ещё одного из детей Musk, над сексуальными изображениями Grok генерировал.

Это достаточно интересное семейное дело: знаменитость благословения academy doom приходит от того же домашнего хозяйства как индустрия's наихудший нарушитель, и то домашнее хозяйство активно судится для права продолжать нарушение. В этом миру, слишком, p(doom) семейный бизнес.

И это просто прямая половина картины. Собственный сплетнись сообщества долго поддерживал, что есть параллельная сцена на гей стороне того же поля, тот же групповые дома и вечеринка цепи, и то же gossip надёжно добавляет, что это один более здоров от двух. Я не могу проверить это, но org таблица CFAR и его констелляция связанных организаций, жилищный рынок, и датировка пул — к первому приближению — один и самое же.

Профессиональное перекрытие менее забавно, чем гостевой список. New Yorker нанесла романтическую сеть на вершине области: исследователь ИИ-прогноза Katja Grace соучредитель AI Impacts с её затем-boyfriend Paul Christiano, бывший лидер выравнивания OpenAI, и позже датировал Alexander. Christiano связан дружбой и прошлой романтикой к Holden Karnofsky, филантропу, чьего Open Philanthropy направили сотни миллионов в ИИ безопасность, и Karnofsky женился Daniela Amodei, соучредитель и президент Anthropic. Никакое неправильное поведение необходимо не следует из какого-либо из того, но это поднимает значительные вопросы вокруг как ИИ опасения безопасности в факте быть обработаны или продвинуты с таким многими индустрия уполномочены и трясущихся к этой степени.

Некоторые счета описывают неправильное поведение. A TIME investigationную в действенный-альтруистской мир, EA для краткой, рационалист's благотворительный двойник и предмет следующей части, задокументировано обвинений сексуальной оскорбление, принудительный контроль, и профессиональное давление запутало с интимными отношениями. Таким образом я спрошу вопрос ещё раз: может человек в этом миру отвергнуть секс, отклонить психологическое вмешательство, отчёт неправильное поведение, или выход отношение без угрозы их карьера и их целый социальный мир одновременно?

Следуйте деньгам

Как подкультура это странной потом стали основание для установки курса национальной ИИ политики? Не выигрывая аргументы в публике, но приобретая балансовый лист. Чтобы понять куда тот балансовый лист пришёл, нам нужно посмотреть на рационализм's конвергенция с движением, которое началось где-то совсем другой.

То движение было действенным альтруизмом, или EA. Его моральный начальный момент был мыслью Peter Singer's тонущего-ребёнка эксперимент: если вы видели ребёнка тонущего в мелком пруду, вы был бы обязан вать в и спасите их даже если так повредило ваши одежды. Претензия Singer's больше была это расстояние отменяет то обязательство. Если скромное пожертвование может спасить жизнь ребёнка вы не можете видеть, отказ дарить, потому что ребёнок — за границей не морально различный в путь большинство людей был бы нравиться это быть. EA попытался включить то неудобное помещение в метод: дарите существенная доля вашего дохода, мера какие вмешательства спасают или улучшают самый много жизни за доллар, и прямой деньги на тех вместо на вех вмешательства происходят быть близко или эмоционально vivid.

Таким образом хотя рационализм и EA стали братьями вокруг 2009, они имели различные происхождения. Рационализм вырос из Berkeley-области сцены вокруг LessWrong и Eliezer Yudkowsky, чья работа включала оба аргументы об искусственном интеллекте и очень долгий Harry Potter фанфик предназначено преподавать привычки рассуждения. EA вырос из Oxford философии. Toby Ord, старший исследовательский fellow на институте Bostrom's, основан Давание То Что Мы Можем, чьи члены обещали порцию их дохода к действенным благотворительности. William MacAskill соучредитель 80,000 Часы, которая применила то же самое логика к карьеры: если работающую жизнь содержит примерно 80,000 часы, выберите работу, которая может делать наибольшее добро. Две организации сформировали Centre для Действенного Альтруизма в 2011. На бумаге, это было респектабельное благотворительность-смежное установка, не отделение интернет-субкультуры.

Два движения держат отдельно основание мифы и отдельные имена до этого дня, но они никогда были правда отдельные сообщества. Собственная история EA описывает альтруист, рационалист, и круги будущего, объединяющие в конце 2000-х, и Bay Area рационалисты показались часто в EA's основание годы.

Слияние было доктринальное столько же как социальное. EA начал попыткой максимизировать добро это могло делать для человечества и количество это. Они тщательно считали bednets, deworming таблетки, жизни спас за доллар, и в целом поддерживали тщательная дисциплина благотворительности оценка через организацию, вызванную GiveWell, основана Holden Karnofsky. Мы просто обсудили его, как он женат на президент Anthropic's. Всё это хорошо и хорошо, спасание человеческого жизни и держание их здоровую, конечно, хорошая вещь. Затем крыло движения качался в сторону longtermism, претензия что жизни всех возможных людей в будущем доминируют моральную арифметику того что должна быть сделана с фондами. От там логика объединяется довольно быстро с рационализмом: если целый будущий — единица счёта, ничто не значит больше чем предотвращение вымирание, и что было рационализм уже иметь на повестке дня как его вымирание риск, percolating через сообщество так как 2000? Yudkowsky's ИИ беспокойства, так как тогда легитимизировано публикациями Oxford Future Institute. Таким образом ИИ doom стало EA's флаговое дело. Рационалист's эсхатология соединилось с EA's endowments приносить нам на настоящему дню.

Перекрытие в персонал делает это ясным; Leverage Research, психология операция из последней части, не просто обмена доноры с этим миром: в 2013 команда Leverage создана EA Global, флаговая конференция движения, и размещена первый в их собственном доме. И Jaän Tallinn, чьё имя имело к моменту появилось на философы' институт, Cambridge центр, программа стипендии, и бюджет психология культ, финансировано оба сообщества неразбирчиво. TIME investigationную в «действенной-альтруистской и смежные круги» было в практике investigationную одного сцена работающего в два различных ярлыки.

Больше деньги последовало. Open Philanthropy доложила примерно сорок миллионов долларов в 2017 грантах привязано к рискам из продвинутого ИИ, включая тридцать миллионов к OpenAI. Беспокойства что имели жизнь в сообщении посты стали заданиями, программами исследования, и институциональный авторитет. Когда люди спрашивают как горстка блоггеров приобрела влияние над структурой ИИ политики, ответ — главным образом это небольшое количество очень богатый доноры решил финансировать их, и почти никто другой финансировал ничего.

Затем движение чеканился обман. Sam Bankman-Fried не был аварией близости; он был EA's собственный продукт, undergraduate указал на Wall Street движением's философы на теории что наибольшее добро может делать, был получение экстравагантно богатый и дарить это прочь. Он получил богатый, стал наиболее знаменитой действенной альтруист живой и большой источник финансирования для экосистемы, и показался выполняющий свои клиента's счета в FTX; он теперь служащий двадцать-пяти-летний федеральный предложение. FTX имела также положила пятьсот миллионов долларов в Anthropic, таким образом доходы обмана кратко сидел на капитала таблица безопасности лаба.

В смысле, героическое долга и единое видение, излагаемой Yudkowsky, ударила снова здесь. Может быть один урок этот спасение мира намерение опасно слабо замещение для тщательного рассмотрения.

Среди других вопросительных покровителей, Peter Thiel — может быть самая политически значительная цифра циркулирующая эта сцена. MIRI списки фонд Thiel среди его наибольшего исторического вкладчика, в более чем 1.6 миллионов долларов. Thiel также банкролл Yarvin's техническая компания, Tlon: покровитель ИИ-спасение проекта — также покровитель много-хуже-чем белый-supremacist неореакционной блоггер. Washington Post имела также отчёты на как идеи Yarvin's позже циркулировали через правительство-стоимость-урезание усилиями второй администрации Trump, любезность влияние Thiel's.

Thiel, имела в течение некоторого времени, сделала его мнения на политика ясной. В 2009 сочинении он написал: «я больше не верю это свобода и демократия совместимы.» Его жалоба, в то сочинение, явно включила расширение избирательной права к женам и рост социального государства как структурные проблемы для свободы. Сходно Yarvin, заключение он нарисовал от демократической политики производящее результаты, он disliked, был, что ошибка была позволять таким многим людям участвовать.

На Yarvin и Thiel соединяясь силы, Yarvin поставил прямо стратегии для Thiel принимать, чтобы рычаг деньги в принудительном его воле. Yarvin's «Cathedral» описанный университеты, средства массовой информации, и граждане служба как один interlocking механизм воспроизводящий либеральное убеждение, враг быть разобран, а не противник быть убеждён. Для людей, держащих имменс экономическая власть, пока чувствующий затвор культурный авторитет журналистов, академиков, и регуляторы, это была совершенная теория. Позволяет миллиардеру быть себя как persecuted инакомыслящий. New Yorker отчёты это Thiel было приватно беспокойно достаточно об соединении, чтобы письмо коллега в 2014 спрашивать как опасно это было, что два из них были публике соединены. Которое говорит вам крайность было разборчиво в времени. Никто невинно mistook Yarvin для благотворного ассоциате.

В контраст к Yudkowsky's апокалипсис религия в Berkeley, Thiel недавно начал hawking лекции на его форме из христианства, главном образом сосредоточиваясь на Antichrist и как люди он имели жалобы с являются часть Antichrist's легион. На Stanford, Thiel, упал под влияние René Girard, католический теоретик mimetic желание, чья претензия то что человеческие существа учат что желание imitating каждый другой, и чьего позднего работа прочитанное история как эскалация imitative соперничество возглавлены на апокалипсис утёс. Thiel имела кредит Girard как глубочайшее влияние на его мышление, и его собственным счётом это был Girard's insight который сделал его первый вне инвестор в Facebook, машина для смотрения что другие люди хотят.

Thiel как христианин апокалипсис-ист появился главном образом в 2025. Вместо публикации сочинения или принимая сцену на конференции; он доставил четыре вне-записи семинары на Antichrist приглашённый публике в San Francisco, на эгиде ACTS 17 Collective, nonprofit для evangelizing технология индустрия это выросло из 2023 день рождения brunch для один его партнёра, вечеринка тематический вокруг Святой Spirit, где Thiel говорил о чудо, прощение, и Jesus к некоторому двум сотнях и двадцать гости, кто, их собственным позже счётом, имели не знали он был религиозный. Лекции вытекли. Washington Post рассмотрена аудио, и UC Berkeley аудио-судебно-медицинский эксперт профессор конечно подтверждение записи, потому что действительный препятствие к верованию что один из самых богатых мужчин в Америка давала приватные семинары на Antichrist было, что это звучало insane. Один libertarian писатель сидел через всё семь часов и отчёты что богословие было, unsurprisingly, libertarian. В март 2026 Thiel взял показ к Rome, где католический публикации и по крайней мере один священник публично попросил ему к остановке.

Содержание лекции является очевидно возникает-помощью. В рассказу Thiel Antichrist — не тиран или зло технология гений; это кто-то, кто «предупреждает экзистенциального риска nonstop и зовы для сильной регулирования в инновационной сектора,» и таким образом открывающая лекция отождествлена Greta Thunberg и Eliezer Yudkowsky как «legionnaires Antichrist.» Финансовое регулирование — не, в этот структура, политика несогласие; это лесная генерация мира правительство Antichrist верхом мощность, и люди, которые хотят регулировать технология — не ошибка но против Бог. Он приостановился где-то в серии чтобы urge Musk к отказу Давание Pledge, таким образом тот fortune, некоторый два сотнях миллиардов долларов это, не текли к оставленной-крыле nonprofits выбран Билл Gates. Посещать, на момент, что это: наибольший действенной республиканской жертвователя последнего десятилетия, председатель наблюдение компании, покровитель вице-президента, объясняя к rapture комната технолога что Antichrist's авангарда — шведский климат активист и Harry Potter fanfic автор, один из кого его собственный деньги помочь поддержка две десятилетия. Лекции — не quirk сидящий смежно его политика. Они — политика.

До Antichrist семинара, Thiel вел девять-летние скрытый война против прессу, потому что Thiel's ответ враждебный речь имел всегда быть последовательность: устранить оппозиция с prejudice. В декабре 2007 Silicon Valley блог Gawker's опубликовано небольшой пункт заголовок «Peter Thiel совсем гей, люди.» Thiel было не публично вне; инсайдеры знали, открытый рекорд не, и он предпочёл его что способ. Он позже описанный сайт, Valleywag, как «Silicon Valley эквивалент Al Qaeda,» который говорит вам степень его гневу, и затем, вместо feuding в публике, он потратил лучше часть десятилетия спокойно платя команду юристов финансировать другие люди's судебные издания против компании, примерно десять миллионов долларов поперёк несколько дела, ничто это не раскрыто. Тот это связанный было Hulk Hogan's, над секс лента Gawker имела опубликовано. Gawker было вручено сто и сорок миллионов доллар вердикт, и выход закрыто для хорошо в августе 2016. Когда Forbes разоблачён кто имел оплачиваемый счета, Thiel подтвердил это, описал кампанию как «менее об мести и больше о определённом сдерживание,» фраза заёмная от кримин sentencing, и звал это один из «больше филантропический вещи» он имел сделано. Trial юрист его деньга взятая, Charles Harder, ушёл на представить Donald Trump, Melania Trump, и Jared Kushner. Согласно Yarvin's Cathedral playbook, Thiel преподавал будущее президент's юридический команда как использование юридический стоимость к раздавливание оппозиция, которую Trump имела тогда идти на делать extensivelyá.

Финансирование вокруг богословие — исследование в себя. Там — Palantir, наблюдение подрядчик Thiel стулья, сейчас интегрированный в военный, полиция, и служба разведки Denmark's над открытое возражение, и долго встроенный в американский иммиграцион enforcement. Там — Anduril, автономное границе-защита фирма что получила Founders Fund's наибольший когда-либо инвестиция, один миллиард долларов в 2025, месяца до бюджет обеспечение требуя автономной способности на границе наблюдение башни, требование только Anduril может удовлетворить, привлечения вызовов пользовательского благоприятствования. Там — Clearview ИИ, лицо-признание компания он поддерживалась рано. Там — Enhanced Games, спортивная лига где doping позволён, основан Aron D'Souza, юрист что управлял Gawker кампания, с Thiel как основное финансирование.

Pronomos, Thiel's транспортное средство для запуска города, средства Próspera, полу-суверена charter зона что потратила годы в юридический война с правительство Honduras, и Praxis, сеть-государство проект, более половины миллиарда доллара поднял с помощь от фонда поддержаны Andreessen и Sam Altman, чьего основателя имели проекты на Гренландия с 2019 и опубликовано «я пошёл на Гренландия попытка купить это» неделю после Trump выиграл в 2024. Когда Trump начал разговаривание о приобретение остров и отказался к правилу вне военной силы, Praxis retweeted его с комментарий «Согласно планировать». Trump's посол в Copenhagen — Ken Howery, PayPal соучредитель и Thiel's старый коллега, и союзник Praxis проекта. В март 2025 Vance летели к американский база на Pituffik к объявить то Denmark «не имела хороший работа на хранение Гренландия безопасный». К затем, датский противники Palantir интеграция уже цитировали Thiel's территориальное хобби как национальная безопасность аргумент. Trump прошёл сила разговор назад в январе 2026, после переговоры с NATO. Yarvin's Patchwork, вы вспомните, воображаемый суверена территория управляемый как бизнес, с выход как только recourse. Это было никогда просто пост блога. Thiel имела состояние выполнить это для лет, и федеральное правительство имела conveniently попыталось coerce его приобретение.

Дорога в правительство

Машина доставки для всего этого в федеральном правительстве — JD Vance.

Vance работал в Mithril, Thiel's инвестиция фирма. Thiel позже положила пятнадцать миллионов долларов в сверхь PAC этот нёсся Vance's 2022 Senate кампания, один из наибольших один-жертвователь interventionstätdessa в Senate гонка в American история. И Vance имел назвал его влияния. В 2021 интервью он спорил, что вернившееся Trump администрация должна спустить крупное количество граждане servants, и этот когда суды попыталась к остановке это, исполнитель должна просто defyать их, invoking Andrew Jackson's apocryphal «John Marshall имела сделанный его решение; теперь позволено ему enforce это.» Он описал эти позиции, сам, как влиял Curtis Yarvin.

Yarvin не инвентировать американский правое's враждебность к административное государство, и он не секретные автор каждого Trump политика. Его вклад был более радикальное рамка: независима учреждения — не просто неэффективный, они — управляющий механизм врага религия, и разобрание их — предусловие для «обновления». Этот рамка — сейчас эндемичный к республиканской вечеринка. Это почему атаки на университеты, суды, и граждане служба может продаваться на публике как анти-коррупция вместо про-консолидация: учреждение's способность сопротивляться лидер — сам indictment.

Персонал идёт глубже чем Vance. Michael Kratsios, кто был принцип в Thiel Capital, управлял Office из Science и Technology Policy, и согласно март 2026 White House имела назвал его со-председатель, наряду с David Sacks, из президент's наука и технология консультативный совет, с Marc Andreessen среди его объявлен члены. Эти люди — не разделение одна доктрина, но они разделяют положение в то же самое сеть, и сеть имела доказанный трубопровод из Thiel's Rolodex в федеральном назначения.

Там — меньше мосты из различных рационалист фракции слишком: Laurenson трассирует основание Palladium, журнал управления и statecraft, к Wolf Tivy и Jonah Bennett пока оба работали внутри Leverage, с Leverage alum Samo Burja orbiting это: психология культ и анти-демократичный политический-интеллектуальный сцена, разделение персонал. Ничто не требует координация для это к значению. Люди ношу отношения, допущения, и репутации из одного учреждения в следующий. То это что сеть.

Несогласие среди верные Yudkowsky

Как вы может имели заметили, Thiel имела так как разорвал с Yudkowsky из-за его взглядов на регулирование. Эти люди — не согласиться с каждый другой, и несогласие — ferocious.

Yudkowsky выступает shutting вниз продвинутое развитие ИИ, и имела musedно открыто об военный enforcement против запрещённого проекта, вверх к и включая принятие риск вооружённое conflict к предотвращение катастрофа. Andreessen's Techno-Optimist Manifesto назвал экзистенциального-риск мышление и действенной альтруизм как идеологический враги; он опубликовал это под флагом вентура фирма сейчас представлен на президент's наука совет. Vance использовалось его 2025 Paris ИИ речь к предупреждение Europe отключилась чрезмерный регулирование. Thiel, как вы сейчас знаете, числа Yudkowsky среди legionnaires Antichrist.

Таким образом «рационалисты контроль правительство» — слишком грубый быть полезный; вы может посмотреть Yarvin как имеющий введённый ещё один schism в рационалист сообщество, пока другой видным члены сетки находятся во каждый другой's горло.

Назад к этот месяц

Почему spill столько чернила на это, и как это соединяет к Jacob Coxon отставки из Anthropic?

Когда его пост пошёл вирус, один крыло американской политика рассмотренный это как операция. Musk звал это psy-op. Консервативный комментаторы и по крайней мере один ИИ-индустрия блог расчёсан временные метки и заключена виральность был слишком чистый, усиление слишком быстро, всё слишком связано: ИИ-безопасность финансист, кто boosted пост, они заметили, соседи к Anthropic's собственный инвесторы, таким образом целый вещь был этап. Washington Post документировано кампанию это последовало, в котором исследователь который предупредил катастрофу стал, сам, история, и цель.

Это ли возможно? Или он просто чувак что верит что он верит и действовал на принцип?

Для меня, рационалист schism между Yudkowsky и Thiel делает либо вариант правдоподобный. Подкультура потратила два десятилетия строя плотная сеть общего финансирования, общего жилого помещения, общее кровати, и общее eschatology, укомплектованный фронтир лабы с его alumni, и спросил общество к принять его предупреждения на сила его sincerity. Момент один из его участников сжалась его капитал доставить предупреждение в ясный возможный условиях, первый ответ фракции сейчас управляющей наряду с его индустрия's инвесторы было это такой координация был unthinkable, что нет сообщение может возможно распространять это быстро organically, что кто-то должна платить это. Критика сообщества имели, на очень по крайней мере, определённое представление о как физически и социально запутано, в направление это происходило к оставить их собственный покровители untouched.

Защита сообщества была, заметно, communal. Zvi Mowshowitz, ветеран сцены, vouched для Coxon's sincerity в длина. Среди тех подтверждающий это виральность имела действительно удивлён ИИ-безопасность мир's обычное amplifiers был Aella, doom жрица из более раннего в этот кусок, чьего слова сообщество принял как это эксперта в виральность. Может быть. Но посмотрите на epistemics на показ: социальная сцена vouching для участник социальной сцены, с это экспертами на виральность получено из то же самое сцена. Это трудно сказать sincerity из какого-либо это когда рационалисты обойти wagons.

То не причина к disbelieve Coxon. По каждый счёт, включая враждебный тех, он потратил три года наблюдение индустрия's internals, бросил самый безопасный-казаться работодатель в область, дал вверх деньги делать предупреждение unambiguous, и сказал ясно что его коллеги подтвердить они верят. Wired спросила его ли Anthropic режет углы, и его ответ было что Anthropic был «далеко и далеко наиболее ответственный игрок в пространство,» и это это был точно проблема: если даже ответственное игрок гонится, там не ответственное игрок. То серьёзное заявление действительно.

Быть candid, я не полностью трастую Coxon историю либо. Синхронизирование оставления просто smidge до vesting определённо ощущение как этап рассказ выбор. То есть, я не может скажу предупреждение ложный — я могу скажу ошибка в его сроки делает полностью диагностика из какой-либо из это трудный, и я подозреваю, что точно может быть цель.