Стимулы — это для лохов

OR: ты должен посмотреть на эту рыбу и сойти с ума

С этим все согласны: стимулы плохие. Куда ни глянь, людей вознаграждают за неправильные поступки. Это стало универсальным диагнозом для любой проблемы — от изменения климата до политической поляризации и научных злоупотреблений: «извини, приятель, у тебя тяжёлый случай плохих стимулов».

Спорить с этим анализом сложно. Он почти тавтологичен. «Люди совершают плохие поступки, потому что их поощряют и награждают за плохие поступки». А с чего бы иначе?

Настоящая претензия к такому образу мышления в другом: он подразумевает, что стимулам следует подчиняться, что это нормально или даже благородно, и что поступать иначе едва ли возможно. Разве можно требовать от кого-то нарушить правило, отказаться от повышения или потерять десятую долю среднего балла ради — чего? Правильного поступка?

Есть мысль, которая должна быть очевидна сама собой, но почему-то так и остаётся невысказанной. А именно: стимулы — это для лохов. Делать что-то просто потому, что произвольная система награждения даст тебе плюшку — это годится для голубей, а не для людей. Если строить свою жизнь вокруг удовлетворения стимулов, то остаётся быть тупицей и простофилей.¹

КАСКА ИЛИ ПОТОП

В детстве, играя несколько катастрофических лет в Little League baseball, самой нелюбимой частью было выходить на биту, потому что приходилось надевать одну из потрёпанных старых бэттинг-касок, выдаваемых местным спортивным департаментом. Ни одна не подходила по размеру, и все пахли так, будто их до этого носила сотня потных десятилеток — потому что сотня потных десятилеток их действительно носила. Так что каждый выход на биту нёс не только риск страйк-аута, но и риск заразиться головными вшами.²

Несколько ребят, серьёзных, приносили собственные каски — подогнанные по размеру, со вкусом украшенные наклейками и, судя по всему, без единой вши. Эти дети бегали по базам как маленькие принцы. Случайные подачи безобидно отскакивали от их шлемов, не оставляя следов на идеальных черепах. Игроки в поле оживлялись, когда ребёнок с индивидуальной каской выходил к плите — все думали: а вдруг этот действительно попадёт по мячу.

Всё это к тому, что стимулы похожи на бэттинг-каски: если не принёс свою, придётся пользоваться дешёвой, которую тебе выдали.

Критически важная часть человеческого развития — по сути, самая человеческая его часть — обрести цель. Это означает уточнить своё представление о правильном и неправильном и понять, как именно ты, лично, можешь увеличить долю правильного и уменьшить долю неправильного. Когда нервная трубка превратилась в мозг, когда можно спокойно сходить в туалет, спрягать неправильные глаголы и есть твёрдую пищу самостоятельно, стоит задать себе вопрос: «Зачем я делаю всё это?» В чём смысл? Как я могу быть полезным?

Нормально, если ответы на эти вопросы ещё в процессе поиска. Нормально — и даже хорошо! — иметь несколько ответов или менять их со временем. Но совсем не нормально пропускать сами вопросы. Мы обязаны этими ответами друг другу и самим себе, потому что чувство цели одновременно просоциально и защитно. Если внутри пустота там, где должны быть моральные убеждения, эта полость личности заполнится опухолевидными желаниями — денег, власти, славы, статуса. Именно такой человек «реагирует на стимулы».

Понимание этого пришло не сразу. В начале двадцатых, находясь на нижней ступени всех лестниц, на которые хотелось подняться, казалось, что люди на верхних ступенях этих лестниц должны быть довольно классными. Какими мудрыми должны быть эти покорители стимулов, какими крутыми и умными — раз имеют то, чего хотят все остальные!

Но с годами, по мере знакомства с некоторыми из этих капитанов индустрии, этими грандиозными шишками и заслуженными учёными, стало ясно, насколько это было ошибочным представлением. Они казались завидными только потому, что рассматривались издалека, и видно было лишь то, что они имеют. Вблизи, когда становится видно то, что они из себя представляют, ясно, что лишь немногие из этих покорителей лестниц действительно мудры и круты. Чаще они — жалкие мелкие типы. У них нет духовного стержня. Нет убеждений, нет страстей, нет цели, кроме карьерного восхождения. Грустно смотреть на таких людей, у которых есть всё, кроме единственной по-настоящему важной вещи.

Часто именно такие люди наиболее настойчиво утверждают, что стимулам следует подчиняться. Они с готовностью клянутся, что хорошие оценки, деньги, престиж и тому подобное обладают внутренней ценностью или являются полезными индикаторами ценности. Одержимые стимулами так думают, потому что вынуждены. Как правительство разваливающегося государства, они обязаны клясться, что их валюта настоящая, и обрушиваться на любого, кто пытается участвовать в альтернативной экономике — иначе весь обман рухнет сам на себя.

ПОМОГИ МНЕ, НЕБЕСНЫЙ ПАПОЧКА, ТЫ МОЯ ЕДИНСТВЕННАЯ НАДЕЖДА

Без всякого формального обучения примерно 100% людей научатся говорить, и примерно 0% людей научатся читать. Речь приходит легко и рано, благодаря древним ментальным структурам, которые вбирают слова и извлекают из них смысл. Это оригинальные LLM, и до сих пор лучшие во всей известной вселенной. Чтение, напротив, приходит поздно и с трудом, паразитируя на участках мозга, которые никогда не предназначались для расшифровки закорючек на бумаге, не говоря уже о понимании «Поминок по Финнегану».

Поэтому, размышляя о любой человеческой способности, полезно спросить: она больше похожа на говорение или на чтение? Это древняя способность, достающаяся бесплатно просто за то, что живёшь достаточно долго, или это современный навык, который не получить без работы над собой?

Формирование системы ценностей, судя по всему, гораздо больше похоже на чтение, потому что исследования показывают: многие люди не заходят в этом деле далеко.

В начале 2000-х социологи Кристиан Смит и Мелинда Лундквист Дентон опросили сотни американских подростков об их религиозных убеждениях. В ответ получили сплошную невнятицу. Независимо от заявленной веры, мало кто из подростков мог сказать что-то конкретное о божественном. Большинство считало, что Бог — это вроде как крутой парень, который парит в небе и хочет, чтобы все были счастливы и ладили друг с другом, и если попросить его по-хорошему, он может помочь достичь целей, но в остальном он в основном занят паринием. К счастью, этот небесный дворецкий не особо конкретен насчёт того, что можно и что нельзя делать, и не особо разговаривает, если к нему не обращаются.³

Смит и Дентон придумали название для этого жидкого бульона теологии: морализаторский терапевтический деизм. Изучали они только подростков, но подозревают, что многие люди остаются морализаторскими терапевтическими деистами всю жизнь — в конце концов, подростки, вероятно, переняли эту рыхлую кучку убеждений от родителей. В опросах люди заявляют о принадлежности к определённой религии или могут вспыхивать по поводу конкретных догм. Но если копнуть их убеждения хоть немного, вскоре доберёшься до вязкой середины из недопечённого религиозного месива.⁴

Впервые эти исследования попались на глаза десять лет назад, но при недавнем повторном обращении к ним обнаружилось нечто примечательное: похоже, это редкий случай, когда социологи и психологи открыли одно и то же явление, подойдя к нему с разных сторон. Как если бы копали с противоположных концов Земли и наконец звякнули лопатами друг о друга.

С психологической стороны это открытие называется иллюзией глубины объяснения. Как отмечалось ранее, люди понимают мир ровно настолько, насколько это необходимо, и не лучше. Все знают, как пользоваться унитазом, но ошибочно полагают, что также знают, как унитаз работает.

Эта иллюзия кажется неизбежной, учитывая архитектуру разума. Согласно теории предсказательной обработки, разум постоянно пытается угадать, что произойдёт дальше, и обновляет свои предположения только тогда, когда ожидания не совпадают с опытом. Если гонять этот алгоритм достаточно долго, получится модель мира, которая достаточно хороша, даже если не особенно хороша. Ошибки в модели не замечаешь, пока не столкнёшься с ними лицом к лицу, и каждый раз, исправив одну, начинаешь думать, что исправил все.

С социологической стороны то же явление проявляется как морализаторский терапевтический деизм. Народная мораль и народная религия людей, как и их народная физика, народная биология и так далее, детализированы ровно настолько, насколько нужно. Не бей, не воруй, соблюдай очередь, говори «пожалуйста» и «спасибо» — почти все достигают этого базового уровня морального развития, иначе останешься без друзей, если не в тюрьме. Точно так же почти все обзаводятся смутным представлением о всевидящем небесном Боге просто через осмос. (В конце концов, Он в некотором смысле повсюду, буквально и метафорически.)

Но за пределами горстки высокоуровневых принципов большинство людей остаются размыты в деталях. Смит и Дентон не проводили с участниками полный протокол проверки иллюзии глубины объяснения, но можно с уверенностью предположить, что каждый чувствует, будто у него есть цельная система этических и религиозных убеждений — ровно до момента, когда задают конкретные вопросы.

Системы ценностей у людей хрупки по той же причине, по которой хрупко их научное мышление: мысленные модели не исправляются, пока что-то не подскажет, что они сломаны. Так что, если пастор не устраивает во время проповеди опрос с поднятием рук и не вызывает людей на скамьях, и если не приходится регулярно оказываться в различных вариациях проблемы вагонетки, ничто не подсказывает, что моральные и теологические убеждения нужно укреплять. Зачем тратить дни на размышления о правильном и неправильном, добре и зле, священном и мирском, если можно этого не делать? Это ведёт либо к неприятностям, либо, что ещё хуже, к аспирантуре по философии.

Это может объяснить, почему чувство правильного и неправильного так легко перезаписывается любой более-менее приличной системой наград и наказаний: изначально там просто мало что записано.

Так как же кто-то вообще развивает систему ценностей, состоящую из большего, чем пара тезисов? Если коротко — они смотрят на рыбу и сходят с ума.

ТЫ ДОЛЖЕН ПОСМОТРЕТЬ НА ЭТУ РЫБУ И СОЙТИ С УМА

Большинство рассказов Г. Ф. Лавкрафта можно свести к формуле «парень смотрит на что-то настолько жуткое, что полностью съезжает с катушек». «Дагон» — один из первых у Лавкрафта: про человека, оказавшегося в море на брошенном судне, который сталкивается с по-настоящему пугающей рыбой, и это настолько выбивает его из равновесия, что в итоге он выбрасывается из окна.

Это удобная метафора, потому что в центре психики каждого человека, похоже, есть своя версия Большой Ужасной Рыбы: какое-то непроверенное допущение, которое, будучи полностью осмыслено, потребовало бы перевернуть значительную часть жизни.

Свою рыбу увидел в 2020 году в Сан-Франциско, на ежегодной встрече Общества личности и социальной психологии.⁵ Внутри конференц-отеля шли десятки докладов о стереотипах, предрассудках, неравенстве и так далее. Это никогда не казалось странным — до того года, когда снаружи отеля, расположенного в самом центре района Tenderloin в Сан-Франциско, люди валялись на тротуаре, умирая от передозировок. Учёные спешили мимо бездомных, чтобы прочитать доклады о социальной справедливости, что иронично, поскольку «учёные спешат мимо бездомных, чтобы прочитать доклад о социальной справедливости» — это буквально главный вывод одного из самых известных психологических исследований всех времён.⁶

В тот день что-то щёлкнуло. До этого казалось, что ответ на любую дилемму — «больше исследований», и что со временем все эксперименты, представленные внутри отеля, решат проблемы снаружи него. Но, поедая канапе в банкетном зале в считанных шагах от такого количества страданий, невольно возникал вопрос: а действительно ли кто-то из присутствующих пытается что-то изменить, или все просто публикуют статьи. Убеждение, что барьер между нами и лучшим миром — это недостаток знания, никуда не ушло; просто уверенности в том, что это именно то самое знание, больше нет. Человеческое страдание, видимое на улицах Сан-Франциско, вряд ли исчезнет от ещё тысячи исследований угрозы подтверждения стереотипа, истощения эго и мышления роста, каким бы чудом это ни было для резюме.

После этого попадалось ещё немало рыб — разных видов, все гротескные. Именно поэтому в те редкие случаи, когда сейчас приходится заходить в конференц-отель, на бейджике не указана академическая принадлежность — просто написано «гость».

При встрече с человеком редкой цельности, готовым бросить вызов стимулам любой ценой, почти всегда обнаруживается, что он видел свою рыбу — крупную, громадную, куда больше любой из встреченных прежде. Такие люди прошли через своего рода моральную встряску, разрушившую их иллюзию философской глубины и дала шанс выковать собственные ценности. Это тот тип людей, что способны взойти на плаху с остроумной фразой на устах — полная противоположность лоха.

500 ДНЕЙ САМНЕРА

Раньше подобного человека приходилось видеть каждый день, хотя он умер очень давно. Рядом с факультетом психологии стояла статуя сенатора Чарльза Самнера, наиболее известного тем, что в 1856 году его почти забил до смерти конгрессмен с Юга. Но этот исторический факт не отдаёт должного истории его жизни.

Самнер рос бедным в Бостоне, среди значительного чёрного населения города. Во время поездки во Францию в 1830-х он был поражён, увидев, как чёрные и белые студенты учатся вместе на равных в Сорбонне. В дневнике он пишет: «Должно быть, дистанция между свободными чёрными и белыми у нас — следствие образования, а не природы вещей». Позже он становится самым громким белым аболиционистом своего поколения, занимая позиции, которые даже друзья считали безумными: немедленное и полное освобождение всех порабощённых людей, за которым должно последовать избирательное право для чёрных⁷ и расово интегрированные школы.

Затем наступает знаменитый эпизод: через несколько дней после одной из самых зажигательных речей Самнера конгрессмен по имени Престон Брукс подходит к его столу в зале Сената, обвиняет в клевете и избивает его тростью до тех пор, пока та не ломается. Самнер, застигнутый врасплох, запутывается в собственном столе и не может увернуться; он едва не умирает. Но выздоравливает — и после этого становится ещё более провокационным. В 1861 году он подталкивает Линкольна отменить рабство в Конфедерации, из-за чего газеты родного штата Самнера, Массачусетса, называют его «кандидатом в психиатрическую лечебницу». (Два года позже Линкольн издаёт Прокламацию об освобождении.) Самнер пишет законопроекты, аргументы и поправки, которые часто отвергают или обесценивают, — лишь для того, чтобы они вновь появились сто лет позже в деле Браун против Совета по образованию и Законе о гражданских правах 1964 года.⁸

Всё это к тому, что где-то на Бикон-Хилл, в Сорбонне и в луже собственной крови на полу Сената Самнер, судя по всему, увидел рыбу — и отказался отвести взгляд.

СТОИТ ЗАДУМАТЬСЯ

Понятно, почему многих так волнует тема стимулов. Бесит смотреть, как злодеи добиваются успеха. И если можно перестать вознаграждать людей за неправильные поступки, это, очевидно, стоит делать.

Но неизвестно, возможно ли это в принципе. Закон Гудхарта, закон Кэмпбелла и их следствия утверждают, что любой стимул со временем обречён быть скомпрометирован, и пока никто не доказал, что эти гипотезы ошибочны. Поэтому разговоры о стимулах часто напоминают разговор об обезьяньей лапе, исполняющей желания, но только злым, ироничным образом. «В прошлый раз желание, загаданное на Обезьяньей Лапе, обернулось катастрофой. Чтобы это исправить, решено загадать ещё одно желание на Обезьяньей Лапе».

В вечной игре в кошки-мышки между добросердечными людьми, пытающимися исправить стимулы, и «гудхартнутыми» людьми, пытающимися эти стимулы эксплуатировать, симпатии на стороне кошек. Стоит проверять, дают ли системы стимулов задуманный эффект, и пересматривать их по мере необходимости. Но по какой-то причине, как только разговор заходит в терминах стимулов, начинает казаться, что смелости не существует и не может существовать. Плохие стимулы стали версией «я просто выполнял приказы» для нынешнего поколения — отговоркой, которая на самом деле должна звучать как обвинение.

Так что стоит стремиться настроить стимулы правильно, но также — к чёрту стимулы, поступай правильно. Если искать выход из наших постоянных проблем, нужно воспитать в себе те же три качества, которые Чарльз Самнер советовал искать в лидере: «Первое — стержень, второе — стержень, и третье — стержень».

Shout out to this post from Tal Yarkoni and this tweet from Alice Maz: «Only morons and cowards "respond to incentives." Healthy people do what they want to do if reasonably practical, great people do what they want to do no matter what.»