В последние месяцы OpenAI потрясла математическое сообщество публикацией сотен математических открытий. Многие из этих доказательств, охватывающие теорию чисел, теоретическую информатику и логику, десятилетиями или даже столетиями ставили в тупик лучших математиков мира.
Реакция математического сообщества — смесь возмущения, удивления и скорби. «Во вторник вечером я плакала, и это разбудило мою дочь», — сказал Уго Дюминиль-Копен, лауреат Филдсовской медали 2022 года, после октябрьского выпуска от OpenAI. «Они уничтожили мою область исследований».
«Я буквально плакал, когда говорил с Wired несколько недель назад», — сказал Стивен Строгац, математик и автор из Корнеллского университета. «Люди используют фразы вроде „они тащат полезные ископаемые из нашего предмета" или „они взрывают ландшафт". Чувство дезориентации. Некоторые дни я совершенно сбит с толку. Некоторые дни я в восторге. И есть огромная горечь».
Хотелось разговаривать с одним из скорбящих, чтобы понять эту технологическую печаль. Хотелось узнать, простое ли это оскорблённое самолюбие или разочарование — как у мальчика, потратившего час на строительство башни из кубиков и смотрящего, как его старший брат её разбивает, — или что-то более странное и глубокое.
Если честно, мне также хотелось понять, что это может означать для меня. Сегодня плачут математики, потому что машина сломала их башню первой. Но завтра это могут быть физики, экономисты, иллюстраторы или писатели, оплакивающие свои разрушенные постройки. Я не один из тех сторонников ИИ, кто верит, что сотни миллионов рабочих мест исчезнут в ближайшие пять лет. Но я реалист, который признаёт: быстро развивающаяся технология, производящая интеллект, неизбежно столкнётся с современным миросозерцанием, который ценит человеческий интеллект и часто отождествляет его с целью, достоинством и самоуважением.
Хотелось узнать наше будущее. Поэтому я позвонил Стивену Строгацу.
Ремесло и беседа
Чтобы подготовить вас к тому, куда развивался мой разговор со Стивеном, хочу отступить от математики и задать вопрос, который кажется неловко масштабным: что делает людей особенными?
Кто-то скажет — интеллект и социальность. Мы самое умное существо и, по Аристотелю, «социальное животное». Но эти качества мы разделяем с другими видами. Вороны решают многошаговые головоломки. Муравьи собираются и специализируются. Слоны, похоже, оплакивают своих мертвецов.
Человека отличает то, как эти две способности усиливают друг друга. Человеческий интеллект необычайно подходит для подражания и итерации. Мы подражаем родителям и сверстникам с завидной точностью, а затем экспериментируем. Мы копируем и создаём. Наша социальность распространяет процесс копирования и экспериментирования через группы и поколения, так что одно открытие становится основой для следующего. Шимпанзе в Западной Африке колют орехи камнями одинаково уже 4000 лет. За примерно тот же период люди прошли от вавилонских глиняных табличек к космическим ракетам и машинному интеллекту. Что делает нас особенными, похоже, это способность к компонированию. Другие животные создают и общаются, но только люди объединяют ремесло и беседу в культуру, которая строит сама на себе.
Сама наука — это и ремесло, и беседа. Как ремесло, наука — это способ мышления; особый способ обращать внимание на мир; линза, которая рассматривает явления как нечто большее, чем просто видимость. В глазах учёного вселенная подобна космическому чердаку, полному сундуков с сокровищами, каждый из которых наполнен скрытыми драгоценностями, которые можно вытащить на свет, если задать правильные вопросы, найти правильные ключи, повернуть правильные замки.
Но наука не одиночная охота за сокровищами. Это социальный опыт, похожий на игру. Как многие игры, она одновременно кооперативная и состязательная. Ньютон знаменито сравнивал свои достижения с «стоянием на плечах гигантов», и часть науки — это бесконечное расширение человеческой пирамиды вверх. Фейнман предпочитал описывать науку как «веру в невежество экспертов» — то есть как игру в убийство великанов. В обоих случаях наука — это отношение к другим людям. Задаём ли мы «почему, профессор?» или настаиваем «нет, это не совсем так, мистер Важняша», наука — это не просто акт открытия, но отношение к другим открывателям. Наука — это беседа.
Конец беседы
Когда я позвонил Стивену, чтобы спросить, почему он плакал, он сказал, что хочет рассказать мне об Архимеде.
Две тысячи лет назад греческий математик Архимед вычислил площадь криволинейных объектов и определил значение пи, измеряя площади десятков крошечных многоугольников, которые заполняли круг. Письме Эратосфену о своей работе над кривыми и бесконечностью он писал, что «не будет недостатка в открывателях, которые добавят к числу теорем, которые нам досталось». Для Строгаца это предложение содержит суть математики. Я слышал, как его голос дрогнул, когда он рассказывал эту часть истории. «Мне кажется, что Архимед пишет мне или людям, как я», — сказал Строгац. «Архимед говорит: „Я не могу решить эти вещи, но, может быть, вы, люди будущего, сможете встать мне на плечи". Это очень эмоциональная, экзистенциальная вещь. Есть такое ощущение, что мы в этом вместе, стремимся к чему-то прекрасному, возвышенному и великолепному».
Закалённый оптимист в мире технологий мог бы посоветовать Строгацу взять себя в руки. Математику плевать на ваши чувства, научная реальность безразлична к вашим слёзам и тому подобное. Он это знает. «Нас называют защитниками цеха: Ваш цех вот-вот будет стёр. Ну и ладно. Это происходило и раньше с другими. Смиритесь».
Я понимаю, почему плачут математики. Да, некоторые плачут об оскорблённом самолюбии, чувстве впустую потраченных лет, ползущем чувстве уничтожения статуса, раздражении от несправедливого конкурента, возмущении от ощущения обмана и дурного обращения и неопределённости в отношении будущего. Но они также горюют, потому что думают, что нечто чужое и бестелесное сжигает письма Архимеда и танцует в пепле. Человечность вытесняется из человеческой науки. Когда OpenAI публикует несколько сотен доказательств, которые завершают несколько сотен охот за сокровищами, это блестяще преуспевает по оси ремесла науки, но прерывает тысячелетнюю беседу. Машины и их архитекторы говорят: С этого момента настала наша очередь говорить.
Знание без понимания
А что если OpenAI права? Что если нам стоит рассматривать математику главным образом как поиск, а не как беседу, в которой чувства важны так же, как открытия?
Строгац сравнил отношение между математическим сообществом и лабораториями ИИ с двумя крупнейшими теннисными турнирами лета. «Я думал о Уимблдоне и US Open», — сказал он мне. На Уимблдоне игроки одеты в белое, фанаты уважительны, и хотя победа важна, честная игра стоит на первом месте. US Open же наглый, индивидуалистичный и деструктивный. «Люди одеваются в свои цвета, и фанаты кричат оскорбления», — сказал он. «Это более демократично и менее элитарно».
Как Уимблдон, область математики стара, и некоторый декорум всё ещё ценится среди современных её практиков. Как US Open, лаборатории молоды, наглы и даже немного грубы. Но способность ИИ демократизировать доступ к математическому гению может быть его собственным достоинством. В начале этого года Шанму Джин, китайский врач-ординатор, использовала ChatGPT для решения проблемы, называемой гипотезой Крузейра, которую профессиональные математики не могли решить в течение десятилетий. (Несколько математиков изучили результат и обнаружили, что он работает, но статья ожидает официального рецензирования.)
Представьте себе мир, в котором нематематики перепрыгивают через область после нескольких подсказок ИИ. Это был бы мир с большим количеством знаний. Но это мог бы быть мир с меньшим количеством понимания. Модели ИИ имеют свой собственный разум, и это даже не то, что я бы назвал «разумом». Их математические доказательства часто принимают чужеродные формы, и их рассуждение могут быть непроницаемы даже для экспертов. «Во всём этом есть аспект зоны Сумерек», — сказал Строгац. «Мы взаимодействуем с электронами, движущимися в схемах, и мы не понимаем интеллект, который они создают». Он привёл пример Google Translate, который, по сути, решил проблему живого перевода между языками. «Google Translate удивителен, но он практически ничему не научил нас о лингвистике», — сказал Строгац. «Мы не понимаем, почему это работает. Это просто работает. Вот это да, зона Сумерек. Это знание без понимания».
Это может быть огромной потерей. Понимание — это не только источник удовольствия, дофаминовый прилив момента эврики. Понимание — это сила. Когда Максвелл понял законы электричества и магнетизма, которые другие учёные строили на протяжении 1800-х годов, он показал через исчисление, что электричество и магнетизм — это не силы между двумя объектами, а что-то вроде поля. Поняв Максвелла, Эйнштейн мог посмотреть на гравитацию — традиционно предполагавшуюся как сила между двумя объектами — и доказать, что гравитация тоже является полем, которое распространяется по всей вселенной. Можно утверждать, что для создания самой важной физической теории требовалось человеческое понимание полей.
Способность понимать компоненты каждого нового научного прорыва позволила людям создавать мощные ветви на дереве знаний. Но Строгац готов к будущему, в котором дерево растёт вне нашего понимания. Он поделился историей учёной из MIT Региной Барзилай. После того как она пережила рак груди в возрасте сорока с небольшим лет, её поразило, как мало её врачи знали о диагностике рака груди. Она возглавила команду, которая натренировала ИИ на сотнях тысяч маммограмм для прогнозирования случаев рака груди много лет спустя.
Строгац спросил Барзилай: «Вы понимаете, что видит ИИ?»
«Нет», — ответила она.
«Вас не беспокоит, что вы не понимаете собственное изобретение?» — спросил Строгац.
Её ответ: «Почему мы должны ограничивать модель, спасающую жизни, тем, что люди могут понять?»
Потеря и находка
Вопрос Барзилай сложно ответить. Я не хочу умирать от раков, которые убили моих родителей. Я также не хочу потерять работу из-за запутанности GPU. Что мы хотим от технологии? Решить каждую проблему, которая у нас есть, не создавая никаких новых. Исцелить болезни, но безопасно. Взломать секреты космоса, но сделать это с уважением. Это много просить, но это не слишком много желать. Дайте мне преимущества сверхчеловеческого интеллекта; сохраните для меня то, что делает человеческий интеллект значимым.
Когда я повесил трубку со Строгацем, я ещё больше подумал об Архимеде. Он оставил проблемы для других людей, чтобы решить, и неизвестное служило приглашением. Опасность в том, что автоматизация поиска знания может стереть человеческие связи, которые поддерживали поиск. Но есть другая возможность. Если интеллект становится менее уникально человеческим, мы можем начать более высоко ценить то, что остаётся уникально человеческим: нашу способность сопереживать и заботиться друг о друге.
Архимед решал проблемы, и Архимед писал письма. Открывал и делился. ИИ может взять на себя большую часть первой работы. Вторая — наша, если мы достаточно мудры, чтобы это сохранить. Математики могут всё ещё преподавать доказательства, спорить о том, что они значат, переводить чужеродную логику в человеческое понимание и передавать это понимание студентам. Вызов будет в защите этой половины науки: удовольствия от встречи с другим разумом и вдохновения от встречи. Когда машины откроют каждую истину, которую нужно найти, может не остаться ничего, кроме друг друга, чтобы найти.