Гостевой пост Amit Sahai. Первоначально написан в другом формате и переведён с помощью AI. — T.
Когда был студентом бакалавриата, помню разговоры с несколькими однокурсниками, которые ощущали, что темп, с которым лучшие студенты усваивают новые математические концепции, слишком высок для них. Они тоже могли понять идеи, но это требовало гораздо больше времени. В конце концов почти все эти студенты отказались от мечты заниматься исследовательской математикой и выбрали что-то другое. За последние дни часто вспоминал о них.
Сообщество исследователей-математиков в основном состоит из тех, кто либо редко ощущал такие затруднения, либо испытывал их и смог преодолеть упорным трудом. Нам повезло найти место в математике, где мы могли добиться прогресса. Но наступает время смирения: время, когда каждый из нас поймёт, что значит не успевать за темпом.
AI-системы, с которыми работал, уже производят красивые новые идеи. Они делают гораздо больше, чем впечатляющие вычисления или быстрое проведение аргументов, которые сильный исследователь-человек уже понимает. И мы, вероятно, не можем даже представить себе замечательные идеи, на которые будут способны будущие системы.
Когда почувствуем, что не способны следить за темпом, неужели воспримем это как причину уйти из исследовательской математики, как те студенты, которых помню? С расширением круга людей, испытывающих это, неизбежно возникнет искушение сделать тот же вывод: если машины движутся намного быстрее нас, может быть, нам стоит заняться чем-то другим.
Если наше сообщество откажется от работы понимания, это будет глубокой абдикацией нашей ответственности перед человечеством. Каждый волен выбрать иную жизнь. Но говорю об ответственности коллективной: построить будущее, в котором люди смогут понимать и вносить вклад в открытия, которые изменят наш мир. Будущее со значимым человеческим влиянием.
Борьба необходима для понимания сложных концепций. К счастью, эта борьба может быть разделена. Мне посчастливилось испытать это снова и снова со своими студентами и сотрудниками. Представьте множество исследовательских групп, каждая с постоянной поддержкой, каждая в течение семестра или года пытающаяся понять удивительный набор идей, созданных AI-системой, с помощью AI-систем.
Это может быть одной из самых важных математических работ в предстоящие годы, и мы должны её поддерживать и расставлять приоритеты соответственно. Такая деятельность потребует значительного расширения численности математически подготовленных исследователей во всём мире, по мере накопления крупных прорывных идей.
Почему общество должно это хотеть? На первый взгляд это может звучать как утопическая фантазия для нас — цивилизация, сосредоточенная на глубине человеческого понимания, изобилующая математиками, физиками и им подобными. Я определённо хотел бы жить в таком мире. И действительно существуют глубокие философские причины для общества двигаться в этом направлении. Но думаю, общество имеет намного более непосредственный интерес в том, чтобы это стало возможным.
Представьте, что будущая AI-система предлагает радикально новый дизайн электростанции термоядерной мощностью один тераватт. Она нашла способ поддерживать и контролировать синтез, который никогда не приходил в голову человеку. Конструкция обещает обильное, дешёвое, чистое электричество. Роботы готовы к производству компонентов и строительству станции.
Тераватт — невообразимое количество электрической мощности. Мы принимали бы решение о строительстве машины, которая работает с необычайными потоками энергии, используя принципы, которые никогда не были задуманы человеком, не говоря уже о практическом применении. Нужно было бы понять, как могут быть ограничены отказы, что происходит с энергией, уже накопленной в системе при её отключении, как мы можем быть уверены в том, что материалы, составляющие электростанцию, ведут себя ожидаемым образом, и какие ещё вопросы следует задать перед началом работ. Сама новизна, делающая предложение захватывающим, означала бы, что мы не можем унаследовать уверенность от десятилетий эксплуатации аналогичных станций или экспериментов.
Перед одобрением строительства я хотел бы, чтобы сообщества людей поняли, почему конструкция работает и что обосновывает доверие к её безопасности. Надеюсь, что мы все это понимаем.
Человеческое участие не автоматически улучшает техническое решение, и я не вижу причины настаивать, чтобы люди вручную повторяли работу, которую AI-система могла бы выполнять более надёжно, включая доказательство математических гарантий. Но теорема может существовать только в рамках модели. Понимание гарантии означает понимание самой модели, экспериментальных свидетельств в её пользу и наших неопределённостей в отношении точности модели. Это требует серьёзной работы, и математически подготовленные люди должны быть доступны для участия в ней.
Можно возразить, что AI-системы должны также разбираться в этих вопросах и в конечном итоге решать, должна ли станция быть построена. Это серьёзная позиция. Но она предлагает нам принять будущее, в котором решения огромных последствий основаны на причинах, которые ни одно человеческое сообщество не понимает.
Не хочу, чтобы мы пришли к такому будущему просто потому, что не инвестировали в нашу способность понимать. Человеческое влияние — это ценность фундаментального значения. Мы должны сохранить способность осмысленно рассматривать альтернативы и решать, какой мир мы хотим помочь создать. Думаю, это стоит усилий.
Чтобы взять на себя эту ответственность, может быть, нужно расширить представление о том, что математик может внести. Имею в виду что-то вроде «развёртываемого интеллектуального резерва»: сообщества математически подготовленных людей, которых человечество может призвать понять значительные прорывы, получаемые с помощью AI.
Наша способность понимать сложные и незнакомые идеи может стать одним из наиболее важных вкладов, который мы можем предложить обществу. Должны быть готовы применить это умение к проблемам, выходящим далеко за рамки наших обычных исследовательских интересов. Это требует расширения нашего понимания своего призвания.
Контраргумент может состоять в том, что AI-системы сделают каждого из нас настолько более эффективным, что меньше людей смогли бы выполнять эту работу, даже если темп открытий ускорится. Но каждый из нас — просто человек. Мы имеем фундаментальные ограничения, основанные на нашей биологии. Глубокое понимание требует времени и ритма жизни, который люди могут выдержать. От каждого человека можно требовать только определённое, но благодаря честному сотрудничеству мы можем достичь гораздо большего.
Если AI выполнит свои обещания, мы столкнёмся с большим количеством красивых и важных идей, чем когда-либо раньше. Мы должны ответить на это, создав развивающиеся человеческие сообщества, которые смогут их понимать вместе.
Нам потребуется гораздо больше математиков.
Идеи и мнения, изложенные здесь, полностью мои собственные, но GPT 6 Astra сыграла инструментальную роль в помощи при написании этого текста. Благодарю также мою бывшую студентку Dakshita Khurana, моего текущего студента Isaac Hair, моего коллегу Terence Tao и членов моей семьи Anant Sahai и Gireeja Ranade за ценные замечания. Следует отметить, что здесь есть чего сказать, но я пытался сохранить это относительно кратким, чтобы сосредоточиться на основных мыслях.
Примечания
[1] Под этим не имею в виду, что в будущем будут интересны только результаты, созданные AI. Но для крупных результатов, созданных людьми, у нас уже есть традиция проведения длительного времени при их изучении.
[2] Кроме того, соответствующее понимание не может принадлежать только организации, предлагающей технологию. Представьте общественное слушание, на котором эксперты компании — единственные люди, способные следить за техническим аргументом. Независимая экспертиза критична.
[3] Действительно, AI-системы, вероятно, будут очень полезны в том, чтобы позволить исследователям с разным опытом эффективно общаться друг с другом и в более общем плане понимать незнакомые концепции.