OpenAI, принцип разбиения и математика
К моменту, когда вчера удалось встать с постели, три человека уже спросили, видел ли кто-нибудь объявление OpenAI о том, что принцип разбиения не влечёт аксиому выбора. В течение дня количество таких вопросов только увеличивалось — и это неудивительно, учитывая известный интерес к этой проблеме.
По меньшей мере два человека спросили, планируется ли отправить Сэму Альтману бутылку виски, как было обещано на странице с проблемами. Ответ — нет. И вот почему, а главное — почему стоит рассердиться на OpenAI.
Сначала нужно кое-что уточнить. Нет абсолютного противодействия использованию ИИ как инструмента — многие люди находят его полезным. Однако нужно лучше понять, как эта технология меняет науку и каким образом нам стоит её применять, прежде чем спешить принимать её повсеместно. Поэтому математик избегает использовать ИИ непосредственно в научных вычислениях (хотя готов использовать LLM для консолидации информации, создания инфографики или проверки текста). Просто сейчас отсутствует нормальная методологическая база. Пока мы в стадии открытия: люди пробуют новые инструменты, видят последствия и сообща решают, принять ли их дальше или ограничить применение. ArXiv, например, ввёл ограничения на частоту запросов, и практически все новые статьи должны содержать заявление об использовании ИИ (или его отсутствии). Нужно решить, как оценивать вклад автора: требовать ли публичного доступа к логам чата или хотя бы доступа для рецензентов и редакторов? Это вопросы, которые нужно обсудить сообществом.
Но вернёмся к принципу разбиения. После краткого ознакомления с препринтом OpenAI (кода на Lean не смотрел, так как мало знаком с его использованием, да и объём был огромный) — было ясно, что это плохая работа. Непонятная, запутанная, со странной структурой. Терминология "немного странная", есть теоремы, которые неожиданны в таком контексте и сформулированы очень необычно. Лемма 7.4 — не то, что ожидаешь в подобной статье, как и лемма 8.1.
Потом возьмите литературу. Одна из собственных работ о модели Бристоля цитируется для базового введения в симметричные расширения — но это не тот источник, который был бы выбран; по меньшей мере три неопубликованных, нерецензированных и не попавших на arXiv конспекта лекций используются как ссылки (включая собственные конспекты, которые цитируют для одного утверждения, уверенно появляющегося в опубликованных работах). Такого не ожидаешь от серьёзного препринта, претендующего на решение проблемы.
Сравните этот препринт с любой работой по теории множеств, не занимающейся узкотехническими вопросами незнакомой подобласти. Можно практически гарантировать, что быстрое прочтение даст хорошее представление о содержании. Некоторая терминология или доказательства могут быть незнакомы, но общую стратегию и построение должны быть ясны. Для работ по собственной специальности — аксиоме выбора — обычно требуется лишь беглое ознакомление, чтобы понять, что сделали авторы (или собирались сделать). Не всегда оценка бывает точной, но это область, изучаемая более 15 лет, и по опыту понимаешь, как всё работает. Но с препринтом OpenAI о принципе разбиения это невозможно.
Если бы это была академическая статья, отправленная в журнал, её отклонили бы без рецензирования из-за качества. Ответственность всегда лежит на авторе — нужно соответствовать уровню коммуникации. Как и статью на шведском, скорее всего, отклонили бы из "Трудов Американского математического общества", потому что авторы обязаны сделать текст доступным для читателей. И вот в чём проблема.
OpenAI выбрасывает сотни "решений" — непонятных "решений" — и все должны броситься их разбирать и... что? Благодарить за вклад? Зачем? Нужно закончить несколько статей, руководить аспирантами, вести собственные исследования. Когда найти время копаться в плохо написанной работе? Почему стоит тратить усилия, если сами авторы не постарались хорошо излагать материал?
Пресс-релиз OpenAI просто упоминает "прогресс". Но для остального мира в медийном цикле это "решения". Идеальный способ съесть пирог и остаться при нём. Но это эквивалент отказа в обслуживании, если серьёзно: бросить всё и разобраться с этим. Может быть, кто-то работал над проблемой годами и будет это делать, но в целом? Если это подлинная попытка поделиться прогрессом, качество изложения должно быть выше, должны быть включены мнения экспертов. OpenAI — занятая компания, но если хочется быть действительно полезным, можно найти время поговорить с математиками для рецензии и советов, хотя бы по качеству результатов. Даже если это огромный прорыв в улучшении, это всё ещё не соответствует приемлемому уровню. Но каждый может заявить, что ChatGPT решил давнюю проблему (эта проблема о принципе разбиения старше века), почему OpenAI должна беспокоиться?
А что остаётся нам, математикам? Остаётся общество, финансирующие организации и политики, которые не академики, не эксперты, не математики и не знакомы с тем, как происходит математическое исследование (совсем другое, чем исследования в биологии, психологии или филологии). Они видят эти "результаты" и думают, что математиков можно заменить ботами. Это как заменить шефа кухонными инструментами — даже если нож автоматический и может нарезать овощи сам, между этим и аппетитной едой огромная разница.
Кажется, компании в сфере ИИ хотят, чтобы мы приспосабливались к их стандартам, вместо того чтобы потратить время на соответствие нашим. И это просто неприемлемо. Поэтому нет, виски Сэму Альтману отправлять не будет, и времени на прочтение того препринта и попытку разобраться в нём не найдётся.