Более явный пример
Клаузиус (1865)¹ ввёл понятие энтропии. Разложив физические процессы на цепочку тепловых машин, он показал, что энтропия всегда растёт для необратимых процессов. Для обратимых процессов, таких как идеальный двигатель Карно, изменение энтропии равно нулю. Но когда происходит необратимый процесс, энтропия никогда не может уменьшиться, если только к системе не приложена энергия извне. Это и есть второй закон термодинамики.
Хотя саму энтропию нельзя измерить термометром или линейкой, это всё же полезное понятие, поскольку из неё можно вычислить производные величины, которые уже измеримы напрямую.
Ранее уже приходилось довольно расплывчато писать о «жизни как энтропии» — идее, восходящей к Шрёдингеру (1944)² и его понятию негэнтропии. Через негэнтропию жизнь, судя по всему, поддерживает порядок, питаясь энергией из окружающей среды и снижая локальный беспорядок. Но до недавнего времени оставалось неясно, что именно это означает на детальном уровне.
Один из способов разобраться в этом — построение моделей. Можно создать игрушечную модель, а затем найти математически последовательный способ определить в ней энтропию. После этого модель можно симулировать и лучше понять, как энтропия эволюционирует.
Одна из таких моделей, полезных для интуиции, — игрушечная модель клетки Дайсона. Это цепь Маркова, которая сходится к одному из трёх равновесных состояний, два из которых — состояния «жизнь» и «смерть». Но если серьёзно относиться к идее «жизни как энтропии», нужно уметь определить энтропию и для самой цепи Маркова.
Но понятие энтропии, изначально определённое Клаузиусом, — это функция работы и температуры:
\(\mathrm{d}S \;=\; \frac{\delta Q_{\text{rev}}}{T}\)
Поэтому неясно, как связать эти два подхода друг с другом. Существует ли иной способ определить энтропию в контексте цепей Маркова, который давал бы тот же результат, согласующийся с физическими представлениями?
Один из путей решения — обратиться к работе Больцмана, который количественно связал энтропию с числом возможных состояний системы.
Представим систему, у которой измерены переменные состояния — температура, давление, объём — с помощью различных приборов. Скорее всего, есть множество разных конфигураций физической системы, совместимых с этим измеренным состоянием. И если энтропия связана с понятиями порядка и беспорядка, логично предположить, что энтропия выше там, где больше возможных состояний.
Вот наглядный пример. Если взять газ из одинаковых молекул при абсолютном нуле, зафиксированных в положении, с нулевой скоростью и нулевой температурой, — вариантов того, каким может быть такое состояние системы, немного. А если газ нагрет до высокой температуры, конфигураций, соответствующих этому состоянию, гораздо больше.
Температура выше — энтропия выше. Совпадение ли, что число возможных состояний тоже растёт?
Оказывается, эти идеи можно сделать строгими. Больцман показал, что энтропию можно записать как функцию числа состояний, в которых может находиться система, если зафиксировать макроскопические переменные состояния. Это означает: если посчитать все состояния, возможные в системе при фиксированной температуре, давлении и объёме, можно вычислить энтропию.
Это выражается легендарным уравнением, которое на удивление просто: энтропия системы — это логарифм числа состояний, умноженный на постоянную величину, называемую константой Больцмана.
\(S \;=\; k_B \ln W, \qquad W \;=\; \#\{\text{микросостояния, совместимые с макросостоянием}\}\)
При всей простоте результата, он совсем не очевиден. Больцман построил модель газа, где каждая частица может находиться лишь в конечном наборе скоростей и положений, а затем попытался взять предел. Доказательство непростое, и математики до сих пор разбираются, как строго обосновать работу Больцмана.
Но ладно, вернёмся к делу.
Чтобы сделать пример более конкретным, попробуем вычислить энтропию простой системы, зная энергию (макросостояние). Рассмотрим модель магнита Кюри. В этой модели физическое пространство состоит из конечного числа электронов, каждый из которых может иметь спин вверх или вниз. В моделях магнетизма энергия (или работа) совершается, когда спины не совпадают по направлению с магнитным полем, в которое помещён металл.
Отсюда следует, что для набора атомов энергия — функция того, сколько атомов ориентированы спином вверх, а сколько — спином вниз.
\(E \;=\; n_\uparrow - n_\downarrow\)
Допустим, есть очень маленькая система из 5 атомов, и измеренная энергия равна E = 1. Сначала нужно понять, сколько атомов должно быть спином вверх и вниз, чтобы получить такую конфигурацию. Очевидный ответ — три спина вверх и два спина вниз, потому что:
\(E \;=\; 3 - 2 \;=\; 1\)
Это же можно решить тривиально, используя условие
n↑+n↓=5, откуда
\(E \;=\; 2n_\uparrow - 5\)
Возможные конфигурации перечислены ниже. Каждая имеет три спина вверх и два вниз, но расставить их можно 10 способами. На диаграмме показаны все варианты.
Это число сочетаний «5 по 3», равное 10.
\(W \;=\; \binom{5}{3} \;=\; \frac{5!}{3!\,2!} \;=\; 10.\)
Эти десять конфигураций составляют всё содержимое макросостояния «E = 1».
Значит, по Больцману энтропия системы равна:
\(S \;=\; k_B \ln W \;=\; k_B \ln 10 \;=\; 2.3026\,k_B,\)
или log₂ 10 = 3.32 бита. Таким образом, энтропию можно рассматривать как функцию энергии. Если построить график энтропии в зависимости от энергии, получится следующая картина:
Итак, теперь известно, как вычислять энтропию через общее число микросостояний системы. Как же посчитать энтропию марковского процесса, подобного клеточной модели Дайсона?
В игрушечной модели Дайсона есть N узлов, каждый из которых может находиться в одном из трёх состояний — пустое, активное или неактивное. При заданных правилах, как было показано ранее, система сходится к равновесию. Равновесные значения — сложная функция неподвижных точек, но они существуют, и вероятности пустого, неактивного или активного состояния сходятся к фиксированным значениям.
Эта точка равновесия позволяет определить энтропию цепи Маркова через комбинаторный подсчёт. Допустим, в равновесии вероятность того, что узел пуст, равна 1/2, вероятность активного состояния — 1/4, а неактивного — тоже 1/4.
Это означает, что при 8 узлах 4 из них будут пустыми, 2 — активными и 2 — неактивными. Чтобы измерить энтропию, нужно посчитать все конфигурации, при которых так распределены узлы. Ниже показаны все варианты расстановки.
Подсчёт даёт мультиномиальный коэффициент — сначала выбираем, какие 4 из 8 узлов пустые, затем какие 2 из оставшихся 4 активные, а последние 2 остаются неактивными. Это вычисляется как факториал общего числа узлов, поделённый на факториалы количества узлов в каждом отдельном состоянии. В данном случае, поскольку 4 пустых, 2 активных и 2 неактивных, делим на 96.
\(W \;=\; \frac{8!}{4!\,2!\,2!} \;=\; \frac{40320}{24\cdot 2\cdot 2} \;=\; 420.\)
Энтропия этой системы — логарифм числа состояний, умноженный на константу Больцмана.
\(S \;=\; k_B \ln W \;=\; k_B \ln 420 \;=\; 6.0403\,k_B.\)
Следующий естественный вопрос — как энтропия эволюционирует в системе. Оказывается, можно сделать несколько интересных общих утверждений об энтропии, исходя из топологии графа переходов — это тема для следующего материала, где также будут описаны условия, при которых энтропия растёт.
Спасибо Дэвиду Пфау за обсуждения и помощь, все ошибки — мои собственные.
Примечания
¹ R. Clausius, Ueber verschiedene für die Anwendung bequeme Formen der Hauptgleichungen der mechanischen Wärmetheorie, Annalen der Physik 201(7), 353–400 (1865).
² E. Schrödinger, What is Life? The Physical Aspect of the Living Cell, Cambridge University Press (1944), гл. 6.