¿Cómo definimos la entropía? [duplicar]

Probablemente, la forma más fácil de entender la entropía es pensar en ella no como una propiedad de un sistema, sino como la propiedad de nuestro conocimiento del estado del sistema, o mejor dicho, la propiedad de la distribución de probabilidad del sistema. sistema sobre diferentes estados internos. Si un sistema puede estar en estados$1,2,...,n$con probabilidades$p_1,p_2,...,p_n$, entonces la entropía generalmente se define (hasta un multiplicador constante) como

$$S=-\sum_i p_i \ln p_i.\tag{1}$$ Puede notar que si el sistema está en un estado definido (es decir, todos$p_n$, excepto uno, son cero), la entropía es cero. Además, la entropía$S$es el más grande cuando todos$p_n$son iguales; entonces$S=\ln(n)$. La definición se vuelve un poco más complicada cuando tratamos con distribuciones continuas, cambiando la suma a integrales sobre grados de libertad como todas las posiciones y todos los momentos de las partículas.

Con el tiempo, un sistema, debido al ruido externo y la dinámica interna, se distribuye en todos los estados accesibles dentro de las restricciones impuestas (por ejemplo, el gas debe permanecer en la caja, la energía promedio debe permanecer constante, etc.). Cuantos más estados se distribuye, mayor es la entropía. Cuando un material está en fase gaseosa, cada molécula puede viajar a cualquier lugar y no está restringida por otras, a menos que se acerque mucho a ellas (por lo tanto, la entropía es alta). Por el contrario, cuando un material está en una fase sólida, cada molécula está fuertemente restringida por otras y tiene poco espacio para encajar en la red (produciendo una baja entropía).

"Orden" es una especie de término impreciso. Lo que queremos decir con entropía es "cuántos microestados podrían contribuir a este macroestado".

La forma en que esto se expresa matemáticamente es:

$S = k•ln(W)$

$S$es la entropía del macroestado del sistema,$W$es el número de microestados que podrían producir ese macroestado$k$es la constante de Boltzmann.

Boltzmann en realidad tiene esta ecuación inscrita en su tumba, lo creas o no.

Un ejemplo clásico es lanzar 100 monedas. Un posible macroestado (configuración observable macroscópica del sistema) es 100 caras y sin cruz.

Un posible microestado correspondiente (delineación exhaustiva de cada estado de cara o cruz de cada moneda) es que las monedas del 1 al 100 caigan todas en cara. Este estado tiene solo un microestado$W$, entonces$S=0$. Es un estado de baja entropía del sistema.

Por otro lado, hay muchísimos microestados que alcanzarían el macroestado de 50 caras y 50 cruces. Podrías tener las monedas pares cara y las otras cruz, podrías tener las primeras 50 caras y las siguientes 50 cruces. Podrías tener las dos primeras caras, luego 50 cruces, luego 48 caras... hay alrededor$10^{29}$posibilidades totales, lo creas o no. Entonces, para ese macroestado, debido a que tiene tantas opciones y debido a que cada microestado es igualmente probable, tiene una entropía más alta según la fórmula.

Entonces eso es entropía. El concepto de "orden" aparece cuando, por ejemplo, comienzas con una caja de monedas que son 100 caras y luego sacudes la caja o la perturbas de alguna manera, terminarás con un estado mucho más cercano a las 50 caras. . Se dice que el sistema ha evolucionado desde un estado de baja entropía a un estado de alta entropía , y nunca volverá a evolucionar espontáneamente a una entropía más baja. Y las 50 caras y cruces corresponden aproximadamente a más "desorden" en cierto sentido.

Editar: esta respuesta es básicamente un complemento matemático de las otras dos respuestas proporcionadas, que tienen sentido para mí.

¿Cómo definimos la entropía?

1. Termodinámicamente: el estudio de un gas ideal en un ciclo de Carnot llevó a la conclusión de que la relación de la energía absorbida isotérmicamente a cierta temperatura$T_1$era igual a la proporción de energía entregada a cierta temperatura$T_2$ $(1)$. Esto eventualmente condujo a la desigualdad de Clausius$(2)$y finalmente una definición de entropía$(3)$.

$$\frac{\Delta Q_1}{T_1}=\frac{\Delta Q_2}{T_2} \tag{1}$$ $$\oint\frac{dQ}{T} \leq 0 \tag{2}$$ $$dS \geq \frac{dQ}{T} \tag{3}$$

2. A través de la mecánica estadística: imagine dos cajas separadas de gases que solo pueden conducir calor, pero no transferir volumen o partículas. Descubrimos que la temperatura termodinámica,$\beta$, es constante para los dos sistemas cuando se les permite alcanzar un equilibrio$(4)$. Además, conocemos la conservación de la energía.$(5)$puede reformularse en términos de la entropía dada en$(3)$, suponiendo un sistema reversible. Combinando estos dos hechos e invocando el postulado de Boltzmann de que el número de microestados,$\Omega$, se maximiza en el equilibrio, podemos lograr la entropía de Boltzmann$(6)$.

$$\frac{\partial \ln \Omega}{\partial U} = \beta \tag{4}$$ $$dU = -PdV +dQ=-PdV+TdS \tag{5}$$

$$\frac{\partial S /\partial U}{\partial \ln \Omega / \partial U}= \frac{1}{\beta T} = k_B$$

Al integrar esta ecuación con$dV=0$e ignorando la constante aditiva ,

$$S=k_B \ln \Omega \tag{6}$$

Esto responde a una de tus preguntas:

¿No deberíamos estar hablando solo del "cambio" en la entropía de un sistema?

Si usa la ecuación de entropía de Boltzmann, entonces su valor absoluto tiene sentido, debido a nuestra omisión de esta constante aditiva. Como se señaló en otras respuestas, cuando solo hay un microestado, la entropía de Boltzmann es cero, lo que define claramente el "piso" de la entropía; el sistema más ordenado posible corresponde a la entropía más baja.

pero no entiendo que es ese "orden" del que hablamos?

En términos de la entropía de Boltzmann, este orden se define claramente al contar los microestados y, por lo tanto, la entropía es una medida del desorden de esos microestados.

Considerando un escenario diferente, donde un recipiente de gas está en contacto con un baño de calor. La siguiente distribución de probabilidad de los niveles de energía se puede derivar de varias formas (conjunto canónico):

$$\rho_i = \exp(\beta(F-E_i)) \tag{7}$$

Descubrimos una nueva ecuación de entropía realizando la siguiente operación (observando que$U=\langle E_i \rangle$):

$$-k_B \langle \ln \rho_i \rangle = -k_B \langle \beta (F-E_i) \rangle = -k_B \beta F + k_B \beta U = (U - F)/T \tag{8}$$

Al reconocer$(8)$como la Transformada de Legendre de nuestra energía interna$(U)$, podemos encontrar una nueva forma para la entropía. Es evidente que$U \equiv U(S,V)$de$(5)$, así que mientras mantiene$V$constante, solo necesitamos imaginar una función$F \equiv F(T,V)$que transforma la función de energía de$S \rightarrow T$,

$$U(S,V) + (-F(V,T)) = ST \tag{9}$$

Por lo tanto, desde$(8)$y$(9)$, y notando$F$como la Energía Libre de Helmholtz,

$$S = -k_B \langle \ln \rho_i \rangle = -k_B \sum_{i} \rho_i \ln \rho_i \tag{10}$$

Esta es la Entropía de Gibbs. También se puede demostrar fácilmente que esta ecuación de entropía más general se reduce a$(6)$cuando la distribución de probabilidad es simplemente$\rho_i = 1/\Omega$. Existen numerosas formas de validar que la ecuación de entropía de Gibbs es autoconsistente.

pero no entiendo que es ese "orden" del que hablamos?

El problema ahora se ha reformulado en términos de la distribución de probabilidad de los niveles de energía subyacentes. En principio, esto puede ser la "cualquier cosa" subyacente de la que estamos tratando de determinar el desorden. Esta entropía, por lo tanto, determina la "esperanza del logaritmo de la función de probabilidad"; recordando que las probabilidades siempre caen sobre$[0,1]$, sabemos que la expectativa del logaritmo de la probabilidad tenderá hacia el infinito negativo a medida que este valor de expectativa caiga a cero. Por lo tanto:

• Baja probabilidad promedio de que ocurra un estado = alta entropía
• Mayor probabilidad promedio de que ocurra un estado = baja entropía

¿Cuál es este estado ordenado con el que comparamos nuestro sistema y luego decidimos que nuestro sistema tiene más o menos entropía que él?

Esta es la famosa "flecha del tiempo" y puede ver una publicación reciente de Physics SE que tiene muchas respuestas discutiéndola y la aparente irreversibilidad de los sistemas con$N \rightarrow \infty$.

Finalmente,$(10)$está relacionado con la entropía de Shannon por un factor de$k_B$, que sirve como el factor físico que corrige las unidades en cómo se define termodinámicamente la entropía. Para los sistemas no físicos no hay nada fundamental acerca de este factor, y la entropía bien podría ser,

$$\mathcal{S} = - \sum_{i} \rho_i \ln \rho_i$$

Esto ayuda a cimentar las ideas de entropía en relación con la probabilidad, como se menciona en mis viñetas anteriores.