Confusión con respecto a la entropía, solicitud de artículos de referencia

Para exposiciones claras sobre la relación entre la entropía y la información, y los fundamentos de la teoría del no equilibrio, vale la pena navegar a través de los artículos de Edwin Jaynes. Puedes encontrar su bibliografía completa aquí . Probablemente sea mejor comenzar con uno de sus últimos artículos, ya que tienen un enfoque más pedagógico. Recomendaría ' La evolución del principio de Carnot ' como punto de partida, y luego quizás ' La paradoja de Gibbs '.

Ahora, para responder a algunos de sus puntos más específicos.

1. La entropía se puede definir, al menos para empezar, diciendo que cuando un cuerpo a una temperatura$T$gana una cantidad$Q$de calor, su entropía aumenta en$Q/T$. Entonces, para una cantidad dada de calor, una temperatura más alta significa una entropía más baja. Sin embargo, no necesariamente se sigue que los cuerpos (o gases) con una temperatura más alta siempre tengan una entropía más baja que los cuerpos a una temperatura más baja, porque los cuerpos más calientes también tienen más energía. Ambas citas son correctas, porque la primera habla de entropía por unidad de energía y la segunda habla de entropía por unidad de volumen.

Sin embargo, lo realmente importante no es cuánta entropía tiene un cuerpo a una temperatura dada, sino cuánto cambia su entropía si gana o pierde algo de energía. Si tiene un sistema aislado compuesto por un cuerpo caliente (a temperatura$T_H$) y una fría (en$T_C$), algo de calor$Q$fluirá del cuerpo caliente al frío. La entropía del cuerpo caliente cambia por$-Q/T_H$(es decir, su entropía disminuye ), pero la entropía del cuerpo frío aumenta en$Q/T_C$, que es más grande porque$T_H>T_C$.

El cambio de entropía total en este sistema es$\frac{Q}{T_C}-\frac{Q}{T_H}$. Si las dos temperaturas son iguales, la entropía se maximiza y no puede ocurrir más transferencia de calor.

2.a Una buena manera de pensar en el trabajo es pensar en él como energía sin ninguna entropía asociada. Es como el calor con una temperatura infinita, de modo que$Q/T$va a 0. Digamos que tenemos un cuerpo a cierta temperatura$T$y queremos quitarle algo de calor y convertirlo en trabajo$W$. El cambio de entropía de esta transformación es

$$\text{entropy of the work}-\text{entropy of the heat}=0-W/T<0,$$ lo que significa que es imposible realizar esta transformación a menos que al hacerlo aumentemos la entropía de algún otro sistema en la misma cantidad ( $W/T$) o más, de modo que el cambio de entropía total sea mayor que cero.

En particular, si tenemos dos cuerpos a diferentes temperaturas, podemos aumentar la entropía del frío transfiriéndole algo de calor del caliente. Si ponemos una cantidad$Q$en el cuerpo frío debemos tomar una cantidad$Q+W$del caliente. (Esa es la energía que estamos poniendo en el cuerpo frío, más la cantidad que estamos convirtiendo en trabajo). La entropía del cuerpo frío ahora aumenta en$Q/T_C$mientras que la entropía del cuerpo caliente disminuye en$(Q+W)/T_H$. Por lo tanto, el cambio de entropía total es

$$\frac{Q}{T_C}-\frac{Q+W}{T_H},$$ lo cual es positivo siempre que $W<Q\left(1-\frac{T_C}{T_H}\right)$, que se llama límite de Carnot.

Para reiterar, el punto es que el trabajo es energía sin entropía asociada, y si desea crearlo a partir del calor, debe hacerlo aumentando la entropía de algún otro sistema para satisfacer la segunda ley.

Pero tenga en cuenta: su intuición sobre la relación entre trabajo y entropía no era del todo correcta. Hacer trabajo en un sistema puede disminuir su entropía (aunque también puede aumentarla al agregar energía), pero hacer trabajo en un sistema no es la única forma de disminuir su entropía . También puede hacer esto eliminando el calor, por ejemplo, como mostré arriba.

2.b Esta cita es correcta. Si un sistema tiene 'neguentropía' (que no es un término de uso muy común, pero es perfectamente razonable), entonces su entropía no está al máximo, lo que significa que es posible aumentar su entropía para convertir algo de calor en trabajar.

3.a Tenga cuidado aquí: parece estar equiparando la incertidumbre con la información, ¡pero en realidad son opuestos! Cuanta menos información tenga sobre algo, más incierto estará al respecto. La entropía es incertidumbre; específicamente, es la cantidad de incertidumbre que tienes sobre el estado microscópico de un sistema si conoces sus propiedades macroscópicas (temperatura, presión, volumen, etc.). Se puede expresar en las mismas unidades que la información (por ejemplo, bits) pero tiene el signo contrario, por lo que un aumento de entropía es una pérdida de información.

3.b No he leído esta fuente, por lo que realmente no puedo comentar sobre la parte de simetría, pero la idea de que la entropía máxima es igual a la información mínima es correcta.

4. La termodinámica de no equilibrio está bastante madura en estos días. La idea básica es que tomas las cosas de las que estaba hablando anteriormente, y en lugar de una cantidad finita de calor$Q$, se considera un flujo de calor$dQ/dt$. Esto conduce a un cambio continuo en la entropía.$dS/dt$, que debe ser positivo para un sistema aislado. Las matemáticas no son muy diferentes de la termodinámica de equilibrio. Si tiene algunas preguntas específicas al respecto, probablemente pueda ayudarlo a responderlas.

La entropía es un tema amplio y muy importante tanto para la física como para la teoría de la información.

En general, la entropía es una medida de no saber cosas. Entonces, un estado de alta entropía es cuando hay muchas secuencias posibles o muchos microestados posibles de un sistema físico.

En la teoría de la información es

$$S(\{p_i\}_i) = - \sum_i p_i \log(p_i).$$ En particular, cuando es alto significa que medir exactamente $i$da mucha información.

En termodinámica, está relacionado con el volumen del espacio de fases . De hecho, es la misma fórmula que en la teoría de la información, pero se mide la distribución de probabilidad de que las partículas estén en estado$(x_1,\ldots,x_n,p_1,\ldots,p_n)$, dónde$x_i$son posiciones y$p_i$- momentos.

Cuando se trata de entropía-energía, observe la termodinámica. Para un sistema abierto, la entropía puede disminuir con la temperatura a medida que las partículas se van volando.

Posibles lecturas (ya que las preguntas que hizo no se pueden responder en una sola publicación):

• Kerson Huang, Introducción a la física estadística
• TM Cover, JA Thomas, Elementos de la teoría de la información
• A. Wehrl, Propiedades generales de la entropía , Reseñas de física moderna, 1978

Con respecto a los elementos 1, la declaración citada en el elemento 1a es, en el peor de los casos, incorrecta y, en el mejor de los casos, incompleta (si se infiere del término "alta temperatura" que también está presente un disipador de calor de temperatura más baja). La energía de "alta temperatura" solo es útil si está presente un disipador de calor de temperatura más baja, y la entropía total de esos dos depósitos es menor que si se les permitiera equilibrarse a la misma temperatura. Por ejemplo, para dos depósitos de gas ideal con volúmenes iguales$V$y numero de moleculas$N$, uno a temperatura$T+\Delta T$y el otro en$T-\Delta T$, la entropía total de los dos es (ref Feynman conferencias vol. 1, conferencia 44):

$$\begin{align} S &= 2a + Nk \left[ 2\ln(V) + \frac{1}{\gamma -1} \left[ \ln (T+\Delta T) +\ln (T-\Delta T) \right] \right]\\&= 2a + Nk \left[ 2\ln(V) + \frac{1}{\gamma -1} \ln (T^2-\Delta T^2) \right]\end{align}$$ por lo que la entropía se maximiza cuando $\Delta T=0$(es decir, cuando los dos depósitos están a la misma temperatura).

La declaración en el ítem 1b) es correcta: uno puede aumentar la temperatura de un elemento añadiéndole calor, aumentando así su entropía.

Con respecto a los puntos 2, en el contexto de los mismos dos depósitos de gas ideal, ahora a la misma temperatura, su idea de hacer trabajo para reducir su entropía podría realizarse conectando un motor térmico reversible entre los dos y conduciendo ese motor con trabajo para transferir calor de un depósito a otro, enfriando uno y calentando el otro (es decir, una bomba de calor o un refrigerador). No estoy familiarizado con la negentropía, pero la cita de Brillouin parece estar generalizando la discusión anterior: es necesaria una diferencia entre dos subsecciones del sistema para extraer trabajo.

Con respecto a los elementos 3 y 4, la ecuación de Shannon para la entropía de la información (ver la respuesta de Piotr Migdal) usa esencialmente la misma forma que en la mecánica estadística (razón por la cual Shannon tomó prestado el nombre). Me gusta la cita de "Introducción a la teoría de la información" de Pierce: "Una vez que entendemos a fondo la entropía tal como se usa en la teoría de la comunicación, no hay nada de malo en tratar de relacionarla con la entropía en la física, pero la literatura indica que algunos investigadores nunca se han recuperado de la confusión engendrada por una mezcla temprana de ideas sobre las entropías de la física y la teoría de la comunicación". Aprende uno, luego el otro...

Recomendaría la conferencia de Feynman a la que se hace referencia anteriormente, así como las conferencias posteriores sobre termo en el mismo volumen.