¿Existe una equivalencia entre la entropía de Boltzmann y la entropía de Shannon?

La fórmula de entropía de Boltzmann se puede derivar de la fórmula de entropía de Shannon cuando todos los estados son igualmente probables.

di que tienes$W$microestados equiprobables con probabilidad$p_i=1/W$. Entonces:

$S=-k\sum{p_i \ln p_i}=k\sum{ (\ln W)/W}=k\ln W$

Otra forma en la que se puede obtener este resultado es maximizando$S$dado que$\sum{p_i}=1$usando multiplicadores de Lagrange:

$\max_{p_i}(S)= -k\sum{p_i \ln p_i} - \lambda(\sum{p_i}-1)$

Agregar más restricciones dará como resultado una distribución de entropía más baja (como la entropía canónica al agregar la restricción de energía y la grancanónica al agregar restricciones de energía y partículas).

Como nota al margen, también se puede demostrar que la entropía de Boltzmann es un límite superior a la entropía que un sistema puede tener para un número fijo de microestados, lo que significa:

$S\leq k \ln W$

Esto también se puede interpretar como que la distribución uniforme es la distribución que proporciona la mayor entropía (o la menor información, si quieres que alguien tenga la amabilidad de probarme esto aquí https://math.stackexchange.com/questions/2748388/proving -que-la-entropía-de-shannon-es-máxima-para-la-distribución-uniforme-usando-conve ).