¿Dónde fluye la corriente de retorno para una señal diferencial?

Depende de la geometría física de la línea de transmisión.

Puedo enrutar dos pistas en una placa de circuito impreso, no demasiado juntas pero con la misma longitud, y usarlas como un par diferencial. En este caso, cada una de las líneas individuales tendrá su propia corriente de retorno en un plano de tierra cercano.

O puedo hacer un par de pistas estrechamente acopladas en la PCB, con un espaciado de línea a línea menor que el espaciado de línea a tierra. En este caso, la mayor parte de la corriente de retorno estará en la línea complementaria, pero es probable que haya algo de corriente de retorno en el plano de tierra cerca de cada línea.

O puedo hacer una línea puramente diferencial, como un par trenzado sin blindaje, y prácticamente la única corriente de retorno para una línea estará en la otra y viceversa.

Tomaré un enfoque ligeramente diferente a las otras respuestas y usaré un transformador diferencial como ejemplo. Estos son comunes en los circuitos de micrófonos balanceados.

^{simular este circuito : esquema creado con CircuitLab}

Figura 1. Un circuito de micrófono balanceado que muestra señales diferenciales (verde) y de modo común (rojo).

Tenga en cuenta que las señales diferenciales están en fase en el primario del transformador y, por lo tanto, generan una salida en el secundario del transformador. Mientras tanto, las señales de modo común están desfasadas y se cancelan sin dar salida en el secundario. El transformador rechaza la señal de modo común.

Según tengo entendido, la corriente de retorno fluye por el canal "negativo" para una conexión de señal diferencial.

Esto depende puramente de lo que tomes como referencia. Si comienza con la entrada negativa o inversora, la "corriente de retorno" está en la entrada "positiva" o no inversora.

Solo si no está bien equilibrado, puede haber una corriente de retorno no deseada en GND de referencia o en el plano de potencia.

Eso sería cierto. En la Figura 1 hay pocas posibilidades de que esto suceda ya que la cápsula del micrófono está flotando con respecto al suelo. En la práctica habrá algo de capacitancia a tierra y en otras aplicaciones puede estar usando una salida de amplificador diferencial con una referencia directa a tierra. Si, por ejemplo, hay un número impar de vueltas en las dos mitades del primario del transformador, el rechazo del modo común se reducirá y el CMRR disminuirá.

Pero algunos dicen que el camino de retorno tanto para positivo como para negativo es siempre el plano de referencia, lo que me confunde...

Si piensas un poco en esto, ¿qué sucede si se transmiten dos señales desfasadas por el mismo camino? Se cancelan. Solo la diferencia entre las dos señales pasará por el camino de tierra.

Una línea diferencial adecuadamente balanceada tiene cantidades iguales de corriente fluyendo en ambas direcciones. Una línea de transmisión diferencial correctamente balanceada no necesita un plano de referencia (hay muchas líneas de transmisión que no tienen planos de referencia, cualquiera que use UTP o STP son algunos ejemplos).

Por supuesto, si las líneas no están balanceadas, la corriente fluirá a lo largo del plano de referencia (o blindaje), pero esto será mínimo, porque un par diferencial desbalanceado ya no funciona como un par diferencial.

El plano de referencia cambia la impedancia característica de un par diferencial, por lo que se deben tener en cuenta los planos de referencia al enrutar.

Cualquier desequilibrio en la capacitancia parásita limitará el CMRR para las señales de CA.

Las corrientes de retorno fluirán a través de cualquier trozo de metal que forme la segunda placa del condensador parásito.

Es su trabajo identificar todos los Efields parásitos y poner esos campos bajo su control.