En una pieza para piano y voz, cuando bajo una octava la parte vocal, ¿necesito también bajar una octava la parte del piano?

Básicamente no. El problema es que un piano tiene falta de armonía y armónicos particulares. La transposición de una parte de piano una octava hacia arriba la hace débil y hace que las notas bajas no se registren bien como el bloque de construcción de las armonías. Transponerlo una octava hacia abajo hace que los bajos se vuelvan fangosos y los acordes sean un desastre de gran impacto en lugar de un marco armónico.

Es interesante que la guitarra (que se toca una octava más baja de lo que está escrita) tendrá sus notas fundamentales y acordes que funcionarán mejor para el acompañamiento en su tono real que un piano.

También existe esta cosa con los formantes masculinos/femeninos que hace que una voz masculina una octava más baja que una voz femenina en realidad se mezcle mejor con los armónicos de la voz femenina.

Básicamente, transponer la parte del piano hacia abajo junto con el canto es una mala idea porque el piano suena mal como acompañamiento en ese rango y por el carácter diferente de la voz masculina y femenina.

Incluso cuando se supone una voz de dúo tocada en el piano, la octava del piano en aras de la armonización es menos importante de lo que sería para un instrumento de tono continuo como un órgano de lengüeta o un violín porque no hay una igualdad sostenida de volumen, siendo el piano un instrumento de percusión.

No. Pruébalo y verás lo horrible que suena.

Puede haber excepciones a esta regla general, pero serán raras. De hecho, es común que las colecciones de canciones estén disponibles en diferentes claves para voz alta, media y baja. Si fueran específicos para cantantes masculinos o femeninos, habría el doble de ediciones, etiquetadas para soprano, tenor, mezzo soprano, barítono, contralto y bajo.

Toque la parte de piano tal como está escrita.

En la mayoría de los acompañamientos de canciones (excepto en situaciones especiales, como canciones para niños pequeños, o en las que se supone que el intérprete debe dirigir el canto de la audiencia, etc.), el acompañamiento no "dobla" la parte de la voz y funcionará bien cantado en un rango de voz masculino o femenino.

Puede haber algunas excepciones a esto en canciones escritas en el pasado, donde (1) la letra implicaba fuertemente que el cantante solo podía ser hombre o mujer, y (2) LGBT aún no era una cosa. Pero no existe una "regla general" que se aplique a esas raras situaciones; solo debes considerar cada canción según sus propios méritos.