Pavimento teselado a escala volcánica:

Bien, admitiré esto un poco, pero es un problema divertido. las formaciones geológicas que forman el pavimento teselado involucran una orilla plana y un depósito diferencial de materiales, a menudo como resultado de la actividad de las mareas. Los procesos geológicos de erosión y sedimentación crean depósitos de roca diferencialmente densos. Se forman líneas regulares, bastante rectas y se agrietan a intervalos, dando como resultado estructuras rectangulares.

Pero, ¿y si ampliamos esto? Un planeta con un gran evento volcánico similar a la extinción del Pérmico derramó un mar de lava sobre un gran paisaje plano durante un período prolongado. Si este planeta tuviera mareas muy extremas, entonces las "olas" de lava de esta acción de marea podrían depositarse de manera desigual con un relleno como piedra pómez "lavándose" en líneas a través de la geología.

La división final de esta lava solidificada superpuesta a lo largo de fallas regulares causadas por este relleno permitiría que las grietas crecieran a medida que el relleno se disolvía entre las olas. Losas de roca dura de millas de ancho podrían formar una serie regular de mesetas planas rectangulares.

La forma más fácil de lograr esto sería alguna función de empuje geológico que produzca acantilados escarpados, como un margen de placa convergente. Sin embargo, es posible que esto no produzca exactamente una montaña de forma cúbica, porque tendría un extremo con un acantilado escarpado, pero ese extremo se estrecharía gradualmente hacia la tierra, en lugar de tener un cubo aleatorio que sobresalga del suelo.

Tu problema no es geología, sino física. Todos los materiales tienen lo que se conoce como el ángulo de reposo , que es el ángulo más pronunciado que formará una pila suelta de cualquier material cuando se permita que se agregue bajo la acción de la gravedad. Por encima de este ángulo, la fuerza hacia abajo de la atracción gravitacional es mayor que la fuerza de fricción que mantiene el material unido, por lo que el material se desplomará y se redistribuirá hasta que esté en una pila con el ángulo apropiado. Por eso las montañas son triangulares o en forma de cúpula.

En condiciones similares a las de la Tierra, el ángulo de reposo para la mayoría de los materiales es de un máximo de 45 grados. No sé cómo las condiciones extraterrestres alterarían esto, pero dudo que sea posible hacer que una pila de escombros sueltos alcance una pila de 90 grados (que necesitarías para una pendiente en forma de cubo) a menos que estuvieras fuera de un pozo de gravedad planetaria y en absoluta microgravedad.

Alternativamente...

Las montañas pueden estar hechas de esquisto o de un material similar al esquisto.

Como puede ver, el esquisto forma capas de yeso que, cuando se rompen, pueden formar bordes rectangulares. Otro método sería mesetas.

Este es un paisaje famoso en Venezuela llamado Tabletop mountain o los Tepuyes de Venezuela.

Podrías combinar ambas formaciones geológicas para hacer una montaña en bloques.