¿Por qué Vader vive en Mustafar?

Porque Palpatine lo hizo.

De la guía visual definitiva de Rogue One :

La morada personal de Vader es una torre de obsidiana en un mundo inhóspito. Es por diseño del Emperador que Vader vive en un entorno tan implacable.

Tampoco es difícil adivinar por qué Palpatine querría esto: mantener a Vader allí lo mantendrá enojado y sufriendo, un camino seguro hacia el poder en el lado oscuro de la Fuerza.

porque tiene un significado especial

Según una entrevista con el vicepresidente de Lucasfilm, Doug Chiang:

Doug Chiang: [Risas] El castillo de Vader fue muy divertido. Cuando supe que posiblemente íbamos a regresar al castillo de Vader, me encantó la idea de "Está bien, establezcamos el hogar de Vader". La idea inicial fue: "¿Por qué Vader viviría aquí?" En nuestras mentes, empezamos a idear un poco de historia de fondo. Que tal vez este lugar tenía un significado especial para él, y que aquí es donde viene a meditar y curarse.Empezamos con la idea de que tal vez debería construirse alrededor de su cámara de tanque de bacta, y él regresa aquí para rejuvenecerse y también para meditar. Entonces, a partir de ahí, la estructura en sí surgió del tanque de bacta, y hubo ciertas ideas que probamos. Estábamos tratando de buscar una forma muy icónica, y siempre amamos las torres altas. Ralph McQuarrie en realidad dibujó bastantes pequeños bocetos en miniatura [del castillo de Vader] que eran muy intrigantes. Eran una especie de versiones angulares de una torre, y vi el potencial de hacia dónde se dirigía, y lo exageré un poco.

Una de las cosas en las que aterrizamos temprano fue esta idea de un diapasón, una especie de apariencia de torre gemela. Y fue realmente interesante, porque entonces eso comenzó a darle a Gareth muchas ideas como: “Bueno, tal vez la estructura se construyó de esta manera porque es como un diapasón. Está sintonizando el lado oscuro en términos de energía”.

Nuevamente, Vader es un Sith. Recordarse a sí mismo de su sufrimiento es un camino hacia la fortaleza. Además, es posible que Mustafar sea un lugar particularmente bueno para "sintonizar el lado oscuro".

Esta es solo mi interpretación, pero además de las otras respuestas (que es un lugar donde puede sumergirse en el sufrimiento y el odio/Palpatine lo hizo vivir allí) y el hecho de que proporciona una muy buena representación visual del estado mental de Vader/ vincula a Rogue One con ROTS; también es el lugar donde vio por última vez a Padme. Él piensa que este es el lugar donde la mató, por lo que quedarse allí no solo le permitiría aprovechar su dolor, sino que también sería una forma de permanecer cerca del recuerdo de la última vez que vio al amor de su vida viva