¿Cuál es el término técnico para un carácter de reemplazo si una fuente no tiene una representación?

Ese sería .notdef, un nombre que proviene de las especificaciones oficiales de PostScript Tipo 1.

CharStrings [...] Este diccionario debe tener una entrada cuya clave sea .notdef.
[...]
Todas las posiciones no utilizadas en un vector de codificación deben completarse con el nombre de carácter .notdef. Como cualquier otro nombre de personaje, el nombre .notdef se define en el diccionario CharStrings. Si una codificación se asigna a un nombre de carácter que no existe en la fuente, se sustituye el nombre .notdef. Cada fuente debe contener una descripción de glifo para el carácter .notdef. El efecto producido al mostrar el carácter .notdef queda a discreción del diseñador de la fuente.
( Referencia del lenguaje PostScript , 3.ª ed., Addison-Wesley)

El nombre se ha copiado con el mismo propósito en fuentes TrueType y OpenType:

El glifo 0 debe asignarse a un glifo .notdef. El glifo .notdef es muy importante para informar al usuario de que no se encuentra un glifo en la fuente. Este glifo no debe dejarse sin un contorno, ya que el usuario solo verá lo que parece un espacio si falta un glifo y no se dará cuenta de la limitación de la fuente activa.

Se recomienda que la forma del glifo .notdef sea un rectángulo vacío, un rectángulo con un signo de interrogación dentro o un rectángulo con una "X". Es posible que los usuarios no reconozcan que las formas creativas, como los remolinos u otros símbolos, indican que falta un glifo en la fuente y que no se muestra en esa ubicación.
Recomendaciones para fuentes OpenType , Glifo 0: el glifo .notdef

La mayoría de las fuentes usan un cuadrado anodino y sin imaginación (las fuentes antiguas de Microsoft son propensas a esto), pero algunas son realmente agradables, aunque se advierte a los diseñadores de fuentes que no las hagan demasiado atractivas, de lo contrario, las personas pueden encontrar razones para encontrar un uso.

(El pequeño signo de interrogación inverso está en una fuente mía. El grande es de Zapfino, y el lindo cuadrado es Consolas).

De acuerdo con el estándar Unicode, se conoce como "Glifo de reemplazo" , pero técnicamente es un Fallo de glifo .

En la práctica, el punto de código □ se usa como un glifo de falla. El CARÁCTER DE REEMPLAZO U+FFFD se utiliza para reemplazar un carácter desconocido, no reconocido o irrepresentable.

También se conoce como tofu.

argot para los cuadros vacíos que se muestran en lugar de los puntos de código que no se pueden mostrar en la codificación de caracteres de la computadora

Prima:

MS lo llama "Símbolo cuadrado" o simplemente "Cuadrado" cuando falla.

Unicode también hace referencia a él como un "Carácter interpretable pero no renderizable" .