El voltaje bajo forma una puerta lógica NAND, entonces el estado es alto

Su descripción de la medición de voltaje y el estado de las entradas no está del todo clara, pero supongo que el principal problema es que los circuitos integrados que está utilizando tienen salidas de colector abierto. Es (tal vez) intencionado dado que desea cambiar el nivel de voltaje, pero en cualquier caso necesita una resistencia pull-up en la salida para que dicha puerta funcione.

Pero no tiene mucho sentido usar una salida de colector abierto para fines de cambio de nivel cuando está alimentando el IC desde 5V de todos modos. Y en muchas situaciones (dependiendo de su caso de uso particular), la salida push-pull funcionará mucho mejor que la resistencia pull-up.

Si desea cambiar el voltaje de 3,3 V a 5 V usando la puerta lógica, elija la salida push-pull estándar, encienda la puerta con un suministro de 5 V y verifique si los niveles de entrada coinciden con el voltaje de salida IO de su MCU (versiones compatibles con TTL de puerta lógica son mejores en términos de rango de voltaje de alto nivel garantizado para tales propósitos).

El 74LS38 tiene salidas de colector abierto: el colector del transistor de salida solo está conectado al pin de salida y no a nada en el chip. El transistor de salida puede tirar de la salida a tierra o "soltar" la salida.

Debe proporcionar algo fuera del chip para llevar la salida a nivel alto: una resistencia de 5K1 o más a +5 voltios funcionaría, luego debería ver que la salida se acerca mucho a + 5V cuando ambas entradas son bajas.

La respuesta de Martin tiene la idea correcta, pero no fue explícito en cómo lidiar con el problema.

Cambie su salida NAND para que se vea así

^{simular este circuito : esquema creado con CircuitLab}

A ver si eso no ayuda.

Una salida de colector abierto esencialmente parece un interruptor a tierra. No tiene la capacidad de generar una salida alta físicamente alta, y lo que estaba viendo era el resultado de corrientes de fuga.