¿Qué hacen los dientes en el SpaceX Falcon Mod4?

tl;dr - Mejor aerodinámica a altas velocidades.

Hay un documento que compara las aletas de rejilla simples con las aletas de rejilla "dentadas" barridas localmente:
Novel High-Performance Grid Fins for Missile Control at High Speedes (PDF) .

Para citar una parte de su conclusión (énfasis mío):

Los resultados muestran una reducción esencial del arrastre para las configuraciones de barrido local. Los resultados más importantes se pueden resumir de la siguiente manera:

• La ganancia obtenida para las configuraciones realistas investigadas de ala de celosía barrida localmente en comparación con las convencionales en la resistencia total de elevación cero asciende hasta el 38 % y en la relación elevación-resistencia hasta más del 20 %.
• El arrastre de onda de elevación cero más bajo se muestra en la construcción del ala de celosía con alas de celosía de barrido local de tipo pico (LSLWp y LSLWp2). Por el contrario, el LSLW de tipo valle (LSLWv y LSLWv2) muestra un mejor rendimiento de elevación a arrastre en la incidencia del ala.
• El efecto de la LSE aumenta sobre todo con el número de Mach de flujo libre, el ángulo de barrido local y el espesor relativo de los miembros y la romosura de sus bordes de ataque. Disminuye con el ángulo de incidencia y para tamaños de dientes relativos mayores.

O, en jerga de papel no científico: las aletas de rejilla dentada son mejores que las aletas de rejilla plana, ya que tienen mejor arrastre de elevación cero y una mejor relación de elevación a arrastre .

Esencialmente es por la misma razón que los aviones de combate tienen un diseño de ala delta en flecha.