¿Qué es esta derivada, con una matriz diagonal?

La derivada siempre se puede calcular volviendo a la definición de límite original. Para una función con valores vectoriales$f: X \rightarrow Y$, su derivada en un punto$x$, denotado$Df(x)$, si existe, viene dado por

$$[Df(x)]z = \lim_{h \rightarrow 0} h^{-1} (f(x + hz) - f(x)).$$ En otras palabras, si existe la derivada verdadera (Frechet), entonces puede calcularla calculando las derivadas direccionales (Gateaux).

En tu caso,$f(X) = \langle A \mathrm{diag}(Xv), C \rangle$, dónde$X$es la variable ($B$en su pregunta original). Entonces tal vez puedas verificar que

$$[Df(X)]Z = \langle A \mathrm{diag}(Zv), C \rangle$$ .

Reescribamos la función de costo

$$\phi = \mathbf{A} \mathrm{diag}(\mathbf{Bv}): \mathbf{C} = \mathrm{diag}(\mathbf{Bv}): \mathbf{A}^T \mathbf{C} = \mathbf{Bv} : \mathrm{diag}(\mathbf{A}^T \mathbf{C}) = \mathrm{diag}(\mathbf{A}^T \mathbf{C}) \mathbf{v^T} : \mathbf{B}$$ Usé el operador de dos puntos para el producto interno de Frobenius. También$\mathrm{diag}(\mathbf{X})$extrae el elemento diagonal de$\mathbf{X}$en un vector. la derivada es $$\frac{\partial \phi}{\partial \mathbf{B}}= \mathrm{diag}(\mathbf{A}^T \mathbf{C}) \mathbf{v^T}$$

Cuando tienes un mapa lineal$f : X \to Y$, la derivada en$x$es$f$. Es decir$d_xf = f$, o en notación puntual,$(d_xf)h = f(h)$para todos$h$. tu expresión,$f(\mathbf{B}) = \langle \mathbf{A}\operatorname{diag}(\mathbf{B}v), \mathbf{C} \rangle$es lineal en$\mathbf{B}$. Entonces la derivada es el mapa lineal

$$d_\mathbf{B}f : \mathbf{H} \mapsto f(\mathbf{H}).$$

Tenga en cuenta que este es un mapa lineal de matrices a números reales, por lo que no podemos representarlo como un producto punto vectorial$\nabla f \cdot h$pero podemos representarlo como un producto escalar de matrices.

Concretamente, y salvo que me esté equivocando en alguna parte, tenemos

$$\begin{align} (d_\mathbf{B}f) \mathbf{H} &= \langle \mathbf{A}\operatorname{diag}(\mathbf{H}v), \mathbf{C} \rangle \\ &= \operatorname{tr}(\mathbf{C}^\top\mathbf{A}\operatorname{diag}(\mathbf{H}v)) \\ &= \operatorname{tr}((\mathbf{A}^\top\mathbf{C})^\top \operatorname{diag}(\mathbf{H}v)) \\ &= \langle \operatorname{diag}(\mathbf{H}v), \mathbf{A}^\top \mathbf{C} \rangle \\ &= \sum_{i} (\mathbf{H}v)_i (\mathbf{A}^\top \mathbf{C})_{ii} \\ &= \sum_{i} \left(\sum_{j} \mathbf{H}_{ij}v_j \right) (\mathbf{A}^\top \mathbf{C})_{ii} \\ &= \langle \mathbf{H}, (v_j(\mathbf{A}^\top \mathbf{C})_{ii})_{i,j=1}^n \rangle \\ &= \langle \mathbf{H}, \operatorname{Diag}(\mathbf{A}^\top \mathbf{C}) \otimes v \rangle. \end{align}$$

Aquí$\operatorname{Diag}(X) = (X_{ii})_{i = 1}^n$es el vector de elementos diagonales de$X$y$\otimes$es el producto exterior.

Así que podríamos decir$\operatorname{Diag}(\mathbf{A}^\top \mathbf{C}) \otimes v$representa la derivada en coordenadas.