Cuestión de prueba de máximos relacionada con la forma cuadrática

Question

Cuestión de prueba de máximos relacionada con la forma cuadrática

cálculo
matrices
Matemáticas
mejoramiento

tonio

Suponer $\bf{A}$ es una matriz definida positiva simétrica y ahora queremos maximizar la función $f(\bf{x})=\bf{x}^\rm{T}\bf{A}\bf{x}$ con restricción $\bf{x}^\rm{T}\bf{x}=\rm{1}$ . Usando el multiplicador de Lagrange tenemos $L(\bf{x})=\bf{x}^\rm{T}\bf{A}\bf{x}-\lambda(\bf{x}^\rm{T}\bf{x}-\rm{1})$ y tomando la derivada de ambos lados obtenemos $L'(\bf{x})=(\bf{A}-\lambda\bf{I})\bf{x}=\rm{0}$ , cuyas soluciones son vectores propios de $\bf{A}$ .

Mi pregunta es cómo demostrar que las soluciones (los vectores propios) son de hecho máximos de $f(\bf{x})$ en lugar de mínimos. No estoy seguro, pero creo que esto está relacionado con la matriz hessiana y encontré aquí matriz hessiana de forma cuadrática que la matriz hessiana de forma cuadrática parece ser $\bf{A}+\bf{A}^\rm{T}$ , pero no sé cómo usarlo con una restricción. Publico esta pregunta para pedir ayuda con una prueba completa. Gracias.

PS El trasfondo de esta pregunta es el modelo estadístico ampliamente utilizado Análisis de Componentes Principales. Una pregunta relacionada es ¿Por qué los componentes principales corresponden a los valores propios? si estás interesado.

Respuestas (1)

Cuestión de prueba de máximos relacionada con la forma cuadrática

TZakrevskiy · Answer 1

Primero, si $A$ no es simétrica, entonces no se puede decir que $\nabla L(x) = (A-\lambda I)x$ , todo lo que puedes deducir es que $\nabla L(x) = (\frac{A+A^T}{2}-\lambda I)x$ . llamemos $\Re A = \frac{A+A^T}{2}$ .

Tenemos necesariamente en máximos/mínimos la condición de que $\lambda_i$ es el valor propio de $\Re A$ y el correspondiente $x_i$ es el vector propio de $\Re A$ . vamos a suponer que $\lambda_1\ge \lambda_2\ge\ldots$ .

Entonces otra vez, $\Re A$ es una matriz simétrica, por lo que todos sus valores propios son reales y sus vectores propios forman una base ortonormal.

Finalmente, escribimos cualquier vector $y$ con $\|y\|=1$ como

y = \sum_{i} a_{i} X_{i} .

$y=\sum_i a_ix_i.$ las constantes

a_{i}

$a_i$ satisfacer

\sum_{i} a_{i}^{2} = 1

$\sum_ia_i^2=1$ y luego echar un vistazo a

y^{T} A y

$y^TAy$ , obtenemos

y^{T} A y = \sum_{i} λ_{i} a_{i}^{2}

$y^TAy = \sum_i \lambda_i a_i^2$ sujeto a restricciones

\sum_{i} a_{i}^{2} = 1

$\sum_ia_i^2=1$ . Este es un problema de optimización fácil con el máximo alcanzado cuando

a_{1} = \pm 1

$a_1=\pm1$ .

Gracias por la respuesta. $\bf{A}$ es una matriz simétrica.
Estoy un poco confundido. Por qué $y^TAy = \sum_i \lambda_i a_i^2$ ?
@Tony $y=\sum_i a_ix_i,$ por eso $Ay =\sum_i \lambda_ia_ix_i$ porque $x_i$ son vectores propios. Entonces otra vez, $x_i$ son una base ortonormal, por lo tanto $y^TAy = (\sum_j a_jx_j,\sum_i \lambda_ia_ix_i ) =\sum_i \lambda_i a_i^2$ .
Gracias. Tengo otra pregunta. ¿Cuál es el propósito de este paso? $y=\sum_i a_ix_i$ ?
No estoy seguro, pero creo que la solución se está mostrando. $f(\bf{x})$ aumenta con los valores propios y sus vectores propios correspondientes, pero no prueba que sean máximos.

Cuestión de prueba de máximos relacionada con la forma cuadrática

tonio

Respuestas (1)

TZakrevskiy

tonio

tonio

TZakrevskiy

tonio

TZakrevskiy

tonio

Problema de maximización de triángulos y círculos

Maximizar y, minimizar x en la curva de crecimiento logarítmico

Resolver ODE F(t)=A(t)F′(t)F(t)=A(t)F′(t)F(t)=A(t)F'(t)

Encontrar el triángulo con el área máxima con un perímetro dado

Derivada numérica de una matriz en función de una matriz de Rotación

¿Son las inversas de las matrices no singulares "casi" diagonales también "casi" diagonales?

Derivada con respecto a la matriz, de una función multidimensional, utilizada para la optimización del descenso de gradiente.

Maximizar área para un perímetro dado, etc. - ¿Qué rama de las matemáticas?

Desigualdad con respecto a la norma de una matriz definida positiva

¿Cómo resuelvo el precio de venta?