11Spektralsætning og hermiteske matricer

Vi husker fra Kapitel 9, at for en matrix $A$ kan vi definere den konjugerede og transponerede matrix

$A^* = \overline{A}^T.$ I dette kapitel skal vi se på en helt særlig klasse at matricer.

En $n\times n$ matrix $A$ kaldes hermitesk hvis

$A = A^*.$ Hvis $A$ er en reel matrix, så vi i stedet har $A = A^T$ , kaldes den symmetrisk.

Matricen

$\begin{pmatrix} 1 & 1-i \\ 1+i & -4 \end{pmatrix}$ er et eksempel på en hermitesk matrix, prøv selv at tjekke efter ved at finde dens konjugerede og transponerede.

Prøv at overvise jer selv om, hvorfor diagonalelementerne i en hermitesk matrix bliver nødt til at være reelle.

Matricen

$\begin{pmatrix} 1 & 2 \\ 2 & -4 \end{pmatrix}$ er et eksempel på en symmetrisk matrix.

Blandt de komplekse matricer fortjener de hermiteske en særstatus. Det viser sig at disse altid er diagonaliserbare, og endda ved brug af en ONB bestående af egenvektorer. Dette resultat kaldes spektralsætningen og er et af højdepunkterne i noterne. Husk på, at normalt kan man ikke forvente at en matrix er diagonaliserbar. For eksempel er matricen

$\begin{pmatrix} 1 & 1\\ 0 & 1 \end{pmatrix}$ ikke diagonaliserbar.

Før vi når til diagonalisering af hermiteske matricer, skal vi se nogle pæne egenskaber for deres egenværdier og egenvektorer.

11.1 Egenværdier og egenvektorer for hermiteske matricer

En meget vigtig observation er, at selvom hermiteske matricer generelt har komplekse tal som indgange, så er deres egenværdier reelle tal og egenvektorer hørende til forskellige egenværdier er ortogonale. Dette er en meget stærk anvendelse af det indre produkt og faktisk er beviset slet ikke så kompliceret.

Lad $A$ være en hermitesk matrix. Så er egenværdierne for $A$ reelle tal.

Lad $\lambda_1\neq\lambda_2$ være to forskellige egenværdier for $A$ . Hvis $\mathbf v_1$ er en egenvektor hørende til $\lambda_1$ og $\mathbf v_2$ en egenvektor hørende til $\lambda_2$ , så gælder

$\mathbf v_1\cdot \mathbf v_2 = 0.$ Det vil sige at egenvektorer hørende til forskellige egenrum for $A$ er ortogonale.

Bevis

For en egenvektor $\mathbf v$ hørende til egenværdi $\lambda$ har vi

$\lambda (\mathbf v\cdot \mathbf v) = (A \mathbf v)\cdot \mathbf v = \mathbf v\cdot (A^* \mathbf v) = \mathbf v\cdot (A \mathbf v) = \mathbf v\cdot (\lambda \mathbf v) = \bar{\lambda} (\mathbf v\cdot \mathbf v).$ Dermed er $\lambda = \bar{\lambda}$ og vi må have $\lambda\in \mathbb{R}$ , fordi $\mathbf v\neq 0$ og dermed $\mathbf v\cdot \mathbf v \neq 0$ .

Samme type argument giver ortogonaliteten af egenvektorerne $\mathbf v_1$ og $\mathbf v_2$ :

$\lambda_1 (\mathbf v_1\cdot \mathbf v_2) = (A \mathbf v_1)\cdot \mathbf v_2 = \mathbf v_1\cdot (A \mathbf v_2) = \lambda_2 (\mathbf v_1\cdot \mathbf v_2).$ Denne identitet medfører ligningen

$(\lambda_1-\lambda_2) (\mathbf v_1\cdot \mathbf v_2) = 0,$ hvoraf $\mathbf v_1\cdot \mathbf v_2 = 0$ , da $\lambda_1\neq \lambda_2$ .

At egenværdierne for en hermitesk matrix er reelle skyldes symmetrien i matricen, f.eks. har

$\begin{pmatrix} 0 & -1\\ 1 & 0 \end{pmatrix}$ ikke reelle egenværdier. Faktisk er det ret utroligt at hvis man stanger en vilkårlig symmetrisk matrix som for eksempel

$\begin{pmatrix} 1 & 3 & 7 & 5\\ 3 & 1 & 2 & 4\\ 7 & 2 & 2 & 6\\ 5 & 4 & 6 & 1 \end{pmatrix}$ ud, at dens karakteristiske polynomium kun kan have reelle rødder. Det er en af konsekvenserne af Sætning 11.3.

Det er dog vigtigt at huske på, at Sætning 11.3 kun giver ortogonalitet for egenvektorer hørende til forskellige egenrum. Hvis den geometriske multiplicitet af en egenværdi er større end én, så bliver vi stadig nødt til at anvende Gram-Schmidt algoritmen for at finde ortogonale egenvektorer for dette egenrum.

Gør helt eksplicit rede for at en symmetrisk $2\times 2$ matrix

$\begin{pmatrix} a & b\\ b & c \end{pmatrix},$ med $a, b, c\in \mathbb{R}$ faktisk har reelle egenværdier.

Hvilke af nedenstående udsagn er rigtige?

En hermitesk matrix er kvadratisk.

En hermitesk matrix kan godt have det komplekse tal $2+3i$ som indgang i diagonalen.

$A = \begin{pmatrix} i & 1 + i\\ 1 & -i \end{pmatrix}$ er en hermitesk matrix.

$A^*A$ er en hermitesk matrix.

$\begin{pmatrix} 1 & 2\\ 2 & 1 \end{pmatrix}$ er en symmetrisk matrix.

$\begin{pmatrix} 1 & 2\\ 3 & 1 \end{pmatrix}$ er en symmetrisk matrix.

11.2 Schurs lemma

Den matematiske indgang til diagonalisering af hermiteske matricer er et klassisk resultat af Issai Schur. Hvis du kigger fremad til beviset for Sætning 11.9 vil du helt klart opdage meningen med resultatet nedenfor, som kaldes Schurs lemma.

Lad $A$ være en $n\times n$ matrix. Så findes en unitær matrix $U$ så

$U^* A U$ er en øvre trekantsmatrix.

Hvis $A$ er en reel matrix, så kan $U$ vælges som en ortogonal matrix.

Bevis*

Vi beviser resultatet med induktion. Bemærk at det er sandt for $1\times 1$ matricer med $U = 1.$ Antag nu at resultatet er sandt for $(n-1)\times(n-1)$ matricer, så skal vi vise at dette medfører resultatet for $n\times n$ matricer.

Lad $A\mathbf v = \lambda\mathbf v$ for en egenværdi $\lambda$ og hvor $|\mathbf v| = 1$ . Nu kan Gram-Schmidt algoritmen finde vektorer $\mathbf w_2,\dots,\mathbf w_n$ , således at $\{\mathbf v,\mathbf w_2,\dots,\mathbf w_n\}$ udgør en ONB for $\mathbb{C}^n$ . Vi definerer nu en $n\times n$ unitær matrix ved $U_1 = (\mathbf v,\mathbf w_2,\dots,\mathbf w_n)$ . Bemærk at vi har $U_1\mathbf e_1 = \mathbf v$ . Vi laver nu en udregning:

$(U_1^*AU_1^*)\mathbf e_1 = U_1^{-1}A\mathbf v = \lambda U_1^{-1}\mathbf v = \lambda\mathbf e_1.$ Vi har altså at første søjle af $U_1^*AU_1$ er $\lambda\mathbf e_1$ . Så matricen har følgende struktur:

$U_1^* A U_1 = \begin{pmatrix} \lambda & ? & \cdots & ? \\ 0 & &&\\ \vdots & &B&\\ 0 & && \end{pmatrix},$ hvor $B$ er en $(n-1)\times (n-1)$ matrix.

Fra induktionsantagelsen, så findes en unitær $(n-1)\times(n-1)$ matrix $V$ således at $V^*BV$ er en øvre trekantsmatrix. Nu udvider vi $V$ til en $n\times n$ matrix $U_2$ på følgende måde:

$U_2 = \left(\begin{array}{c|c} 1 & \mathbf 0^T \\ \hline \mathbf 0 & V \end{array}\right)$ hvor $\mathbf 0$ ovenfor er en $(n-1)\times 1$ nulvektor. Bemærk at nullerne i søjlerne hvor $V$ indgår ikke påvirker længden af søjlevektorerne, og tydeligevis er første søjle af $U_2$ ortogonal med de resterende søjler. Da $V$ er unitær har den ortonormale søjler, og det samme er derfor tilfældet for $U_2$ . Altså er $U_2$ en unitær matrix.

Vi ser nu på matricen $U_2^*(U_1^*AU_1)U_2$ , hvor vi udnytter den særlige struktur for matricerne:

$U_2^*(U_1^*AU_1)U_2 = \left(\begin{array}{c|c} 1 & \mathbf 0^T \\ \hline \mathbf 0 & V^* \end{array}\right) \left(\begin{array}{c|c} 1 & ? \\ \hline \mathbf 0 & B \end{array}\right) \left(\begin{array}{c|c} 1 & \mathbf 0^T \\ \hline \mathbf 0 & V \end{array}\right) = \left(\begin{array}{c|c} 1 & ? \\ \hline \mathbf 0 & V^*BV \end{array}\right).$ De ukendte tal under spørgsmålstegnet ovenfor er ikke nødvendigvis de samme på hver side af lighedstegnet, men disse er irrelevante. Da $V^*BV$ er en øvre trekantsmatrix, så får vi derfor også at

$U_2^*(U_1^*AU_1)U_2 = (U_1U_2)^*A(U_1U_2)$ er en øvre trekantsmatrix. Beviset afsluttes ved at indse at produktet af unitære matricer igen giver en unitær matrix (se Opgave 11.11), så vi kan bruge

$U = U_1U_2.$

Hvilke af nedenstående matricer er øvre trekantsmatricer?

$\begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}$

$\begin{pmatrix} 1 & i\\ 0 & 1 \end{pmatrix}$

$\begin{pmatrix} 1 \end{pmatrix}$

$\begin{pmatrix} 1 & 0\\ 1 & 1 \end{pmatrix}$

Udover at Schurs lemma kan anvendes til at bevise spektralsætningen i næste afsnit, så kan den også bruges til andre mindre resultater som kan udnytte den pæne struktur i en trekantsmatrix.

Lad $A$ være en $n\times n$ matrix, og lad $\lambda_1,\dots,\lambda_n$ være dens egenværdier gentaget efter algebraisk multiplicitet. Så gælder at determinanten af $A$ er produktet af dens egenværdier,

$\det(A) = \lambda_1\lambda_2\cdots\lambda_n.$

Bevis

Bemærk at for en $n\times n$ trekantsmatrix $T$ så er $\det(T)$ lig med produktet af diagonalelementerne

$\det(T) = t_{11}t_{22}\cdots t_{nn}.$ Dette følger af definition på determinanten fra Kapitel 5. Derfor har vi at det karakteristiske polynomium $p(\lambda) = \det(T-\lambda I)$ er på formen

$p(\lambda) = (t_{11} - \lambda)(t_{22} - \lambda)\cdots(t_{nn} - \lambda),$ og dermed står egenværdierne for $T$ , gentaget efter deres algebraiske multipliciteter, i diagonalen.

Lad os nu se på en generel $n\times n$ matrix $A$ . Schurs lemma (Lemma 11.6) fortæller at der findes en unitær matrix $U$ således at $U^*AU$ er en øvre trekantsmatrix, lad os kalde denne for $T$ . Specifikt har vi at $A$ og $T$ er similære. Fra Opgave 8.32 har $A$ og $T$ det samme karakteristiske polynomium (og derfor samme egenværdier), samt de har samme determinant. Samlet set har vi at

$\det(A) = \det(T) = \lambda_1\lambda_2\cdots\lambda_n.$

11.3 Spektralsætningen for hermiteske matricer

Selvom Schurs lemma havde et relativt teknisk bevis, bliver beviset for spektralsætningen tilgengæld ekstremt kort.

Lad $A$ være en $n\times n$ hermitesk matrix. Så findes en unitær matrix $U$ så

$D = U^* A U$ er en diagonalmatrix med reelle indgange.

Søjlerne i $U$ er en ONB for $\mathbb{C}^n$ bestående af egenvektorer for $A$ , og diagonalen i $D$ består af de tilsvarende egenværdier for $A$ , gentaget efter deres algebraiske multiplicitet.

Hvis $A$ er en symmetrisk matrix, så kan $U$ vælges som en ortogonal matrix.

Bevis

Dette er et smukt og kort bevis, som benytter Schurs lemma (Lemma 11.6): Fra Schurs lemma ved vi at der findes en unitær matrix $U$ så

$U^* A U$ er en øvre trekantsmatrix. Men $U^* A U$ er en hermitesk matrix, da

$(U^* A U)^* = U^* A^* (U^*)^* = U^* A U.$ En øvre trekantsmatrix som er hermitesk bliver nødt til at være en diagonalmatrix med reelle indgange, hvilket giver resultatet i sætningen.

Relationen til egenværdier og egenvektorer for en diagonalisering, er kendt fra Kapitel 8.

Betragt den symmetriske matrix

$A = \begin{pmatrix} 0 & 2 & -1\\ 2 & 3 & -2\\ -1 & -2 & 0 \end{pmatrix}.$ Det oplyses at $A$ har egenværdierne $\lambda = -1$ og $\lambda = 5$ . Find ud fra dette en ortogonal matrix $U$ så $U^T A U$ er en diagonalmatrix.

Her er det nok at finde en ONB af egenvektorer for $A$ . Dette gøres ved at finde en ONB for hvert egenrum og kombinere dem til en basis for $\mathbb{R}^3$ . Den samlede basis bliver ortonormal, fordi egenvektorer hørende til forskellige egenværdier er ortogonale af Sætning 11.3. Vi kigger først på egenværdien $\lambda = -1$ . Her regner man sig frem til at

$\mathbf v_1 = \begin{pmatrix} 1 \\ 0 \\ 1 \end{pmatrix}\qquad \text{og}\qquad \mathbf v_2 = \begin{pmatrix} -2 \\ 1 \\ 0 \end{pmatrix} \tag{11.1}$ er en basis for egenrummet $N(A+I)$ ved at løse ligningssystemet

$\begin{pmatrix} 1 & 2 & -1\\ 2 & 4 & -2\\ -1 & -2 & 1 \end{pmatrix} \mathbf v = \begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}.$ Se tilbage i kapitel 6 hvordan dette relaterer sig til RREF af matricen $A+I$ , og hvordan man kan finde en basis for $N(A+I)$ .

Vi benytter nu Gram-Schmidt algoritmen (Sætning 9.15) på vektorerne i (11.1) og kommer frem til ONB

$\mathbf w_1 = \frac{1}{\sqrt{2}}\begin{pmatrix} 1 \\ 0 \\ 1 \end{pmatrix}\qquad \text{og}\qquad \mathbf w_2 = \frac{1}{\sqrt{3}}\begin{pmatrix} -1 \\ 1 \\ 1 \end{pmatrix}.$ Nu ved vi at $\dim N(A - 5 I) = 1$ for egenværdien $\lambda=5$ (hvorfor? Hvis du ikke ved dette, kan det være en god ide at genopfriske kapitel 8). Som ovenfor finder vi at

$\mathbf v_3 = \begin{pmatrix} -1 \\ -2 \\ 1 \end{pmatrix}$ er en basis for $N(A - 5 I)$ og dermed at

$\mathbf w_3 = \frac{1}{\sqrt{6}}\begin{pmatrix} -1 \\ -2 \\ 1 \end{pmatrix}$ er en ONB for $N(A - 5 I)$ . Samlet bliver $\{\mathbf w_1, \mathbf w_2, \mathbf w_3\}$ en ONB for $\mathbb{R}^3$ bestående af egenvektorer for $A$ . Matricen $U = (\mathbf w_1,\mathbf w_2,\mathbf w_3)$ er dermed en ortogonal matrix

$U = \frac{1}{\sqrt{6}}\begin{pmatrix} \sqrt{3} & -\sqrt{2} & -1 \\ 0 & \sqrt{2} & -2 \\ \sqrt{3} & \sqrt{2} & 1 \end{pmatrix}$ som opfylder at

$U^T A U = \begin{pmatrix} -1 & 0 & 0\\ 0 & -1 & 0\\ 0 & 0 & 5 \end{pmatrix}.$

11.4 Spektralsætningen for normale matricer

I næste store revision af noterne vil jeg her give det lidt mere generelle resultat, som viser at alle normale matricer kan diagonaliseres, det vil sige matricer som opfylder $A^* A = AA^*$ . Her skal man ikke lade sig snyde af navnet normal matrix, da der er masser af ''unormale'' matricer.

Hermiteske matricer er normale, og det viser sig at være lige præcis de normale matricer hvor alle egenværdierne er reelle.

11.5 Opgaver

Vis at produktet af to unitære matricer er en unitær matrix.

Lad $T$ være en øvre trekantsmatrix. Hvorfor bliver $T$ nødt til at være en diagonalmatrix, hvis den er hermitesk?

Lad

$A = \begin{pmatrix} 2 & 1 - i\\ 1 + i & 1 \end{pmatrix}.$ Find en unitær matrix, som diagonaliserer $A$ .

Udregn en ONB af egenvektorer for matricen

$A = \begin{pmatrix} 0 & 0 & 1\\ 0 & 1 & 0\\ 1 & 0 & 0 \end{pmatrix}.$ Find dernæst en ortogonal matrix $U$ så $U^T A U$ er en diagonalmatrix.

Gør rede for at det karakteristiske polynomium til matricen

$A = \begin{pmatrix} 1 & 1 & 1\\ 1 & 1 & 1\\ 1 & 1 & 1 \end{pmatrix}$ er $\lambda^2 (3-\lambda)$ . Benyt dette til at vise at

$A^n = 3^{n-1} A$ for naturlige tal $n$ . Find dernæst en ortogonal matrix $U$ så $U^T AU$ er en diagonalmatrix.

(Eksamen januar 2021)

Lad en kompleks $3\times 3$ matrix $A$ være givet ved

$A = \begin{pmatrix} 0 & 0 & -i \\ 0 & 0 & 1 \\ i & 1 & -1 \end{pmatrix}.$

Gør rede for at $A$ ikke er invertibel.
Gør rede for, uden at regne egenværdier og egenvektorer, at $A$ er diagonaliserbar.
Vis at vektorerne
$\mathbf v_1 = \begin{pmatrix} i \\ -1 \\ 2 \end{pmatrix}, \quad \mathbf v_2 = \begin{pmatrix} -i \\ 1 \\ 1 \end{pmatrix}, \quad \mathbf v_3 = \begin{pmatrix} i \\ 1 \\ 0 \end{pmatrix}, \quad \mathbf v_4 = \begin{pmatrix} 2 \\ 2i \\ -4i \end{pmatrix}$ er egenvektorer for $A$ .
Bestem en unitær matrix $U$ og en diagonalmatrix $D$ , således at
$D = U^*AU.$