Kurs:Numerik I/Matrixnorm und Spektrum

Einleitung

Die wesentlichen Eigenschaften der durch induzierten Matrixnormen u.a. im Zusammenhang mit dem Spektrum sind im Folgenden zusammengefasst.

Definition - Spektrum

Für eine Matrix $B\in \mathbb {K} ^{n\times n}$ nennt man

\sigma (B):=\{\lambda \in \mathbb {C} \,:\,\lambda \ ist\ Eigenwert\ von\ B\}

das Spektrum und

\varrho (B):=\max\{|\lambda |\,:\,\lambda \in \sigma (B)\}

den Spektralradius von $B$ .

Bemerkung - Eigenwerte und Eigenvektor

Eigenvektoren zusammen mit dem zugehörigen Eigenvektor sind wesentlich, um eine lineare Abbildung (Endomorphismus allein durch eine Linearkombination von gestreckt und gestauchten Eigenvektoren darzustellen (siehe Eigenwerte, Eigenvektoren und Diagonalisierung)

Satz - Abschätzung Spektralradius - Martixnorm

Sei $A\in \mathbb {C} ^{n\times n}$ . Für die durch eine Vektornorm induzierte Matrixnorm $\|\cdot \|:\mathbb {C} ^{n\times n}\to \mathbb {R} _{+}$ gilt

\|A\|\geq \varrho (A).

Beweis - Abschätzung Spektralradius - Martixnorm

Für den Beweis wird Eigenschaft, dass $\lambda \in \mathbb {C}$ ein Eigenwert zu einem Eigenvektor $x\in \mathbb {C} ^{n}$ ist, verwendet, um die Vektornorm des Bildes $A\cdot x$ gegen den Spektralradius abzuschätzen.

Beweis - 1

Sei $x\in \mathbb {C} ^{n}\setminus \{0\}$ Eigenvektor zum Eigenwert $\lambda \in \mathbb {C}$ einer Matrix $A\in \mathbb {C} ^{n\times n}$ , d. h.

Ax=\lambda x.

Beweis - 2

Mit der zugehörigen Vektornorm $\|\cdot \|:\mathbb {C} ^{n}\to \mathbb {R} _{+}$ gilt dann

\|A\|\geq {\frac {\|Ax\|}{\|x\|}}={\frac {|\lambda |\|x\|}{\|x\|}}=|\lambda |

Daraus folgt die Ungleichung der Behauptung.

q.e.d.

Bemerkung - Zeilensummen und Spaltensummennorm

Der folgende Satz besagt, dass die durch die Vektornormen $\|\cdot \|_{\infty }$ und $\|\cdot \|_{1}$ induzierten Matrixnormen $\|A\|_{\infty }$ bzw. $\|A\|_{1}$ gerade die in den obigen Beispiel eingeführte Zeilensummen- und Spaltensummennorm sind.

Satz - Zeilensummen und Spaltensummennorm

Für $A:=(a_{kj})\in \mathbb {K} ^{n\times n}$ und die durch die Vektornormen $\|\cdot \|_{\infty }$ und $\|\cdot \|_{1}$ induzierten Matrixnormen $\|A\|_{\infty }$ bzw. $\|A\|_{1}$ gilt

$\|A\|_{\infty }=\max _{k=1,\ldots ,n}\sum _{j=1}^{n}|a_{kj}|$ (Zeilensummennorm),
$\|A\|_{1}=\max _{j=1,\ldots ,n}\sum _{k=1}^{n}|a_{kj}|$ (Spaltensummennorm).

Beweis - Zeilensummen und Spaltensummennorm

Die Beweise der Gleichheit " $=$ " für die Zeilensummennorm bzw. Spaltensummennorm wird jeweils in zwei Teilaussagen " $\geq$ " und " $\leq$ " zerlegt. Für die Zeilensummennorm bedeutet das:

{\begin{array}{rcl}\|Ax\|_{\infty }&\leq &\displaystyle \max _{k\in \{1,\ldots ,n\}}\sum _{j=1}^{n}|a_{kj}|\\\|Ax\|_{\infty }&\geq &\displaystyle \max _{k\in \{1,\ldots ,n\}}\sum _{j=1}^{n}|a_{kj}|\\\end{array}}

Beweis 1.1 - Zeilensummennorm

Wir weisen zunächst die Behauptung für die Zeilensummennorm nach. Für $x\in \mathbb {K} ^{n}$ gilt

{\begin{array}{rcl}\|Ax\|_{\infty }&=&\max _{k=1,\ldots ,n}\left|\sum _{j=1}^{n}a_{kj}x_{j}\right|\\&\leq &\max _{k=1,\ldots ,n}\sum _{j=1}^{n}|a_{kj}||x_{j}|\\&\leq &\left(\max _{k=1,\ldots ,n}\sum _{j=1}^{n}|a_{kj}|\right)\|x\|_{\infty }\\\end{array}}

Beweis 1.2 - Zeilensummennorm

Somit erghält man

{\frac {\|Ax\|_{\infty }}{\|x\|_{\infty }}}\leq \max _{k=1,\ldots ,n}\sum _{j=1}^{n}|a_{kj}|,

und die folgende Abschätzung:

\|A\|_{\infty }\leq \max _{k=1,\ldots ,n}\sum _{j=1}^{n}|a_{kj}|

folgt.

Beweis 1.3 - Zeilensummennorm

Zum Beweis der umgekehrten Abschätzung sei $k\in \{1,\ldots ,n\}$ beliebig, aber fest gewählt. Für $x:=(x_{j})\in \mathbb {K} ^{n}$ mit

x_{j}:={\begin{cases}|a_{kj}|/a_{kj},&{\text{falls }}a_{kj}\neq 0\\1,&{\text{sonst}}\end{cases}}

gilt dann $\|x\|_{\infty }=1$ .

Beweis 1.4 - Zeilensummennorm

Somit hat man

{\begin{array}{rcl}\|A\|_{\infty }&=&\max _{\|y\|_{\infty }=1}\|Ay\|_{\infty }\\&\geq &\|Ax\|_{\infty }\geq \left|\displaystyle \sum _{j=1}^{n}a_{kj}x_{j}\right|\\&=&\displaystyle \sum _{j=1}^{n}|a_{kj}|.\\\end{array}}

Da $k$ beliebig gewählt war, folgt die behauptete Darstellung für $\|A\|_{\infty }$ .

Beweis 2.1 - Spaltensummennorm

In dem nächsten Beweisteil werden wieder zwei Ungleichungen gezeigt, die zusammen die Aussage für die Spaltensummennorm liefern:

{\begin{array}{rcl}\|Ax\|_{1}&\leq &\displaystyle \max _{\ell \in \{1,\ldots ,n\}}\sum _{k=1}^{n}|a_{k\ell }|\\\|Ax\|_{1}&\geq &\displaystyle \max _{\ell \in \{1,\ldots ,n\}}\sum _{k=1}^{n}|a_{k\ell }|\\\end{array}}

Beweis 2.2 - Spaltensummennorm

Nun gilt weiter für $x\in \mathbb {K} ^{n}$

{\begin{array}{rcl}\|Ax\|_{1}&=&\displaystyle \sum _{k=1}^{n}\left|\sum _{j=1}^{n}a_{kj}x_{j}\right|\\&\leq &\displaystyle \sum _{k=1}^{n}\sum _{j=1}^{n}|a_{kj}||x_{j}|\leq \sum _{j=1}^{n}\left(\sum _{k=1}^{n}|a_{kj}|\right)\\&\leq &\left(\displaystyle \max _{j=1,\ldots ,n}\sum _{k=1}^{n}|a_{kj}|\right)\sum _{j=1}^{n}|x_{j}|\\&=&\left(\displaystyle \max _{j=1,\ldots ,n}\sum _{k=1}^{n}|a_{kj}|\right)\|x\|_{1}.\\\end{array}}

Beweis 2.3 - Spaltensummennorm

Zum Beweis der umgekehrten Aussage sei $\ell \in \{1,\ldots ,n\}$ beliebig, aber fest gewählt. Mit dem Einheitsvektor $e^{\ell }:=(\delta _{k\ell })\in \mathbb {K} ^{n}$ erhält man dann

{\begin{array}{rcl}\|A\|_{1}&=&\displaystyle \max _{\|y\|_{1}=1}\|Ay\|_{1}\\&\geq &\|Ae^{\ell }\|_{1}=\displaystyle \sum _{k=1}^{n}\left|\sum _{j=1}^{n}a_{kj}\delta _{j\ell }\right|\\&=&\displaystyle \sum _{k=1}^{n}|a_{k\ell }|.\\\end{array}}

Damit folgt auch die behauptete Darstellung von $\|A\|_{1}$ .

q.e.d.

Bemerkung - Reeller Fall

Im Folgenden beschränken wir uns auf den reellen Fall $\mathbb {K} :=\mathbb {R}$ . Als unmittelbare Konsequenz aus Satz 2.12 erhält man

Korollar - Reeller Fall

Für Matrizen $A\in \mathbb {R} ^{n\times n}$ gilt

\|A\|_{\infty }=\|A^{T}\|_{1},\quad \|A\|_{1}=\|A^{T}\|_{\infty }.

Bemerkung - Zusammenhang von Normen im reellen Fall

Der nachstehende Satz liefert im Fall reeller Matrizen für die durch die Euklidische Vektornorm induzierte Matrixnorm eine spezielle Darstellung.

Satz - Euklische Norm - induzierte Matrixnorm

Sei $A\in \mathbb {R} ^{n\times n}$ . Für die durch die Euklidische Vektornorm $\|\cdot \|_{2}:\mathbb {R} ^{n}\to \mathbb {R} _{+}$ induzierte Matrixnorm $\|\cdot \|_{2}:\mathbb {R} ^{n\times n}\to \mathbb {R} _{0}^{+}$ gilt:

\|A\|_{2}={\sqrt {\varrho (A^{T}A)}}.

Beweis - Euklische Norm - induzierte Matrixnorm

Es ist $A^{T}A\in \mathbb {R} ^{n\times n}$ eine symmetrische und wegen

x^{T}A^{T}Ax=(Ax)^{T}(Ax)=\|Ax\|_{2}^{2}\geq 0,\quad x\in \mathbb {R} ^{n}

positiv semi-definite Matrix.

Beweis - 1 - Eigenwerte

Somit besitzt $A^{T}A$ Eigenwerte $\lambda _{k}\geq 0$ $(k=1,\ldots ,n)$ und gibt es zu $A^{T}A$ ein System $u_{1},\ldots ,u_{n}\in \mathbb {R} ^{n}$ von orthonormalen Eigenvektoren, d. h. es ist

A^{T}Au_{k}=\lambda _{k}u_{k},\quad k=1,\ldots ,n

und

u_{k}^{T}u_{l}=\delta _{lk}

.

Beweis - 2

Für $x\in \mathbb {R} ^{n}$ gilt daher mit der Darstellung $x=\sum _{k=1}^{n}c_{k}u_{k}$

{\begin{array}{rcl}\|Ax\|_{2}^{2}&=&x^{T}A^{T}Ax=\displaystyle \left(\sum _{k=1}^{n}c_{k}u_{k}\right)^{T}\left(\sum _{j=1}^{n}c_{j}(A^{T}A)u_{j}\right)\\&=&\displaystyle \left(\sum _{k=1}^{n}c_{k}u_{k}\right)^{T}\left(\sum _{j=1}^{n}\lambda _{j}c_{j}u_{j}\right)=\sum _{k=1}^{n}\lambda _{k}c_{k}^{2}\\&\leq &\left(\max _{k=1,\ldots ,n}\lambda _{k}\right)\cdot \sum _{k=1}^{n}c_{k}^{2}=\varrho (A^{T}A)\|x\|_{2}^{2}.\\\end{array}}

Beweis - 2

In der obigen Abschätzung wird für einen Eigenvektor ${\tilde {x}}\in \mathbb {R} ^{n}$ zu einem maximalen Eigenwert $\lambda _{\max }$ von $A^{T}A$ angenommen, denn

{\begin{array}{rcl}\|A{\tilde {x}}\|_{2}^{2}&=&{\tilde {x}}^{T}A^{T}A{\tilde {x}}\\&=&\lambda _{\max }{\tilde {x}}^{T}{\tilde {x}}=\lambda _{\max }\|{\tilde {x}}\|_{2}^{2}.\end{array}}

Damit ist alles bewiesen.

q.e.d.

Bemerkung - Spektralnorm

Die Matrixnorm $\|A\|_{2}$ bezeichnet man auch als Spektralnorm. Dieser Name begründet sich durch den letzten Satz bzw. die in folgendem Satz angegebene Identität für reelle, symmetrische Matrizen.

Satz - Spektralnorm für symmetrische Matrizen

Sei $A\in \mathbb {R} ^{n\times n}$ eine symmetrische Matrix, d. h. $A=A^{T}$ . Dann gilt

\|A\|_{2}=\varrho (A).

Für jede andere durch eine Vektornorm induzierte Matrixnorm $\|\cdot \|:\mathbb {R} ^{n\times n}\to \mathbb {R} _{+}$ gilt

\|A\|_{2}\leq \|A\|.

Beweis - Spektralnorm für symmetrische Matrizen

Wegen $\sigma (A^{2})=\{\lambda ^{2}|\lambda \in \sigma (A)\}$ gilt $\varrho (A^{2})=[\varrho (A)]^{2}$ und daher aufgrund der Symmetrie von $A$

\|A\|_{2}={\sqrt {\varrho (A^{T}A)}}={\sqrt {\varrho (A^{2})}}=\varrho (A).

Der zweite Teil der Behauptung folgt nun mit (2.4).

q.e.d.

Beispiel 1a - Symmetrische Matrix - Übertragbarkeit auf induzierte Matrixnorm

Die symmetrische Matrix

A={\begin{pmatrix}1&3\\3&2\end{pmatrix}}

besitzt die Eigenwerte $\lambda _{1,2}=(3\pm {\sqrt {37}})/2$ , so dass folgt:

\|A\|_{2}=(3+{\sqrt {37}})/2\approx 4.541.

Beispiel 1b - Symmetrische Matrix - Übertragbarkeit auf induzierte Matrixnorm

Weiter hat man $\|A\|_{\infty }=\|A\|_{1}=5$ . Damit zeigt dieses Beispiel, dass sich die im Spektralnormsatz für symmetrische Matrizen stehenden Beziehungen $\|x\|_{\infty }\leq \|x\|_{2}\leq \|x\|_{1},x\in \mathbb {R} ^{n}$ nicht auf die entsprechenden induzierten Matrixnormen übertragen lassen.

Beispiel 2 - Nicht-symmetrische Matrizen

Für die nicht symmetrische Matrix $A\in \mathbb {R} ^{2\times 2}$ , definiert durch

A={\begin{pmatrix}0&1\\0&1\end{pmatrix}}\Rightarrow A^{T}A={\begin{pmatrix}0&0\\0&2\end{pmatrix}},

gilt offenbar $\varrho (A)=1=\|A\|_{\infty },\|A\|_{2}={\sqrt {2}}$ und $\|A\|_{1}=2$ . Letzteres zeigt, dass auf die Voraussetzung „ $A=A^{T}$ “ in Satz 2.15 nicht verzichtet werden kann.